Bu presenoldeb Cristnogol ar y safle hwn ers y 6ed ganrif, o leiaf, o dan y ddau Esgob cyntaf, Dyfrig (Dubricius) a Theilo. Mae tystiolaeth archeolegol cyn-Normanaidd ar gyfer yr eglwys ganol-oesol i’w gael ar ffurf y groes o’r 10fed/11eg Ganrif yn yr eil ddeheuol yn ogystal ag ôl beddau wedi’gosod yn yr adeilad ar yr ochr orllewinol.
Mae’r adeilad presennol yn dyddio o’r cyfnod Normanaidd, tua 1120, pan ddaeth yr Esgob Urban â gweddillion Sant Dyfrig o Ynys Enlli i Landaf.
Mae bwa’r cysegr yn deillio o gyfnod Urban gyda’i ffurfiau siâp cylch neu fedaliwn. Mae Gwaith Normanaidd diweddarach yn cael ei gynrychioli gan y porth Gogleddol a’r Porth Deheuol. Mae’r pyrth yma’n dyddio o tua diwedd y ddeuddegfed ganrif, mewn cyfnod pan bu i’r Esgob William Saltmarsh ymestyn neu adfer eglwys Urban gan ddefnyddio seiri maen o Abaty Awgwstin Sant ym Mryste.
Olynydd Saltmarsh, Henri o’r Fenni, oedd yn gyfrifol am adeiladu’r talcen gorllewinol Gothig cynnar sy’n parhau hyd heddiw, yn ogystal â’r Corff. Mae’n bosib y bu i’r esgobion canlynol barhau â’r gwaith. Mae’r cynllun yn cael ei briodoli i ‘Ysgol Seiri Maen De Orllewin Lloegr’ sy’n deillio o Wells a Glastonbury. Erbyn canol y 13eg Ganrif, ategwyd Tŷ’r Cabidwl ac yna adeilwyd Capel Mair gan Gwilym Brewys yn ystod ei gyfnod yn esgob (m.1287).
Mae’r gadeirlan wedi dioddef tri chyfnod o galedi o gynnwrf ac adfer. Yn ystod blynyddoedd cynnar y 18fed Ganrif, pan nad oedd to ar gorff y Gadeirlan yn dilyn cwymp y tŵr De-ddwyreiniol, adeiladodd y pensaer John Wood yr hynaf o Gaerfaddon Gadeirlan Newydd y tu hwnt i’r corff, ar ffurf teml Eidalaidd.
Dymchwelwyd eglwys Wood, nad oedd yn boblogaidd iawn, yn ystod y cyfnod adfer Fictorianaidd a ddechreuodd yn y 1840au o dan y penseiri John Prichard a John Pollard ac a arweiniodd at adeiladu’r tŵr de-orllewinol Newydd (Tŵr Prichard) ym 1867-1869. Ar Ionawr 2il 1941, glaniodd fom parasiwt ar ochr ddeheuol y Gadeirlan, ar ôl dal ar Dŵr Prichard. Wedi cwymp y to a’r eil ddeheuol, Llandaf oedd y Gadeirlan a ddioeddefodd y distryw mwyaf yn yr ail ryfel byd ar ôl Coventry. Cyflawnwyd y gwaith o adfer wedi’r rhyfel gan y pensaer George Pace, gyda Chadeirlan ar ei newydd wedd a Chapel Dafydd ar yr ochr ogleddol. Cynhaliwyd gwasanaeth i nodi’r agoriad, a fynychwyd gan y Frenhines Elizabeth II a Thywysog Philip, Dug Caeredin ym 1960.