Optička koherentna tomografija (OCT) slika retina omogućava strukturalni prikaz i daje uvid u patološke promjene prisutne kod senilne makularne degeneracije (SMD). S obzirom na trodimenzionalnost i kompleksnost slika, manualna analiza patoloških značajki je teška, vremenski zahtjevna i podložna subjektivnosti. Stoga je računalna analiza 3D OCT slika nužan preduvjet za automatsko kvantitativno mjerenje značajki, na objektivan način u sklopu kliničke prakse. Kako nadzirana i polu-nadzirana automatska segmentacija bazirana na dubokom učenju ovisi o podacima za treniranje i o kvaliteti anotacija, prikupljena je nova baza anotiranih retinalnih OCT slika (AROI baza). Sastoji se od 1136 slika pacijenata koji boluju od SMD s pripadajućim anotacijama patoloških promjena (akumulacije tekućina i slične patološke promjene) i osnovnih anatomskih struktura (slojeva). Izračunata je procjena ljudske varijabilnosti kako bi se omogućila usporedba i validacija razvijenih algoritama u odnosu na ljudsku varijabilnost. Time je razvijen radni okvir za provjeru metoda za segmentaciju OCT slika koji se sastoji od javno dostupne baze slika s ručno označenim značajkama te metodologije i od programskog koda za standardizirano mjerenje točnosti segmentacije čime je ostvaren prvi znanstveni doprinos. U slučaju retinalnih OCT slika pacijenata koji boluju od SMD dolazi do značajne deformacije strukture retine. Time je onemogućena segmentacija slojeva retine bez uvođenja informacija o patološkim promjenama bez značajnog narušavanja točnosti segmentacije razvijenih modela. Zato je odabran pristup segmentacije slojeva pri čemu se uzima u obzir informacija o tekućinama, odnosno istovremena segmentacija slojeva i tekućina. Provedena je automatska segmentacija sa standardnom U-net arhitekturom i dvije napredne i češće korištene arhitekture za segmentaciju medicinskih slika kako bi se postavila osnova za daljnji razvoj algoritama i dobio uvid u izazove automatske segmentacije. Nakon što je provedena analiza kako razne arhitekture i njihove modifikacije djeluju na točnost i performanse segmentacije, provedena je analiza djelovanja raznih manipulacija nad podacima (povećanje podataka, obrada slika) na performanse segmentacije. Na osnovu svih ispitanih metoda, napravljena je usporedba i prijedlog dvaju modela za segmentaciju slojeva retine i intraretinalnih tekućina u slikama optičke koherentne tomografije koji daju sumjerljive rezultate. Jedan model se sastoji od standardne U-net arhitekture uz obradu predikcija pomoću uvjetnih slučajnih polja (eng. conditional random fields). Drugi model se sastoji od arhitekture neuronske mreže koja kombinira dobre značajke U-net arhitekture i ResNet arhitekture. Postojeća napredna (eng. state-of-the-art) arhitektura prilagođena je za dani problem i unaprijeđena dodavanjem veza (eng. skip connections). Dodatno, točnost segmentacije je poboljšana uporabom augmentacije podataka (eng. data augmentation) i obradom predikcija pomoću uvjetnih slučajnih polja. Time je ostvaren drugi znanstveni doprinos. Napravljena je komparativna kvantitativna analiza segmentacije samo tekućina i segmentacije tekućina uz dostupne informacije o slojevima kako bi se dobio uvid koliko informacije o slojevima, odnosno poziciji tekućina u retini doprinose točnosti segmentacije samih tekućina. Provedeno je istraživanje efikasnosti prijenosnog učenja koje je aktivna i nedovoljno istražena tema u području dubokog učenja s primjenama u medicini na temelju čega je predložena metoda za segmentaciju intraretinalnih tekućina u slikama optičke koherentne tomografije. Time je ostvaren treći znanstveni doprinos. Zaključno su izneseni i istaknuti glavni izazovi automatske segmentacije te dane ideje za daljnja istraživanja i poboljšanja.