U ovome doktorskom radu predstavljeni su rezultati istraživanja u Grupi za kvantne tehnologije na Institutu za fiziku, pod mentorstvom dr. sc. Ticijane Ban. Istraživanje je započeto u sklopu HrZZ projekta „Optomehanika uzrokovana frekventnim češljem“, a obuhvaća eksperimentalni rad u području hladnih atoma nastalih u magneto-optičkoj stupici s ciljem istraživanja radijativnih sila na hladne atome koje nastaju kao rezultat obasjavanja atoma laserskom svjetlošću kontinuiranog i pulsnog zračenja. Doktorski rad podijeljen je tematski u dvije cjeline. U prvoj cjelini istražuje se radijativna sila uzrokovana optičkim frekventnim češljem na gusti oblak hladnih atoma koji se nalazi u slobodnom prostoru. Cilj ovog istraživanja bio je proučavanje utjecaja kolektivnih efekata na radijativnu silu uzrokovanu pulsnom pobudom. U drugoj cjelini atomi su smješteni unutar visoko-reflektirajućeg optičkog rezonatora te obasjani frekventnim češljem u longitudinalnoj geometriji (pumpanjem kroz zrcala rezonatora) i transverzalnoj geometriji. Cilj ovog istraživanja bio je ispitati utjecaj kompleksnog potencijala koji nastaje vezanjem frekventnog češlja i modova optičkog rezonatora na hladne atome. Očekuje se da takav potencijal dovodi do hlađenja i zarobljavanja atoma potpomognutih optičkim rezonatorom. U ovom doktorskom radu po prvi se put izgradio eksperiment koji omogućava proučavanje dinamike hladnih atoma u kompleksnom optičkom potencijalu unutar multi-modnog optičkog rezonatora i po prvi su put opaženi efekti interakcije hladnih atoma s poljem frekventnog češlja unutar visoko-reflektirajućeg rezonatora. Navedena eksperimentalna istraživanja jedinstvena su u dosadašnjoj literaturi i predstavljaju glavni rezultat ovog doktorskog rada. Doktorski rad organiziran je na sljedeći način. U Uvodu se obrazlažu područje i ciljevi istraživanja iz obje tematike rada, te sadržaj doktorskog rada. U drugome poglavlju uvode se teorijski formalizam i osnovni pojmovi nužni za razumijevanje tematike istraživanja. Teorijski dio obuhvaća opis radijativnih sila na atome, svojstva optičkih rezonatora i frekventnog češlja, kao i kvantno-mehanički pristup interakcije atoma i svjetlosti u rezonatoru, a koji daje uvid u nove efekte poput hlađenja i samo-organizacije atoma. U trećem poglavlju istražuje se radijativna sila na atome inducirana frekventnim češljem u gustom oblaku hladnih atoma u slobodnom prostoru. Opažena je promjena sile u odnosu na rijetki oblak, što ukazuje na postojanje kolektivnih efekata. Ispitan je utjecaj koherentnih i ne-koherentnih kolektivnih efekata te je zaključeno da je dominantan doprinos promjeni sile u gustom oblaku atoma rezultat Beer-Lambertovog zakona koji opisuje atenuaciju svjetlosti pri propagaciji kroz gusti medij, a rezultat je više-brojnog raspršenja svjetlosti unutar gustog medija. Dodatno, pokazano je da se eksperimentalni rezultati mogu objasniti modelima koji su razvijeni za slučaj međudjelovanja hladnih atoma i lasera kontinuiranog zračenja, što ukazuje da, za dane eksperimentalne parametre, od mnoštva spektralnih modova optičkog frekventnog češlja dominantno međudjelovanje s atomima dolazi prvenstveno od jednog moda i to onog koji je najbliže atomskoj rezonanciji. Razumijevanje radijativne sile u gustim oblacima hladnih atoma značajno je za eksperimente hlađenja atoma frekventnim češljem, kao i za eksperimente u kojima se frekventni češalj planira koristiti za demonstraciju multi-modnih kvantnih memorija. U četvrtom poglavlju prikazani su rezultati istraživanja koji su provedeni na sistemu hladnih atoma smještenih unutar visoko-reflektirajućeg rezonatora, a koji su obasjavani laserom kontinuirane emisije i optičkim frekventnim češljem u longitudinalnoj geometriji (pumpanje kroz zrcalo rezonatora). Cilj istraživanja bio je razumjeti efekte potaknute optičkim rezonatorom kada se atomi obasjavaju izvorom svjetlosti kao što je optički frekventni češalj, koji omogućuje istovremeno sprezanje nekoliko tisuća spektralnih modova s modovima optičkog rezonatora. Pri tome, atomi smješteni unutar rezonatora ne vide klasični sinusni optički potencijal kao u slučaju lasera kontinuiranog zračenja, već optički potencijal unutar rezonatora može poprimiti kompleksnu strukturu što otvara vrata novim eksperimentima u području kvantnih simulatora usmjerenih prema rješavanju problema optimizacije. Ispitivanje se prvo vršilo s laserom kontinuiranog zračenja kako bi se moglo nedvojbeno zaključiti o efektima koji su posljedica multikomponentnog optičkog frekventnog češlja. Eksperiment se provodio za različite uvjete vezanja svjetlosti lasera i atoma, različite snage pumpnog lasera te za guste i rijetke oblake atoma s temperaturama ispod i iznad Dopplerove temperature. U slučaju interakcije s laserom kontinuiranog zračenja, u specifičnim eksperimentalnim uvjetima uočena je bimodalna prostorna raspodjela atoma koja je ostala postojana i prilikom slobodne ekspanzije atoma mjerene tehnikom vremena proleta (TOF). U svrhu razumijevanja opaženih rezultata, a prvenstveno da se razluče efekti koji dolaze kao posljedica zarobljavanja atoma u potencijal optičke rešetke unutar rezonatora od onih koji su posljedica utjecaja rezonatora na dinamiku atoma, korišten je već razvijeni numerički kod koji se prilagodio za dane eksperimentalne parametre. Pokazano je da se opaženi efekt bimodalne distribucije u potpunosti može opisati zarobljavanjem atoma u sinusni optički potencijal unutar rezonatora. Koristeći frekventni češalj za longitudinalnu pobudu, opažen je efekt istovremene interakcije hladnih atoma smještenih unutar rezonatora i niza ne-rezonantnih modova frekventnog češlja u vidu povećanja i smanjenja intenziteta transmitirane svjetlosti zbog disperzivnog utjecaja atoma na modove optičkog rezonatora. Ovi rezultati predstavljaju prvu eksperimentalnu realizaciju multi-modnog pobuđenja atoma unutar visoko-reflektirajućeg rezonatora. Osim u transmisiji, potpis interakcije opaža se i u prostornoj distribuciji atoma mjerenoj TOF tehnikom koja nam daje direktan uvid u brzinsku distribuciju atoma. Opaženi su efekti smanjenja i povećanja širine distribucije brzine atoma kao posljedice njihovog pobuđenja s frekventnim češljem, što može ukazivati na mehanizme rezonatorom potpomognutog hlađenja i grijanja atoma, ali i na mehanizme zarobljavanja u optički potencijal unutar rezonatora. Kako bi se jasno razlučilo između ova dva mehanizma, ispitana je i geometrija transverzalnog pumpanja atoma u rezonatoru upotrebom optičkog frekventnog češlja, u kojoj ne postoji optički potencijal unutar rezonatora koji je odgovoran za zarobljavanje atoma te se dominantan efekt rezonatora očituje na dinamici atoma, tj. smanjenju ili povećanju kinetičke energije atoma unutar rezonatora. Rezultati su prikazani na kraju doktorskog rada te otvaraju niz novih pitanja i mogućnosti za daljnja istraživanja. U petome poglavlju dan je zaključni pregled rezultata ovog doktorskog rada, kao i perspektive za daljnja istraživanja i rješavanje pitanja koje je moj dosadašnji rad pokrenuo.