Evolucija 3D upodabljanja scene: od NeRF, ADOP in Gaussian Splatting do TRIPS

Categorized as 3D, AI/ML Tagged , , , ,
Save and Share:

Področje 3D grafike je priča izjemnemu razvoju, še posebej v tehnikah, ki se uporabljajo za upodabljanje kompleksnih scen. Ta članek se poglobi v zapletenost treh ključnih tehnologij, ki so oblikovale to področje: NeRF (Neural Radiance Fields), ADOP (Approximate Differentiable One-Pixel Point Rendering), Gaussian Splatting in TRIPS (Trilinear Point Splatting for Real-Time Radiance Field Rendering). Vsaka od teh tehnologij predstavlja korak naprej v našem prizadevanju za ustvarjanje vedno bolj realističnih virtualnih svetov.

Neural Radiance Fields (NeRF)

NeRF se je pojavil kot prebojen pristop, ki transformira zbirko 2D slik v 3D sceno, po kateri se je mogoče premikati. Uporablja nevronsko mrežo za učenje 3D reprezentacije scene visoke ločljivosti, kar omogoča upodabljanje slik iz različnih zornih kotov z osupljivo natančnostjo in fotorealizmom. Tehnologija je našla uporabo na različnih področjih, od virtualne resničnosti do avtonomne navigacije.

Instant NeRF: naslednji korak

Pomemben napredek v tehnologiji NeRF je Instant NeRF. Razvil ga je NVIDIA in bistveno pospeši proces, saj se uči na nekaj ducatih fotografij v nekaj sekundah in upodablja 3D sceno v milisekundah. Ta hitra zmogljivost upodabljanja odpira nove možnosti za aplikacije v realnem času in bi lahko revolucionarno spremenila ustvarjanje 3D vsebine.

ADOP: Approximate Differentiable One-Pixel Point Rendering

ADOP, kar je kratica za Approximate Differentiable One-Pixel Point Rendering, je na točkah temelječa, diferencirajoča nevronska upodabljalna cev, ki so jo predstavili Darius Rückert, Linus Franke in Marc Stamminger. Ta sistem je zasnovan tako, da kot vhod sprejema kalibrirane slike kamere in proksi geometrijo scene, običajno oblak točk. Oblak točk se nato rasterizira z naučenimi vektorskimi značilnostmi kot barvami, globoka nevronska mreža pa se uporabi za zapolnjevanje vrzeli in senčenje vsakega izhodnega piksla.

Rasterizator v ADOP-u upodablja točke kot enopikselne splat-e, kar ni le zelo hitro, temveč omogoča tudi učinkovito računanje gradientov glede na vse relevantne vhodne parametre. Zaradi tega je posebej primeren za aplikacije, ki zahtevajo hitrosti upodabljanja v realnem času, tudi za modele z več kot 100 milijoni točk.

Poleg tega ADOP vključuje popolnoma diferencirajoč fizikalno utemeljen fotometrični model kamere, ki zajema osvetlitev, ravnovesje beline in funkcijo odziva kamere. Z upoštevanjem načel inverznega upodabljanja ADOP izboljša svoj vhod, da zmanjša nedoslednosti in optimizira kakovost svojega izhoda. To vključuje optimizacijo strukturnih parametrov, kot so poza kamere, popačenja leče, položaji točk in značilnosti, pa tudi fotometričnih parametrov, kot so funkcija odziva kamere, vinjetiranje ter osvetlitev in ravnovesje beline na sliko.

Zaradi svoje sposobnosti gladkega obravnavanja vhodnih slik z različno osvetlitvijo in ravnovesjem beline ter svoje zmožnosti ustvarjanja izhoda z visokim dinamičnim razponom ADOP predstavlja pomemben napredek na področju nevronskega upodabljanja. Če vas zanima računalniška grafika, še posebej alternative Gaussian splattingu, bi lahko bil ADOP-ov pristop k rasterizaciji točk in izboljšanju scene zelo relevanten za vaše delo ali raziskave.

Gaussian Splatting

Če preidemo na tradicionalne metode, Gaussian Splatting velja za preizkušeno tehniko za volumensko upodabljanje in grafiko, ki temelji na točkah. 3D podatke projicira na 2D ravnino z uporabo Gaussovih porazdelitev, s čimer ustvarja gladke prehode in upodablja volumetrične podatke, kot so medicinski pregledi, z impresivno jasnostjo.

Nedavni razvoj

Nedavni napredki so uvedli 3D Gaussian Splatting (3DGS), ki pospeši hitrosti upodabljanja in zagotavlja eksplicitno reprezentacijo scen. To olajša dinamično rekonstrukcijo in naloge urejanja, s čimer se premikajo meje tega, kar je mogoče doseči s tradicionalnimi metodami splattinga.

TRIPS: meja upodabljanja v realnem času

TRIPS predstavlja najsodobnejšo tehnologijo, ki združuje prednosti Gaussian Splattinga in ADOP-a (Adaptive Density Point Clouds). Točke rasterizira v piramido slik v prostoru zaslona, kar omogoča upodabljanje velikih točk z enim samim trilinearnim zapisom. Lahka nevronska mreža nato rekonstruira podrobno sliko brez lukenj.

Zakaj TRIPS izstopa

  • Delovanje v realnem času: TRIPS vzdržuje hitrost 60 sličic na sekundo na standardni strojni opremi, zaradi česar je primeren za aplikacije v realnem času.
  • Diferencirajoča upodabljalna cev: Diferenciabilnost cevi pomeni, da je mogoče velikosti in položaje točk optimizirati samodejno, kar izboljša kakovost upodobljene scene.
  • Kakovost v zahtevnih scenarijih: TRIPS se odlično obnese pri upodabljanju kompleksnih geometrij in obsežnih pokrajin, saj zagotavlja boljšo časovno stabilnost in podrobnosti kot prejšnje metode.

TRIPS Cev

TRIPS trilinearno upodablja oblak točk kot 2x2x2 splat-e v večplastne zemljevide značilnosti, pri čemer se rezultati prenesejo skozi majhno nevronsko mrežo, ki vsebuje samo en sam gatelni konvolucijski sloj na plast. Ta cev je popolnoma diferencirajoča, kar omogoča optimizacijo opisnikov točk (barv) in položajev, pa tudi parametrov kamere, prek gradientnega spusta.
Trilinearni Point Splatting: (levo) Vse točke in njihove ustrezne velikosti so projicirane na ciljno sliko. Na podlagi te velikosti v prostoru zaslona se vsaka točka zapiše v pravilno plast slikovne piramide z uporabo trilinearnega pisanja (desno). Velike točke so zapisane v plasteh nižje ločljivosti in zato zavzemajo več prostora v končni sliki.

TRIPS Viri

Zaključek

Pot od NeRF do TRIPS zajema hiter napredek pri 3D upodabljanju scene. Ko se premikamo k učinkovitejšim metodam z visoko zvestobo, potencial za ustvarjanje poglobljenih virtualnih izkušenj postaja vse bolj oprijemljiv. Te tehnologije ne le premikajo meje v grafiki, ampak tudi utirajo pot inovacijam v različnih panogah, od zabave do urbanističnega načrtovanja.

Za tiste, ki želijo globlje raziskati te tehnologije, je na voljo bogastvo virov, vključno s celovitimi pregledi in platformami z odprto kodo, ki olajšujejo razvoj projektov NeRF. Prihodnost 3D upodabljanja je svetla in prav tehnologije, kot so NeRF, Gaussian Splatting in TRIPS, bodo osvetlile pot naprej.

Leave a comment

Vaš e-naslov ne bo objavljen. * označuje zahtevana polja