Bliži pogled na Googleove velike programere koji stoje iza GPT-4 i koje startupove danas vode
Ukratko
Tvorci arhitekture neuronske mreže Transformer napustili su Google kako bi pokrenuli vlastite tvrtke koje su prikupile milijune dolara i procjenjuju se na više od milijardu dolara.
Ako ste gledali seriju “Silicon Valley” i niste propustili posljednju epizodu, sjetite se kako je sve završilo: ekipa se okuplja dvadeset godina kasnije, prisjećajući se prošlosti.
Pogledajmo što se dogodilo s autorima arhitekture neuronske mreže Transformer koja je u osnovi ChatGPT i GPT-4. Tim je bio featured u članku "Pažnja je sve što trebate” Google Research (lipanj 2017.). Autori su dolje navedeni istim redoslijedom kao u Googleovom članku.
Ashish Vaswani napustio Google krajem 2021. da bi započeo Vješt, koji je prikupio 415 milijuna dolara i do sada se procjenjuje na preko milijardu dolara. Međutim, Ashish je napustio Adept prije nekoliko mjeseci — u prosincu 1., odmah nakon objavljivanja ChatGPT— i osnovao novi startup. Trenutno je startup još bezimen, a nije jasno koliko se ljudi pridružilo tvrtki i na čemu rade.
Vrativši se u Google, Vaswani je radio na dizajnu modela u ranim fazama i programirao cijelu stvar.
Noam Shazeer radio je u Googleu više od 20 godina, od prosinca 2000. U listopadu 2021. dao je otkaz i osnovao startup Karakter.ai. Od tada je tvrtka već prikupila 200 milijuna dolara i dosegla vrijednost od gotovo milijardu dolara. Prema LinkedInu, tamo radi oko 1 zaposlenika, tako da je vrijednost po dolaru impresivna. Noam je bio taj koji je uveo ideju različitih "glava" u mehanizam pažnje.
| Pročitajte više: Kako koristiti ChatGPT (GPT-4) besplatno zauvijek |
Niki Parmar, jedina žena koautorica članka, bila je istraživač u timu Google Brain do studenog 2021. Zatim se pridružila Ashish Vaswani u Adeptu. No, kako već znamo, tamo se nisu dugo zadržali te su zajedno otišli u novi projekt. Niki je proveo mnoge pokuse obuke i provjere valjanosti modela.
Jakob Uszkoreit — mnogi ga nazivaju glavnim mozgom iza izuma Transformer arhitekture. On je bio taj koji je predložio zamjenu rekurentnih mreža sličnim mehanizmom "pozornosti" i započeo izradu prototipa prvog pristupa. Napustio je Google sredinom 2021. i osnovao Inceptivni život, gdje tim radi na modeliranju neuronske mreže mRNA. mRNA je ono što (ponekad) podupire cjepiva (na primjer, cjepivo protiv Covid-19 tvrtke Pfizer-BioNTech).
Llion Jones je jedina osoba na ovom popisu koja do danas radi u Googleu. Prema njegovim riječima, upravo je on predložio naslov članka, koji je postao meme i iznjedrio desetke drugih članaka s uzorkom "X je sve što vam treba". Također je bio odgovoran za optimizaciju modela zaključivanja i vizualizacije za eksperimente i članke.
| Pročitajte više: Najbolji AI alati za otkrivanje sadržaja u 2023 |
Aidan Gomez napustio Google u jesen 2019. kako bi osnovao Cohere.ai. Tvrtka nastavlja raditi na jezičnim modelima; neki od njihovih proizvoda slični su slučajevima korištenja koje su ljudi imali u prvim danima nakon puštanja u promet ChatGPT. Uspio privući više od 400 milijuna dolara ulaganja i povećati tvrtku na gotovo 200 zaposlenika.
Lukasz Kaiser, nakon više od sedam godina u Googleu, otišao je u ljeto 2021. da radi u OpenAI. Izvorni članak navodi da je Lukasz odgovoran za razvoj i optimizaciju koda. Jedan je od koautora TensorFlow, biblioteke za stvaranje i obuku neuronskih mreža. On je vrlo snažan inženjer—i sada radi na tome GPT 👀 Kao dio rada na Transformeru, radio je s Aidanom Gomezom na poboljšanju kodne baze i ubrzanju iteracija u istraživačkom radu (kroz lakšu interakciju i izradu prototipova).
Ilija Polosukhin napustio je Google 2017., prije objave članka, kako bi osnovao Blizu, blockchain protokol koji je u biti konkurent Ethereumu. Njegova trenutna vrijednost je oko 2 milijarde dolara, au samo šest godina prikupljeno je više od 375 milijuna dolara kao ulaganja.
Pročitajte više o AI:
Izjava o odricanju od odgovornosti
U skladu s Smjernice projekta povjerenja, imajte na umu da informacije navedene na ovoj stranici nemaju namjeru i ne smiju se tumačiti kao pravni, porezni, investicijski, financijski ili bilo koji drugi oblik savjeta. Važno je ulagati samo ono što si možete priuštiti izgubiti i potražiti neovisni financijski savjet ako imate bilo kakvih nedoumica. Za dodatne informacije predlažemo da pogledate odredbe i uvjete, kao i stranice za pomoć i podršku koje pruža izdavatelj ili oglašivač. MetaversePost je predan točnom, nepristranom izvješćivanju, ali tržišni uvjeti podložni su promjenama bez prethodne najave.
O autoru
Damir je voditelj tima, product manager i urednik u Metaverse Post, koji pokriva teme kao što su AI/ML, AGI, LLMs, Metaverse i Web3- srodna polja. Njegovi članci privlače ogromnu publiku od preko milijun korisnika svakog mjeseca. Čini se da je stručnjak s 10 godina iskustva u SEO-u i digitalnom marketingu. Damir je spomenut u Mashableu, Wiredu, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto i druge publikacije. Putuje između UAE, Turske, Rusije i CIS-a kao digitalni nomad. Damir je stekao diplomu prvostupnika fizike, za koju vjeruje da mu je dala vještine kritičkog razmišljanja potrebne za uspjeh u stalno promjenjivom okruženju interneta.
Više članaka
Damir je voditelj tima, product manager i urednik u Metaverse Post, koji pokriva teme kao što su AI/ML, AGI, LLMs, Metaverse i Web3- srodna polja. Njegovi članci privlače ogromnu publiku od preko milijun korisnika svakog mjeseca. Čini se da je stručnjak s 10 godina iskustva u SEO-u i digitalnom marketingu. Damir je spomenut u Mashableu, Wiredu, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto i druge publikacije. Putuje između UAE, Turske, Rusije i CIS-a kao digitalni nomad. Damir je stekao diplomu prvostupnika fizike, za koju vjeruje da mu je dala vještine kritičkog razmišljanja potrebne za uspjeh u stalno promjenjivom okruženju interneta.
