En närmare titt på Googles stora utvecklare bakom GPT-4 och vilka startups de driver idag
I korthet
Skaparna av Transformers neurala nätverksarkitektur lämnade Google för att starta sina egna företag, som har samlat in miljontals dollar och värderas till mer än 1 miljard dollar.
Om du tittade på serien "Silicon Valley" och inte missade det sista avsnittet, kom ihåg hur det hela slutade: laget träffas tjugo år senare och påminner om det förflutna.
Låt oss se vad som hände med författarna till Transformers neurala nätverksarkitektur som ligger bakom ChatGPT och GPT-4. Laget var featured i artikeln "Uppmärksamhet är allt du behöver” av Google Research (juni 2017). Författarna listas nedan i samma ordning som i Googles artikel.
Ashish Vaswani lämnade Google i slutet av 2021 för att starta Skicklig, som har samlat in $415 miljoner och är värderat till över $1 miljard hittills. Ashish lämnade dock Adept för några månader sedan – i december 2022, omedelbart efter utgivningen av ChatGPT— och grundade en ny startup. I nuläget är startupen fortfarande namnlös, och det är inte klart hur många som har gått med i företaget och vad de jobbar med.
Tillbaka på Google arbetade Vaswani med designen av modellen i ett tidigt skede och programmerade det hela.
Noam Shazeer arbetat på Google i över 20 år, sedan december 2000. I oktober 2021 slutade han och grundade startupen character.ai. Sedan dess har företaget redan tagit in 200 miljoner dollar och nått en värdering på nästan 1 miljard dollar. Enligt LinkedIn arbetar det cirka 20 anställda där, så värdet per dollar är imponerande. Det var Noam som introducerade idén om olika "huvuden" i uppmärksamhetsmekanismen.
Niki Parmar, den enda kvinnliga medförfattaren till artikeln, var personalforskare i Google Brain-teamet fram till november 2021. Sedan gick hon med Ashish Vaswani på Adept. Men, som vi redan vet, stannade de inte där länge och gick tillsammans för att starta ett nytt projekt. Niki har gjort många tränings- och modellvalideringsexperiment.
Jakob Uszkoreit — många kallar honom huvudhjärnan bakom uppfinningen av transformatorarkitekturen. Det var han som föreslog att ersätta återkommande nätverk med en liknande "uppmärksamhet"-mekanism och började ta prototyper av det första tillvägagångssättet. Han lämnade Google i mitten av 2021 och grundade Inceptivt liv, där teamet arbetar med neurala nätverksmodelleringar av mRNA. mRNA är det som (ibland) ligger till grund för vacciner (till exempel Pfizer-BioNTechs Covid-19-vaccin).
Lion Jones är den enda personen på den här listan som arbetar på Google till denna dag. Enligt honom var det han som föreslog titeln på artikeln, som blev ett meme och gav upphov till dussintals andra artiklar med mönstret "X is allt du behöver". Han var också ansvarig för att optimera modellinferens och visualisering för experiment och artiklar.
Aidan Gomez lämnade Google hösten 2019 för att grunda Cohere.ai. Företaget fortsätter att arbeta med språkmodeller; några av deras produkter liknar de användningsfall som folk hade under de första dagarna efter lanseringen av ChatGPT. Lyckades attrahera mer än 400 miljoner dollar i investeringar och växa företaget till nästan 200 anställda.
Lukasz Kaiser, efter mer än sju år på Google, lämnade sommaren 2021 för att arbeta på OpenAI. I originalartikeln står det att Lukasz var ansvarig för utvecklingen och optimeringen av koden. Han är en av medförfattarna till TensorFlow, ett bibliotek för att skapa och träna neurala nätverk. Han är en mycket stark ingenjör – och jobbar nu på GPT 👀 Som en del av arbetet med Transformer arbetade han med Aidan Gomez för att förbättra kodbasen och påskynda iterationer i forskningsarbete (genom enklare interaktion och prototypframställning).
Illia Polosukhin lämnade Google 2017, innan artikeln släpptes, för att hitta Nära, ett blockchain-protokoll som i huvudsak är en konkurrent till Ethereum. Dess nuvarande värdering är cirka 2 miljarder dollar, och på bara sex år har mer än 375 miljoner dollar samlats in som investeringar.
Läs mer om AI:
Villkor
I linje med den Riktlinjer för Trust Project, vänligen notera att informationen på den här sidan inte är avsedd att vara och inte ska tolkas som juridisk, skattemässig, investerings-, finansiell eller någon annan form av rådgivning. Det är viktigt att bara investera det du har råd att förlora och att söka oberoende finansiell rådgivning om du har några tvivel. För ytterligare information föreslår vi att du hänvisar till villkoren samt hjälp- och supportsidorna som tillhandahålls av utfärdaren eller annonsören. MetaversePost är engagerad i korrekt, opartisk rapportering, men marknadsförhållandena kan ändras utan föregående meddelande.
Om författaren
Damir är teamledare, produktchef och redaktör på Metaverse Post, som täcker ämnen som AI/ML, AGI, LLMs, Metaverse och Web3-relaterade områden. Hans artiklar lockar en massiv publik på över en miljon användare varje månad. Han verkar vara en expert med 10 års erfarenhet av SEO och digital marknadsföring. Damir har nämnts i Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto och andra publikationer. Han reser mellan Förenade Arabemiraten, Turkiet, Ryssland och OSS som en digital nomad. Damir tog en kandidatexamen i fysik, som han tror har gett honom de kritiska tänkande färdigheter som behövs för att bli framgångsrik i det ständigt föränderliga landskapet på internet.
fler artiklar
Damir är teamledare, produktchef och redaktör på Metaverse Post, som täcker ämnen som AI/ML, AGI, LLMs, Metaverse och Web3-relaterade områden. Hans artiklar lockar en massiv publik på över en miljon användare varje månad. Han verkar vara en expert med 10 års erfarenhet av SEO och digital marknadsföring. Damir har nämnts i Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto och andra publikationer. Han reser mellan Förenade Arabemiraten, Turkiet, Ryssland och OSS som en digital nomad. Damir tog en kandidatexamen i fysik, som han tror har gett honom de kritiska tänkande färdigheter som behövs för att bli framgångsrik i det ständigt föränderliga landskapet på internet.
