Bližší pohled na přední vývojáře Googlu GPT-4 a jaké startupy dnes provozují
Stručně
Tvůrci architektury neuronové sítě Transformer opustili Google, aby zahájili své vlastní podniky, které vydělaly miliony dolarů a jsou oceněny na více než 1 miliardu dolarů.
Pokud jste sledovali seriál „Silicon Valley“ a nenechali jste si ujít poslední díl, pak si vzpomeňte, jak to všechno skončilo: tým se o dvacet let později sešel a zavzpomínal na minulost.
Podívejme se, co se stalo s autory architektury neuronové sítě Transformer, která je základem ChatGPT a GPT-4. Tým byl featured v článku"Pozornost je vše, co potřebujete“ od Google Research (červen 2017). Autoři jsou níže uvedeni ve stejném pořadí jako v článku Google.
Ashish Vaswani opustil Google na konci roku 2021 a začal zběhlý, která získala 415 milionů dolarů a její hodnota je zatím přes 1 miliardu dolarů. Ashish však Adept opustil před několika měsíci – v prosinci 2022, ihned po vydání ChatGPT— a založil nový startup. V tuto chvíli je startup stále bezejmenný a není jasné, kolik lidí do společnosti vstoupilo a na čem pracují.
Vaswani ve společnosti Google pracoval na návrhu modelu v raných fázích a celou věc naprogramoval.
Noam Shazeer pracoval ve společnosti Google více než 20 let, od prosince 2000. V říjnu 2021 skončil a založil startup postava.ai. Od té doby společnost získala již 200 milionů dolarů a dosáhla valuace téměř 1 miliardy dolarů. Podle LinkedIn tam pracuje asi 20 zaměstnanců, takže hodnota za dolar je působivá. Byl to Noam, kdo představil myšlenku různých „hlav“ v mechanismu pozornosti.
Čtěte více: Jak používat ChatGPT (GPT-4) navždy zdarma |
Niki Parmar, jediná spoluautorka článku, byla do listopadu 2021 výzkumnou pracovnicí týmu Google Brain. Poté se připojila k Ashish Vaswani ve společnosti Adept. Jak už ale víme, dlouho tam nevydrželi a odjeli společně rozjet nový projekt. Niki provedla mnoho tréninkových a modelových validačních experimentů.
Jakob Uszkoreit — mnozí ho nazývají hlavním mozkem za vynálezem architektury Transformer. Byl to on, kdo navrhl nahradit rekurentní sítě podobným mechanismem „pozornosti“ a začal prototypovat první přístup. V polovině roku 2021 Google opustil a založil Počáteční život, kde tým pracuje na modelování neuronové sítě mRNA. mRNA je (někdy) základem vakcín (například vakcína Covid-19 společnosti Pfizer-BioNTech).
Llion Jones je jedinou osobou na tomto seznamu, která dodnes pracuje ve společnosti Google. Podle něj to byl on, kdo navrhl název článku, který se stal memem a dal vzniknout desítkám dalších článků se vzorem „X is all you need“. Byl také zodpovědný za optimalizaci odvození modelu a vizualizaci pro experimenty a články.
Aidan Gomez opustil Google na podzim 2019 a založil Cohere.ai. Společnost nadále pracuje na jazykových modelech; některé z jejich produktů jsou podobné případům použití, které lidé měli v prvních dnech po vydání ChatGPT. Podařilo se přilákat více než 400 milionů dolarů v investicích a rozšířit společnost na téměř 200 zaměstnanců.
Lukasz Kaiser, po více než sedmi letech ve společnosti Google odešel v létě 2021 pracovat pro OpenAI. Původní článek uvádí, že Lukasz byl zodpovědný za vývoj a optimalizaci kódu. Je jedním ze spoluautorů TensorFlow, knihovny pro vytváření a trénování neuronových sítí. Je to velmi silný inženýr – a nyní na tom pracuje GPT 👀 V rámci práce na Transformeru spolupracoval s Aidanem Gomezem na vylepšení kódové základny a urychlení iterací ve výzkumné práci (prostřednictvím snadnější interakce a prototypování).
Illia Polosukhin opustil Google v roce 2017, před vydáním článku, aby založil Poblíž, blockchain protokol, který je v podstatě konkurencí Etherea. Jeho aktuální ocenění je asi 2 miliardy dolarů a za pouhých šest let se jako investice vybralo více než 375 milionů dolarů.
Přečtěte si více o AI:
Odmítnutí odpovědnosti
V souladu s Pokyny k projektu Trust, prosím vezměte na vědomí, že informace uvedené na této stránce nejsou určeny a neměly by být vykládány jako právní, daňové, investiční, finanční nebo jakékoli jiné formy poradenství. Je důležité investovat jen to, co si můžete dovolit ztratit, a v případě pochybností vyhledat nezávislé finanční poradenství. Pro další informace doporučujeme nahlédnout do smluvních podmínek a také na stránky nápovědy a podpory poskytnuté vydavatelem nebo inzerentem. MetaversePost se zavázala poskytovat přesné a nezaujaté zprávy, ale podmínky na trhu se mohou bez upozornění změnit.
O autorovi
Damir je vedoucí týmu, produktový manažer a editor ve společnosti Metaverse Post, pokrývající témata jako AI/ML, AGI, LLM, Metaverse a Web3- související obory. Jeho články přitahují každý měsíc masivní publikum čítající více než milion uživatelů. Jeví se jako odborník s 10 lety zkušeností v oblasti SEO a digitálního marketingu. Damir byl zmíněn v Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto a další publikace. Jako digitální nomád cestuje mezi SAE, Tureckem, Ruskem a SNS. Damir získal bakalářský titul z fyziky, o kterém se domnívá, že mu dal dovednosti kritického myšlení potřebné k úspěchu v neustále se měnícím prostředí internetu.
Další článkyDamir je vedoucí týmu, produktový manažer a editor ve společnosti Metaverse Post, pokrývající témata jako AI/ML, AGI, LLM, Metaverse a Web3- související obory. Jeho články přitahují každý měsíc masivní publikum čítající více než milion uživatelů. Jeví se jako odborník s 10 lety zkušeností v oblasti SEO a digitálního marketingu. Damir byl zmíněn v Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto a další publikace. Jako digitální nomád cestuje mezi SAE, Tureckem, Ruskem a SNS. Damir získal bakalářský titul z fyziky, o kterém se domnívá, že mu dal dovednosti kritického myšlení potřebné k úspěchu v neustále se měnícím prostředí internetu.