Bližší pohľad na svetoznámych vývojárov spoločnosti Google GPT-4 a aké startupy dnes prevádzkujú
Stručne
Tvorcovia architektúry neurónovej siete Transformer nechali Google, aby rozbehli svoje vlastné podniky, ktoré vyzbierali milióny dolárov a majú hodnotu viac ako 1 miliardu dolárov.
Ak ste sledovali sériu „Silicon Valley“ a nezmeškali ste poslednú epizódu, potom si pamätajte, ako to všetko skončilo: tím sa o dvadsať rokov neskôr spojil a zaspomínal si na minulosť.
Pozrime sa, čo sa stalo autorom architektúry neurónovej siete Transformer, ktorá je základom ChatGPT a GPT-4. Tým bol featured v článku "Pozornosť je všetko, čo potrebujete” od Google Research (jún 2017). Autori sú uvedení nižšie v rovnakom poradí ako v článku Google.
Ashish Vaswani opustil Google na konci roka 2021 a začal zbehlý, ktorá vyzbierala 415 miliónov dolárov a jej hodnota je zatiaľ viac ako 1 miliarda dolárov. Ashish však opustil Adept pred niekoľkými mesiacmi – v decembri 2022, hneď po vydaní ChatGPT— a založil nový startup. Momentálne je startup stále bezmenný a nie je jasné, koľko ľudí do firmy vstúpilo a na čom pracujú.
V spoločnosti Google Vaswani pracoval na návrhu modelu v počiatočných fázach a celú vec naprogramoval.
Noam Shazeer pracoval v Google viac ako 20 rokov, od decembra 2000. V októbri 2021 skončil a založil startup Charakter.ai. Odvtedy spoločnosť vyzbierala už 200 miliónov dolárov a dosiahla hodnotu takmer 1 miliardy dolárov. Podľa LinkedIn tam pracuje asi 20 zamestnancov, takže hodnota za dolár je pôsobivá. Bol to Noam, ktorý zaviedol myšlienku rôznych „hláv“ v mechanizme pozornosti.
Prečítajte si viac: Ako používať ChatGPT (GPT-4) navždy zadarmo |
Niki Parmar, jediná spoluautorka článku, bola do novembra 2021 výskumnou pracovníčkou v tíme Google Brain. Potom sa pripojila k Ashish Vaswani v Adept. Ako však už vieme, dlho sa tam nezdržali a odišli spolu rozbehnúť nový projekt. Niki vykonala mnoho tréningových a modelových overovacích experimentov.
Jakob Uszkoreit - mnohí ho nazývajú hlavným mozgom za vynálezom architektúry Transformer. Bol to on, kto navrhol nahradiť opakujúce sa siete podobným mechanizmom „pozornosti“ a začal prototypovať prvý prístup. V polovici roku 2021 opustil Google a založil Inceptívny život, kde tím pracuje na modelovaní neurónovej siete mRNA. mRNA je (niekedy) základom vakcín (napríklad vakcína Covid-19 od Pfizer-BioNTech).
Llion Jones je jedinou osobou na tomto zozname, ktorá dodnes pracuje v spoločnosti Google. Podľa neho to bol práve on, kto navrhol názov článku, ktorý sa stal memom a dal vznik desiatkam ďalších článkov so vzorom „X is all you need“. Bol tiež zodpovedný za optimalizáciu odvodenia modelu a vizualizácie pre experimenty a články.
Prečítajte si viac: Najlepšie nástroje na detekciu obsahu AI v roku 2023 |
Aidan Gomez opustil Google na jeseň 2019, aby založil Cohere.ai. Spoločnosť pokračuje v práci na jazykových modeloch; niektoré z ich produktov sú podobné prípadom použitia, ktoré mali ľudia v prvých dňoch po vydaní ChatGPT. Podarilo sa pritiahnuť viac ako 400 miliónov dolárov v investíciách a rozšíriť spoločnosť na takmer 200 zamestnancov.
Lukasz Kaiser, po viac ako siedmich rokoch v Google, odišiel v lete 2021 pracovať v OpenAI. Pôvodný článok uvádza, že Lukasz bol zodpovedný za vývoj a optimalizáciu kódu. Je jedným zo spoluautorov TensorFlow, knižnice na vytváranie a trénovanie neurónových sietí. Je to veľmi silný inžinier – a teraz na tom pracuje GPT 👀 V rámci práce na Transformeri spolupracoval s Aidanom Gomezom na zlepšení kódovej základne a zrýchlení iterácií vo výskumnej práci (prostredníctvom jednoduchšej interakcie a prototypovania).
Illia Polosukhin opustil Google v roku 2017, pred vydaním článku, aby založil Najbližšie, blockchain protokol, ktorý je v podstate konkurentom Etherea. Jeho súčasné ocenenie je približne 2 miliardy dolárov a len za šesť rokov sa ako investície vyzbieralo viac ako 375 miliónov dolárov.
Prečítajte si viac o AI:
Vylúčenie zodpovednosti
V súlade s Pokyny k projektu Trust, uvedomte si, že informácie uvedené na tejto stránke nie sú zamýšľané a nemali by byť interpretované ako právne, daňové, investičné, finančné alebo iné formy poradenstva. Je dôležité investovať len toľko, koľko si môžete dovoliť stratiť a v prípade akýchkoľvek pochybností vyhľadať nezávislé finančné poradenstvo. Ak chcete získať ďalšie informácie, odporúčame vám pozrieť si zmluvné podmienky, ako aj stránky pomoci a podpory poskytnuté vydavateľom alebo inzerentom. MetaversePost sa zaviazala poskytovať presné a nezaujaté správy, ale podmienky na trhu sa môžu zmeniť bez upozornenia.
O autorovi
Damir je vedúci tímu, produktový manažér a redaktor v Metaverse Post, pokrývajúce témy ako AI/ML, AGI, LLM, Metaverse a Web3- súvisiace oblasti. Jeho články priťahujú každý mesiac obrovské publikum s viac ako miliónom používateľov. Zdá sa, že je odborníkom s 10-ročnými skúsenosťami v oblasti SEO a digitálneho marketingu. Damir bol spomenutý v Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto a ďalšie publikácie. Ako digitálny nomád cestuje medzi SAE, Tureckom, Ruskom a SNŠ. Damir získal bakalársky titul z fyziky, o ktorom sa domnieva, že mu dal schopnosti kritického myslenia potrebné na to, aby bol úspešný v neustále sa meniacom prostredí internetu.
Ďalšie článkyDamir je vedúci tímu, produktový manažér a redaktor v Metaverse Post, pokrývajúce témy ako AI/ML, AGI, LLM, Metaverse a Web3- súvisiace oblasti. Jeho články priťahujú každý mesiac obrovské publikum s viac ako miliónom používateľov. Zdá sa, že je odborníkom s 10-ročnými skúsenosťami v oblasti SEO a digitálneho marketingu. Damir bol spomenutý v Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto a ďalšie publikácie. Ako digitálny nomád cestuje medzi SAE, Tureckom, Ruskom a SNŠ. Damir získal bakalársky titul z fyziky, o ktorom sa domnieva, že mu dal schopnosti kritického myslenia potrebné na to, aby bol úspešný v neustále sa meniacom prostredí internetu.