Bliższe spojrzenie na przeszłość znanych programistów Google GPT-4 i jakie start-upy prowadzą dzisiaj
W skrócie
Twórcy architektury sieci neuronowej Transformer odeszli z Google, aby rozpocząć własne biznesy, które zebrały miliony dolarów i są wyceniane na ponad 1 miliard dolarów.
Jeśli oglądałeś serial „Dolina Krzemowa” i nie przegapiłeś ostatniego odcinka, to pamiętaj, jak to się wszystko skończyło: ekipa spotyka się dwadzieścia lat później, wspominając przeszłość.
Zobaczmy, co stało się z autorami architektury sieci neuronowej Transformer, która leży u jej podstaw ChatGPT i GPT-4. Zespół był featured w artykule "Uwaga to wszystko, czego potrzebujesz” Google Research (czerwiec 2017). Autorzy są wymienieni poniżej w tej samej kolejności, co w artykule Google.
Ashish Vaswani opuścił Google pod koniec 2021 roku, aby rozpocząć Adept, która zebrała 415 milionów dolarów i jest dotychczas wyceniana na ponad 1 miliard dolarów. Jednak Ashish opuścił Adept kilka miesięcy temu – w grudniu 2022 roku, zaraz po wydaniu ChatGPT— i założył nowy startup. Na chwilę obecną startup nie ma jeszcze nazwy, nie wiadomo też, ile osób dołączyło do firmy i nad czym pracują.
Po powrocie do Google Vaswani pracował nad projektem modelu na wczesnych etapach i zaprogramował całość.
Noama Shazeera pracował w Google przez ponad 20 lat, od grudnia 2000 r. W październiku 2021 r. odszedł i założył startup Postać.ai. Od tego czasu firma zebrała już 200 milionów dolarów i osiągnęła wycenę na prawie 1 miliard dolarów. Według LinkedIn pracuje tam około 20 pracowników, więc wartość za dolara jest imponująca. To Noam wprowadził ideę różnych „głow” w mechanizmie uwagi.
| Czytaj więcej: Jak korzystać ChatGPT (GPT-4) za darmo na zawsze |
Niki Parmar, jedyna współautorka artykułu, była pracownikiem naukowym w zespole Google Brain do listopada 2021 r. Następnie dołączyła do Ashish Vaswani w Adept. Jednak, jak już wiemy, nie zabawili tam długo i wyjechali razem, aby rozpocząć nowy projekt. Niki przeprowadziła wiele eksperymentów szkoleniowych i walidacyjnych modeli.
Jakub Uszkoreit — wielu nazywa go głównym mózgiem stojącym za wynalezieniem architektury Transformera. To on zasugerował zastąpienie powtarzających się sieci podobnym mechanizmem „uwagi” i rozpoczął prototypowanie pierwszego podejścia. Opuścił Google w połowie 2021 roku i założył Początkowe życie, gdzie zespół pracuje nad modelowaniem sieci neuronowej mRNA. mRNA jest tym, co (czasami) leży u podstaw szczepionek (na przykład szczepionki Covid-19 firmy Pfizer-BioNTech).
Lion Jones jest jedyną osobą z tej listy, która do dziś pracuje w Google. Według niego to on zasugerował tytuł artykułu, który stał się memem i dał początek dziesiątkom innych artykułów ze wzorem „X is all you need”. Był również odpowiedzialny za optymalizację wnioskowania i wizualizacji modeli na potrzeby eksperymentów i artykułów.
| Czytaj więcej: Najlepsze narzędzia do wykrywania treści AI w 2023 r |
Aidana Gomeza opuścił Google jesienią 2019 roku, aby znaleźć Cohere.ai. Firma kontynuuje prace nad modelami językowymi; niektóre z ich produktów są podobne do przypadków użycia, z których ludzie korzystali w pierwszych dniach po wydaniu ChatGPT. Udało mu się przyciągnąć inwestycje o wartości ponad 400 milionów dolarów i rozwinąć firmę do prawie 200 pracowników.
Łukasz Kajzerpo ponad siedmiu latach pracy w Google wyjechał do pracy latem 2021 r OpenAI. W oryginalnym artykule napisano, że za rozwój i optymalizację kodu odpowiedzialny był Łukasz. Jest jednym ze współautorów TensorFlow, biblioteki do tworzenia i uczenia sieci neuronowych. Jest bardzo silnym inżynierem i teraz nad tym pracuje GPT 👀 W ramach prac nad Transformerem współpracował z Aidanem Gomezem nad udoskonaleniem bazy kodu i przyspieszeniem iteracji w pracach badawczych (poprzez łatwiejszą interakcję i prototypowanie).
Ilia Połosuchin opuścił Google w 2017 roku, przed publikacją artykułu, aby znaleźć Blisko, protokół blockchain, który zasadniczo jest konkurentem dla Ethereum. Jego obecna wycena wynosi około 2 miliardów dolarów, aw ciągu zaledwie sześciu lat zebrano ponad 375 milionów dolarów jako inwestycje.
Przeczytaj więcej o sztucznej inteligencji:
Odpowiedzialność
Zgodnie z Zaufaj wytycznym projektu, należy pamiętać, że informacje zawarte na tej stronie nie mają na celu i nie powinny być interpretowane jako porady prawne, podatkowe, inwestycyjne, finansowe lub jakiekolwiek inne formy porad. Ważne jest, aby inwestować tylko tyle, na utratę czego możesz sobie pozwolić, a w przypadku jakichkolwiek wątpliwości zasięgnąć niezależnej porady finansowej. Aby uzyskać więcej informacji, sugerujemy zapoznać się z warunkami oraz stronami pomocy i wsparcia udostępnianymi przez wydawcę lub reklamodawcę. MetaversePost zobowiązuje się do sporządzania dokładnych i bezstronnych raportów, jednakże warunki rynkowe mogą ulec zmianie bez powiadomienia.
O autorze
Damir jest liderem zespołu, menedżerem produktu i redaktorem w Metaverse Post, obejmujący takie tematy, jak AI/ML, AGI, LLM, Metaverse i Web3-pokrewne pola. Jego artykuły przyciągają każdego miesiąca ogromną publiczność, liczącą ponad milion użytkowników. Wydaje się być ekspertem z 10-letnim doświadczeniem w SEO i marketingu cyfrowym. Damir został wspomniany w Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto i inne publikacje. Jako cyfrowy koczownik podróżuje między ZEA, Turcją, Rosją i WNP. Damir uzyskał tytuł licencjata z fizyki, co jego zdaniem dało mu umiejętności krytycznego myślenia potrzebne do odniesienia sukcesu w ciągle zmieniającym się środowisku internetowym.
Więcej artykułów
Damir jest liderem zespołu, menedżerem produktu i redaktorem w Metaverse Post, obejmujący takie tematy, jak AI/ML, AGI, LLM, Metaverse i Web3-pokrewne pola. Jego artykuły przyciągają każdego miesiąca ogromną publiczność, liczącą ponad milion użytkowników. Wydaje się być ekspertem z 10-letnim doświadczeniem w SEO i marketingu cyfrowym. Damir został wspomniany w Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto i inne publikacje. Jako cyfrowy koczownik podróżuje między ZEA, Turcją, Rosją i WNP. Damir uzyskał tytuł licencjata z fizyki, co jego zdaniem dało mu umiejętności krytycznego myślenia potrzebne do odniesienia sukcesu w ciągle zmieniającym się środowisku internetowym.
