Een nadere blik op de grote ontwikkelaars van Google GPT-4 en welke startups ze vandaag de dag runnen
In het kort
De makers van de neurale netwerkarchitectuur van Transformer verlieten Google om hun eigen bedrijven te starten, die miljoenen dollars hebben opgehaald en worden gewaardeerd op meer dan $ 1 miljard.
Als je de serie "Silicon Valley" hebt gezien en de laatste aflevering niet hebt gemist, onthoud dan hoe het allemaal eindigde: het team komt twintig jaar later bij elkaar en haalt herinneringen op aan het verleden.
Laten we eens kijken wat er is gebeurd met de auteurs van de neurale netwerkarchitectuur van Transformer die hieraan ten grondslag ligt ChatGPT en GPT-4. De ploeg was featured in het artikel "Aandacht is alles wat je nodig hebt” door Google Research (juni 2017). De auteurs staan hieronder vermeld in dezelfde volgorde als in het artikel van Google.
Ashish Vaswani verliet Google eind 2021 om te beginnen Bedreven, dat $ 415 miljoen heeft opgehaald en tot nu toe wordt gewaardeerd op meer dan $ 1 miljard. Ashish verliet Adept echter een paar maanden geleden - in december 2022, onmiddellijk na de release van ChatGPT- en richtte een nieuwe startup op. Op dit moment is de startup nog naamloos en is het niet duidelijk hoeveel mensen zich bij het bedrijf hebben aangesloten en waar ze mee bezig zijn.
Terug bij Google werkte Vaswani in de vroege stadia aan het ontwerp van het model en programmeerde hij het geheel.
Noam Shazeer werkte meer dan 20 jaar bij Google, sinds december 2000. In oktober 2021 stopte hij en richtte hij de startup op Karakter.ai. Sindsdien heeft het bedrijf al $ 200 miljoen opgehaald en een waardering van bijna $ 1 miljard bereikt. Volgens LinkedIn werken er ongeveer 20 werknemers, dus de waarde per dollar is indrukwekkend. Het was Noam die het idee van verschillende 'hoofden' in het aandachtsmechanisme introduceerde.
| Lees verder: Hoe te gebruiken ChatGPT (GPT-4) voor altijd gratis |
Niki Parmar, de enige vrouwelijke co-auteur van het artikel, was tot november 2021 stafonderzoeker in het Google Brain-team. Daarna trad ze in dienst bij Ashish Vaswani bij Adept. Zoals we al weten, bleven ze daar echter niet lang en vertrokken ze samen om een nieuw project te starten. Niki heeft veel training- en modelvalidatie-experimenten gedaan.
Jakob Uszkoreit - velen noemen hem het belangrijkste brein achter de uitvinding van de Transformer-architectuur. Hij was het die voorstelde om terugkerende netwerken te vervangen door een soortgelijk "aandachts" -mechanisme en begon met het prototypen van de eerste benadering. Hij verliet Google medio 2021 en richtte op Inceptief leven, waar het team werkt aan neurale netwerkmodellering van mRNA. mRNA is wat (soms) ten grondslag ligt aan vaccins (bijvoorbeeld het Covid-19-vaccin van Pfizer-BioNTech).
Lion Jones is de enige persoon op deze lijst die tot op de dag van vandaag bij Google werkt. Volgens hem was hij het die de titel van het artikel voorstelde, dat een meme werd en aanleiding gaf tot tientallen andere artikelen met het patroon "X is alles wat je nodig hebt". Hij was ook verantwoordelijk voor het optimaliseren van modelinferentie en visualisatie voor experimenten en artikelen.
Aidan Gomez verliet Google in het najaar van 2019 om gevonden te worden Cohere.ai. Het bedrijf blijft werken aan taalmodellen; sommige van hun producten zijn vergelijkbaar met de use cases die mensen hadden in de eerste dagen na de release van ChatGPT. Het lukte om meer dan $400 miljoen aan investeringen aan te trekken en het bedrijf te laten groeien tot bijna 200 werknemers.
Lukasz Kaiser, na ruim zeven jaar bij Google, in de zomer van 2021 vertrokken om bij te werken OpenAI. In het originele artikel staat dat Lukasz verantwoordelijk was voor de ontwikkeling en optimalisatie van de code. Hij is een van de co-auteurs van TensorFlow, een bibliotheek voor het creëren en trainen van neurale netwerken. Hij is een zeer sterke ingenieur en werkt er nu aan GPT 👀 Als onderdeel van het werk aan Transformer werkte hij samen met Aidan Gomez om de codebase te verbeteren en iteraties in onderzoekswerk te versnellen (door eenvoudigere interactie en prototyping).
Ilia Polosukhin verliet Google in 2017, vóór de release van het artikel, om gevonden te worden Nabij, een blockchain-protocol dat in wezen een concurrent is van Ethereum. De huidige waardering is ongeveer $ 2 miljard, en in slechts zes jaar tijd is meer dan $ 375 miljoen aan investeringen opgehaald.
Lees meer over AI:
Disclaimer
In lijn met de Richtlijnen voor vertrouwensprojectenHoud er rekening mee dat de informatie op deze pagina niet bedoeld is en niet mag worden geïnterpreteerd als juridisch, fiscaal, beleggings-, financieel of enige andere vorm van advies. Het is belangrijk om alleen te beleggen wat u zich kunt veroorloven te verliezen en onafhankelijk financieel advies in te winnen als u twijfels heeft. Voor meer informatie raden wij u aan de algemene voorwaarden en de hulp- en ondersteuningspagina's van de uitgever of adverteerder te raadplegen. MetaversePost streeft naar nauwkeurige, onpartijdige berichtgeving, maar de marktomstandigheden kunnen zonder voorafgaande kennisgeving worden gewijzigd.
Over de auteur
Damir is de teamleider, productmanager en redacteur bij Metaverse Post, met onderwerpen als AI/ML, AGI, LLM's, Metaverse en Web3-gerelateerde velden. Zijn artikelen trekken maandelijks een enorm publiek van meer dan een miljoen gebruikers. Hij blijkt een expert te zijn met 10 jaar ervaring in SEO en digitale marketing. Damir is genoemd in Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto en andere publicaties. Hij reist als digitale nomade tussen de VAE, Turkije, Rusland en het GOS. Damir behaalde een bachelordiploma in natuurkunde, wat hem volgens hem de kritische denkvaardigheden heeft gegeven die nodig zijn om succesvol te zijn in het steeds veranderende landschap van internet.
Meer artikelen
Damir is de teamleider, productmanager en redacteur bij Metaverse Post, met onderwerpen als AI/ML, AGI, LLM's, Metaverse en Web3-gerelateerde velden. Zijn artikelen trekken maandelijks een enorm publiek van meer dan een miljoen gebruikers. Hij blijkt een expert te zijn met 10 jaar ervaring in SEO en digitale marketing. Damir is genoemd in Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto en andere publicaties. Hij reist als digitale nomade tussen de VAE, Turkije, Rusland en het GOS. Damir behaalde een bachelordiploma in natuurkunde, wat hem volgens hem de kritische denkvaardigheden heeft gegeven die nodig zijn om succesvol te zijn in het steeds veranderende landschap van internet.
