Uitgelekt Google-document onthult uitdagingen bij het behouden van concurrentievoordeel in AI
In het kort
Een uitgelekt document van een Google-medewerker (Luke Sernau) suggereert dat open-source taalmodellen snel de vooruitgang van Google overtreffen.
Het document benadrukt het belang van het mogelijk maken van integraties van derden en het samenwerken met externe inspanningen in plaats van gigantische taalmodellen na te streven.
Google's pogingen om zijn technologische voordelen te beschermen tegen concurrenten zoals OpenAI zijn uitdagend.
Een anoniem persoon deelde een uitgelekt document op een openbare Discord-server van een onderzoeker binnen Google, bevestigde SemiAnalysis. De document benadrukt dat hoewel OpenAI en Google in een race zijn om de meest geavanceerde taalmodellen te ontwikkelen, wordt hun vooruitgang al snel overschaduwd door de vooruitgang die is geboekt in de open-sourcegemeenschap.
Het document bevat de persoonlijke mening van een Google-medewerker en vertegenwoordigt niet de mening van het bedrijf als geheel. Volgens Bloomberg, Luke Sernau, de senior software engineer bij Google, deelde het document ongeveer een maand geleden op een intern platform binnen het bedrijf.
“Terwijl onze modellen nog steeds een lichte voorsprong hebben op het gebied van kwaliteit, wordt het gat verbazingwekkend snel kleiner. Open-sourcemodellen zijn sneller, beter aanpasbaar, meer privé en pond-voor-pond beter in staat. Ze doen dingen met $ 100 en 13 miljard params waarmee we worstelen met $ 10 miljoen en 540 miljard. En dat doen ze in weken, niet in maanden.
het document gelezen.
De benadering van het bedrijf ten aanzien van taalmodellen werd in twijfel getrokken. Sernau schreef dat Google geen ‘geheime saus’ bezit en in plaats daarvan moet proberen te leren van en samen te werken met externe inspanningen. Het document benadrukte het belang van het mogelijk maken van integraties met derden en erkende dat het onwaarschijnlijk is dat mensen voor een beperkt model zullen betalen als er gratis alternatieven van vergelijkbare kwaliteit bestaan. Sernau voerde ook aan dat het nastreven van gigantische taalmodellen belemmerde de voortgang en suggereerde dat kleinere varianten meer aandacht zouden moeten krijgen. Het document concludeerde dat de beste modellen op de lange termijn de modellen zijn waarop snel kan worden voortgebouwd.
De grafiek, die de labels “2 weken uit elkaar” en “1 week uit elkaar” bevat, is afgeleid van een grafiek in de Vicuna 13-B-aankondiging. De auteur heeft de oorspronkelijke kaart aangepast om de snelle ontwikkeling van de wereld te illustreren LLaMA Vicuña en Alpaca volgen de LLaMA ontwikkeling.
Google's pogingen om zijn technologische voordelen te beschermen tegen concurrenten zoals OpenAI uitdagend zijn gebleken. Bovendien is het met de groeiende samenwerking binnen de onderzoeksgemeenschap nog moeilijker geworden om een concurrentievoordeel te behouden. Met betaalbare toegang tot geavanceerd onderzoek naar LLM's, voeren instellingen over de hele wereld studies uit die de capaciteit van Google ver te boven gaan. Sernau suggereert dat Google kan vasthouden aan zijn geheimen terwijl innovatie van buitenaf zijn waarde verwatert, of kan proberen te leren van anderen in de onderzoeksgemeenschap.
Lees verder:
Disclaimer
In lijn met de Richtlijnen voor vertrouwensprojectenHoud er rekening mee dat de informatie op deze pagina niet bedoeld is en niet mag worden geïnterpreteerd als juridisch, fiscaal, beleggings-, financieel of enige andere vorm van advies. Het is belangrijk om alleen te beleggen wat u zich kunt veroorloven te verliezen en onafhankelijk financieel advies in te winnen als u twijfels heeft. Voor meer informatie raden wij u aan de algemene voorwaarden en de hulp- en ondersteuningspagina's van de uitgever of adverteerder te raadplegen. MetaversePost streeft naar nauwkeurige, onpartijdige berichtgeving, maar de marktomstandigheden kunnen zonder voorafgaande kennisgeving worden gewijzigd.
Over de auteur
Agne is een journalist die de laatste trends en ontwikkelingen in de metaverse, AI en Web3 industrieën voor de Metaverse Post. Haar passie voor het vertellen van verhalen heeft ertoe geleid dat ze talloze interviews heeft gehouden met experts op deze gebieden, waarbij ze altijd op zoek is naar spannende en boeiende verhalen. Agne heeft een bachelordiploma in literatuur en een uitgebreide achtergrond in het schrijven over een breed scala aan onderwerpen, waaronder reizen, kunst en cultuur. Ze heeft zich ook vrijwillig aangemeld als redacteur voor de dierenrechtenorganisatie, waar ze hielp het bewustzijn over dierenwelzijnskwesties te vergroten. Neem contact met haar op [e-mail beveiligd].
Meer artikelen
Agne is een journalist die de laatste trends en ontwikkelingen in de metaverse, AI en Web3 industrieën voor de Metaverse Post. Haar passie voor het vertellen van verhalen heeft ertoe geleid dat ze talloze interviews heeft gehouden met experts op deze gebieden, waarbij ze altijd op zoek is naar spannende en boeiende verhalen. Agne heeft een bachelordiploma in literatuur en een uitgebreide achtergrond in het schrijven over een breed scala aan onderwerpen, waaronder reizen, kunst en cultuur. Ze heeft zich ook vrijwillig aangemeld als redacteur voor de dierenrechtenorganisatie, waar ze hielp het bewustzijn over dierenwelzijnskwesties te vergroten. Neem contact met haar op [e-mail beveiligd].
