Lækket Google-dokument afslører udfordringer med at bevare konkurrencefordel i AI
Kort sagt
Et lækket dokument fra en Google-medarbejder (Luke Sernau) antyder, at open source-sprogmodeller hurtigt overgår Googles fremskridt.
Dokumentet fremhæver vigtigheden af at muliggøre tredjepartsintegrationer og samarbejde med eksterne indsatser i stedet for at forfølge gigantiske sprogmodeller.
Googles forsøg på at sikre sine teknologiske fordele mod konkurrenter som f.eks OpenAI er udfordrende.
En anonym person delte et lækket dokument på en offentlig Discord-server fra en forsker i Google, bekræftede SemiAnalysis. Det dokumentet fremhæver, at selvom OpenAI og Google er i et kapløb om at udvikle de mest avancerede sprogmodeller, deres fremskridt bliver hurtigt overskygget af de fremskridt, der er gjort i open source-fællesskabet.
Dokumentet indeholder en Google-medarbejders personlige meninger og repræsenterer ikke virksomhedens synspunkter som helhed. Ifølge Bloomberg, Luke Sernau, senior softwareingeniør hos Google, delte dokumentet på en intern platform i virksomheden for omkring en måned siden.
“Mens vores modeller stadig har et lille forspring med hensyn til kvalitet, lukker hullet forbavsende hurtigt. Open source-modeller er hurtigere, mere tilpasselige, mere private og pund for pund mere kapable. De gør ting med $100 og 13B params, som vi kæmper med til $10M og 540B. Og de gør det om uger, ikke måneder,”
dokumentet læst.
Der blev sat spørgsmålstegn ved virksomhedens tilgang til sprogmodeller. Sernau skrev, at Google ikke besidder en "hemmelig sauce" og i stedet bør søge at lære af og samarbejde med eksterne bestræbelser. Dokumentet understregede vigtigheden af at muliggøre tredjepartsintegrationer og anerkendte, at folk sandsynligvis ikke vil betale for en begrænset model, når der findes gratis alternativer af sammenlignelig kvalitet. Sernau hævdede også, at forfølgelsen af kæmpe sprogmodeller hæmmede fremskridt og foreslog, at mindre varianter skulle have mere opmærksomhed. Dokumentet konkluderede, at de bedste modeller i det lange løb er dem, der hurtigt kan gentages.
Diagrammet, som inkluderer etiketterne "2 uger fra hinanden" og "1 uges mellemrum", blev afledt af et diagram i Vicuna 13-B-meddelelsen. Forfatteren ændrede det originale diagram for at illustrere den hurtige udvikling af LLaMA Vicuna og Alpaca efter LLaMA udvikling.
Googles forsøg på at beskytte sine teknologiske fordele fra konkurrenter som OpenAI har vist sig udfordrende. Med det voksende samarbejde inden for forskningsmiljøet er det desuden blevet endnu vanskeligere at fastholde en konkurrencefordel. Med overkommelig adgang til banebrydende forskning om LLM'er udfører institutioner verden over undersøgelser, der langt overgår Googles kapacitet. Sernau foreslår, at Google enten kan klamre sig til sine hemmeligheder, mens innovation udefra fortynder dens værdi eller søge at lære af andre i forskningsmiljøet.
Læs mere:
Ansvarsfraskrivelse
I tråd med den Trust Project retningslinjer, bemærk venligst, at oplysningerne på denne side ikke er beregnet til at være og ikke skal fortolkes som juridiske, skattemæssige, investeringsmæssige, finansielle eller nogen anden form for rådgivning. Det er vigtigt kun at investere, hvad du har råd til at tabe, og at søge uafhængig finansiel rådgivning, hvis du er i tvivl. For yderligere information foreslår vi at henvise til vilkårene og betingelserne samt hjælpe- og supportsiderne fra udstederen eller annoncøren. MetaversePost er forpligtet til nøjagtig, objektiv rapportering, men markedsforholdene kan ændres uden varsel.
Om forfatteren
Agne er en journalist, der dækker de seneste trends og udviklinger inden for metaverset, AI og Web3 industrier for Metaverse Post. Hendes passion for historiefortælling har fået hende til at gennemføre adskillige interviews med eksperter inden for disse områder, hvor hun altid søger at afdække spændende og engagerende historier. Agne er uddannet bachelor i litteratur og har en omfattende baggrund i at skrive om en bred vifte af emner, herunder rejser, kunst og kultur. Hun har også været frivillig som redaktør for dyrerettighedsorganisationen, hvor hun var med til at skabe opmærksomhed omkring dyrevelfærdsspørgsmål. Kontakt hende på [e-mail beskyttet].
Flere artikler
Agne er en journalist, der dækker de seneste trends og udviklinger inden for metaverset, AI og Web3 industrier for Metaverse Post. Hendes passion for historiefortælling har fået hende til at gennemføre adskillige interviews med eksperter inden for disse områder, hvor hun altid søger at afdække spændende og engagerende historier. Agne er uddannet bachelor i litteratur og har en omfattende baggrund i at skrive om en bred vifte af emner, herunder rejser, kunst og kultur. Hun har også været frivillig som redaktør for dyrerettighedsorganisationen, hvor hun var med til at skabe opmærksomhed omkring dyrevelfærdsspørgsmål. Kontakt hende på [e-mail beskyttet].
