Uniknutý dokument Google odhaľuje výzvy pri udržiavaní konkurenčnej výhody v AI
Stručne
Uniknutý dokument od zamestnanca spoločnosti Google (Luke Sernau) naznačuje, že modely jazykov s otvoreným zdrojovým kódom rýchlo prekonávajú pokroky spoločnosti Google.
Dokument zdôrazňuje dôležitosť umožnenia integrácií tretích strán a spolupráce s externým úsilím namiesto presadzovania obrovských jazykových modelov.
Snahy Google chrániť svoje technologické výhody pred konkurentmi, ako napr OpenAI sú náročné.
SemiAnalysis potvrdila, že anonymná osoba zdieľala uniknutý dokument na verejnom serveri Discord od výskumníka v rámci Google. The dokument zdôrazňuje, že hoci OpenAI a Google sú v pretekoch vo vývoji najpokročilejších jazykových modelov, ich pokrok rýchlo zatieňuje pokrok dosiahnutý v komunite open source.
Dokument obsahuje osobné názory zamestnanca spoločnosti Google a nereprezentuje názory spoločnosti ako celku. Podľa BloombergLuke Sernau, hlavný softvérový inžinier v spoločnosti Google, zdieľal dokument na internej platforme v rámci spoločnosti približne pred mesiacom.
„Zatiaľ čo naše modely majú stále mierny náskok z hľadiska kvality, rozdiel sa prekvapivo rýchlo uzatvára. Modely s otvoreným zdrojom sú rýchlejšie, prispôsobiteľnejšie, súkromnejšie a výkonnejšie. Robia veci so 100 a 13 miliardami dolárov, s ktorými zápasíme pri 10 miliónoch a 540 miliardách dolárov. A robia to v priebehu týždňov, nie mesiacov,“
prečítaný dokument.
Prístup spoločnosti k jazykovým modelom bol spochybnený. Sernau napísal, že Google nemá „tajnú omáčku“ a namiesto toho by sa mal snažiť učiť sa a spolupracovať s externým úsilím. Dokument zdôraznil dôležitosť umožnenia integrácie tretích strán a uznal, že ľudia pravdepodobne nebudú platiť za obmedzený model, keď existujú bezplatné alternatívy porovnateľnej kvality. Sernau tiež tvrdil, že prenasledovanie obrov jazykové modely bránil pokroku a navrhol, aby sa menším variantom venovala väčšia pozornosť. V dokumente sa dospelo k záveru, že z dlhodobého hľadiska sú najlepšie modely, ktoré sa dajú rýchlo opakovať.
Tabuľka, ktorá obsahuje štítky „2 týždne od seba“ a „1 týždeň od seba“, bola odvodená z tabuľky v oznámení Vicuna 13-B. Autor upravil pôvodný graf tak, aby ilustroval rýchly vývoj LLaMA Vicuna a Alpaca po LLaMA rozvoj.
Google sa snaží chrániť svoje technologické výhody pred konkurenciou, ako je OpenAI sa ukázali ako náročné. Navyše, s rastúcou spoluprácou v rámci výskumnej komunity je udržiavanie konkurenčnej výhody ešte ťažšie. Vďaka cenovo dostupnému prístupu k špičkovému výskumu LLM vykonávajú inštitúcie na celom svete štúdie, ktoré ďaleko presahujú kapacitu spoločnosti Google. Sernau naznačuje, že Google môže buď držať svoje tajomstvá, zatiaľ čo vonkajšie inovácie oslabujú jeho hodnotu, alebo sa snažiť učiť od ostatných vo výskumnej komunite.
Prečítajte si viac:
Vylúčenie zodpovednosti
V súlade s Pokyny k projektu Trust, uvedomte si, že informácie uvedené na tejto stránke nie sú zamýšľané a nemali by byť interpretované ako právne, daňové, investičné, finančné alebo iné formy poradenstva. Je dôležité investovať len toľko, koľko si môžete dovoliť stratiť a v prípade akýchkoľvek pochybností vyhľadať nezávislé finančné poradenstvo. Ak chcete získať ďalšie informácie, odporúčame vám pozrieť si zmluvné podmienky, ako aj stránky pomoci a podpory poskytnuté vydavateľom alebo inzerentom. MetaversePost sa zaviazala poskytovať presné a nezaujaté správy, ale podmienky na trhu sa môžu zmeniť bez upozornenia.
O autorovi
Agne je novinárka, ktorá pokrýva najnovšie trendy a vývoj v oblasti metaverse, AI a Web3 priemyslu pre Metaverse Post. Jej vášeň pre rozprávanie ju priviedla k mnohým rozhovorom s odborníkmi v týchto oblastiach, pričom sa vždy snažila odhaliť vzrušujúce a pútavé príbehy. Agne má bakalársky titul v odbore literatúra a má rozsiahle skúsenosti s písaním o širokej škále tém vrátane cestovania, umenia a kultúry. Dobrovoľne pracovala aj ako redaktorka organizácie za práva zvierat, kde pomáhala zvyšovať povedomie o otázkach dobrých životných podmienok zvierat. Kontaktujte ju [chránené e-mailom].
Ďalšie článkyAgne je novinárka, ktorá pokrýva najnovšie trendy a vývoj v oblasti metaverse, AI a Web3 priemyslu pre Metaverse Post. Jej vášeň pre rozprávanie ju priviedla k mnohým rozhovorom s odborníkmi v týchto oblastiach, pričom sa vždy snažila odhaliť vzrušujúce a pútavé príbehy. Agne má bakalársky titul v odbore literatúra a má rozsiahle skúsenosti s písaním o širokej škále tém vrátane cestovania, umenia a kultúry. Dobrovoľne pracovala aj ako redaktorka organizácie za práva zvierat, kde pomáhala zvyšovať povedomie o otázkach dobrých životných podmienok zvierat. Kontaktujte ju [chránené e-mailom].