Razkriti Googlov dokument razkriva izzive pri ohranjanju konkurenčne prednosti v AI
Na kratko
Razkriti dokument zaposlenega pri Googlu (Luke Sernau) nakazuje, da odprtokodni jezikovni modeli hitro presegajo Googlov napredek.
Dokument poudarja pomen omogočanja integracij tretjih oseb in sodelovanja z zunanjimi prizadevanji namesto zasledovanja ogromnih jezikovnih modelov.
Googlovi poskusi, da bi zaščitil svoje tehnološke prednosti pred konkurenti, kot je npr OpenAI so zahtevni.
Anonimni posameznik je na javnem strežniku Discord delil razkriti dokument raziskovalca v Googlu, je potrdil SemiAnalysis. The dokument poudarja, da čeprav OpenAI in Google tekmujeta za razvoj najnaprednejših jezikovnih modelov, njun napredek pa hitro zasenči napredek odprtokodne skupnosti.
Dokument vsebuje osebna mnenja Googlovega zaposlenega in ne predstavlja stališč podjetja kot celote. Po navedbah Bloomberg, Luke Sernau, višji inženir programske opreme pri Googlu, je dokument delil na interni platformi v podjetju pred približno mesecem dni.
»Medtem ko naši modeli še vedno držijo rahlo prednost v smislu kakovosti, se razlika presenetljivo hitro zmanjšuje. Odprtokodni modeli so hitrejši, bolj prilagodljivi, bolj zasebni in funt za funt zmogljivejši. Delajo stvari s parami 100 $ in 13B, s katerimi se mi borimo pri 10M $ in 540B. In to počnejo v tednih, ne mesecih,«
se je glasil dokument.
Pristop podjetja do jezikovnih modelov je bil postavljen pod vprašaj. Sernau je zapisal, da Google nima "skrivne omake" in bi se namesto tega moral učiti od zunanjih prizadevanj in sodelovati z njimi. Dokument je poudaril pomen omogočanja integracij tretjih oseb in priznal, da ljudje verjetno ne bodo plačali za omejen model, če obstajajo brezplačne alternative primerljive kakovosti. Sernau je tudi trdil, da je zasledovanje velikana jezikovni modeli ovirala napredek in predlagala, da bi morali manjšim različicam nameniti več pozornosti. Dokument ugotavlja, da so dolgoročno najboljši modeli tisti, ki jih je mogoče hitro ponoviti.
Grafikon, ki vključuje oznake »2 tedna narazen« in »1 teden narazen«, je bil izpeljan iz grafikona v objavi Vicuna 13-B. Avtor je spremenil prvotni grafikon, da bi ponazoril hiter razvoj LLaMA Sledi vikunja in alpaka LLaMA razvoj.
Googlovi poskusi, da bi zaščitil svoje tehnološke prednosti pred konkurenti, kot je OpenAI so se izkazali za zahtevne. Poleg tega je z naraščajočim sodelovanjem znotraj raziskovalne skupnosti ohranjanje konkurenčne prednosti postalo še težje. S cenovno dostopnim dostopom do najsodobnejših raziskav o študiju LLM institucije po vsem svetu izvajajo študije, ki daleč presegajo Googlove zmogljivosti. Sernau predlaga, da se Google lahko oklepa svojih skrivnosti, medtem ko zunanje inovacije zmanjšajo njegovo vrednost, ali pa se želi učiti od drugih v raziskovalni skupnosti.
Preberite več:
Zavrnitev odgovornosti
V skladu z Smernice projekta Trust, upoštevajte, da informacije na tej strani niso namenjene in se jih ne sme razlagati kot pravni, davčni, naložbeni, finančni ali kakršen koli drug nasvet. Pomembno je, da vlagate samo tisto, kar si lahko privoščite izgubiti, in da poiščete neodvisen finančni nasvet, če imate kakršne koli dvome. Za dodatne informacije predlagamo, da si ogledate določila in pogoje ter strani s pomočjo in podporo, ki jih nudi izdajatelj ali oglaševalec. MetaversePost se zavzema za natančno in nepristransko poročanje, vendar se tržni pogoji lahko spremenijo brez predhodnega obvestila.
O avtorju
Agne je novinarka, ki pokriva najnovejše trende in razvoj v metaverzumu, AI in Web3 industrije za Metaverse Post. Njena strast do pripovedovanja zgodb jo je pripeljala do številnih intervjujev s strokovnjaki s teh področij, pri čemer si je vedno prizadevala odkriti vznemirljive in privlačne zgodbe. Agne je diplomirala iz književnosti in ima obsežno znanje pisanja o številnih temah, vključno s potovanji, umetnostjo in kulturo. Bila je tudi prostovoljka urednica organizacije za pravice živali, kjer je pomagala ozaveščati o vprašanjih dobrega počutja živali. Kontaktirajte jo na [e-pošta zaščitena].
več člankovAgne je novinarka, ki pokriva najnovejše trende in razvoj v metaverzumu, AI in Web3 industrije za Metaverse Post. Njena strast do pripovedovanja zgodb jo je pripeljala do številnih intervjujev s strokovnjaki s teh področij, pri čemer si je vedno prizadevala odkriti vznemirljive in privlačne zgodbe. Agne je diplomirala iz književnosti in ima obsežno znanje pisanja o številnih temah, vključno s potovanji, umetnostjo in kulturo. Bila je tudi prostovoljka urednica organizacije za pravice živali, kjer je pomagala ozaveščati o vprašanjih dobrega počutja živali. Kontaktirajte jo na [e-pošta zaščitena].