Il documento Google trapelato rivela le sfide nel mantenere il vantaggio competitivo nell'IA
In Breve
Un documento trapelato da un dipendente di Google (Luke Sernau) suggerisce che i modelli linguistici open source stanno rapidamente superando i progressi di Google.
Il documento sottolinea l'importanza di consentire integrazioni di terze parti e collaborare con sforzi esterni invece di perseguire modelli linguistici giganteschi.
I tentativi di Google di salvaguardare i suoi vantaggi tecnologici da concorrenti come OpenAI sono impegnative.
Un individuo anonimo ha condiviso un documento trapelato su un server Discord pubblico da un ricercatore di Google, ha confermato SemiAnalysis. IL documento evidenzia che sebbene OpenAI e Google sono in corsa per sviluppare i modelli linguistici più avanzati, i loro progressi vengono rapidamente oscurati dai progressi compiuti nella comunità open source.
Il documento contiene le opinioni personali di un dipendente di Google e non rappresenta le opinioni dell'azienda nel suo complesso. Secondo Bloomberg, Luke Sernau, senior software engineer di Google, ha condiviso il documento su una piattaforma interna all'azienda circa un mese fa.
“Sebbene i nostri modelli mantengano ancora un leggero vantaggio in termini di qualità, il divario si sta colmando in modo sorprendentemente rapido. I modelli open source sono più veloci, più personalizzabili, più privati e più capaci. Stanno facendo cose con parametri da $ 100 e 13 miliardi con cui lottiamo a $ 10 milioni e 540 miliardi. E lo stanno facendo in settimane, non mesi ",
il documento letto.
L'approccio dell'azienda ai modelli linguistici è stato messo in discussione. Sernau ha scritto che Google non possiede una “salsa segreta” e dovrebbe invece cercare di imparare e collaborare con sforzi esterni. Il documento sottolinea l’importanza di consentire integrazioni di terze parti e riconosce che è improbabile che le persone paghino per un modello limitato quando esistono alternative gratuite di qualità comparabile. Sernau ha anche sostenuto che l'inseguimento del gigante modelli linguistici ostacolava i progressi e suggeriva che le varianti più piccole ricevessero maggiore attenzione. Il documento concludeva che i modelli migliori, nel lungo periodo, sono quelli che possono essere rapidamente ripetuti.
Il grafico, che include le etichette “2 settimane di distanza” e “1 settimana di distanza”, è stato derivato da un grafico nell’annuncio del Vicuna 13-B. L'autore ha modificato il grafico originale per illustrare il rapido sviluppo di LLaMA Vicuna e Alpaca seguono il LLaMA .
I tentativi di Google di salvaguardare i suoi vantaggi tecnologici da concorrenti come OpenAI si sono rivelati impegnativi. Inoltre, con la crescente collaborazione all'interno della comunità di ricerca, mantenere un vantaggio competitivo è diventato ancora più difficile. Con un accesso conveniente a ricerche all'avanguardia sugli LLM, le istituzioni di tutto il mondo stanno conducendo studi che superano di gran lunga la capacità di Google. Sernau suggerisce che Google può aggrapparsi ai suoi segreti mentre l'innovazione esterna ne diluisce il valore o cercare di imparare da altri nella comunità di ricerca.
Leggi di più:
Negazione di responsabilità
In linea con la Linee guida del progetto Trust, si prega di notare che le informazioni fornite in questa pagina non intendono essere e non devono essere interpretate come consulenza legale, fiscale, di investimento, finanziaria o di qualsiasi altra forma. È importante investire solo ciò che puoi permetterti di perdere e chiedere una consulenza finanziaria indipendente in caso di dubbi. Per ulteriori informazioni, suggeriamo di fare riferimento ai termini e alle condizioni nonché alle pagine di aiuto e supporto fornite dall'emittente o dall'inserzionista. MetaversePost si impegna a fornire report accurati e imparziali, ma le condizioni di mercato sono soggette a modifiche senza preavviso.
Circa l'autore
Agne è una giornalista che copre le ultime tendenze e gli sviluppi nel metaverso, AI e Web3 industrie per il Metaverse Post. La sua passione per lo storytelling l'ha portata a condurre numerose interviste con esperti in questi campi, cercando sempre di scoprire storie emozionanti e coinvolgenti. Agne ha conseguito una laurea in lettere e ha una vasta esperienza nella scrittura su una vasta gamma di argomenti tra cui viaggi, arte e cultura. Si è anche offerta volontaria come redattrice per l'organizzazione per i diritti degli animali, dove ha contribuito a sensibilizzare l'opinione pubblica sulle questioni relative al benessere degli animali. Contattala su [email protected].
Altri articoliAgne è una giornalista che copre le ultime tendenze e gli sviluppi nel metaverso, AI e Web3 industrie per il Metaverse Post. La sua passione per lo storytelling l'ha portata a condurre numerose interviste con esperti in questi campi, cercando sempre di scoprire storie emozionanti e coinvolgenti. Agne ha conseguito una laurea in lettere e ha una vasta esperienza nella scrittura su una vasta gamma di argomenti tra cui viaggi, arte e cultura. Si è anche offerta volontaria come redattrice per l'organizzazione per i diritti degli animali, dove ha contribuito a sensibilizzare l'opinione pubblica sulle questioni relative al benessere degli animali. Contattala su [email protected].