Un document Google qui fuit révèle les défis du maintien de l'avantage concurrentiel dans l'IA
En bref
Un document divulgué par un employé de Google (Luke Sernau) suggère que les modèles de langage open source dépassent rapidement les avancées de Google.
Le document souligne l'importance d'activer les intégrations tierces et de collaborer avec des efforts externes au lieu de poursuivre des modèles de langage géants.
Les tentatives de Google pour protéger ses avantages technologiques face à des concurrents tels que OpenAI sont difficiles.
Un individu anonyme a partagé un document divulgué sur un serveur Discord public d'un chercheur de Google, a confirmé SemiAnalysis. Le document souligne que même si OpenAI et Google sont dans une course pour développer les modèles de langage les plus avancés, leurs progrès sont rapidement éclipsés par les progrès réalisés dans la communauté open-source.
Le document contient les opinions personnelles d'un employé de Google et ne représente pas le point de vue de l'entreprise dans son ensemble. Selon Bloomberg, Luke Sernau, ingénieur logiciel senior chez Google, a partagé le document sur une plate-forme interne au sein de l'entreprise il y a environ un mois.
"Bien que nos modèles conservent un léger avantage en termes de qualité, l'écart se réduit étonnamment rapidement. Les modèles open source sont plus rapides, plus personnalisables, plus privés et livre pour livre plus performants. Ils font des choses avec des paramètres de 100 et 13 milliards de dollars avec lesquels nous luttons à 10 millions de dollars et 540 milliards de dollars. Et ils le font en semaines, pas en mois »,
le document lu.
L'approche de l'entreprise en matière de modèles linguistiques a été remise en question. Sernau a écrit que Google ne possède pas de « sauce secrète » et devrait plutôt chercher à apprendre et à collaborer avec des efforts externes. Le document souligne l'importance de permettre les intégrations tierces et reconnaît qu'il est peu probable que les gens paient pour un modèle restreint lorsqu'il existe des alternatives gratuites de qualité comparable. Sernau a également soutenu que la poursuite du géant modèles de langage entravait les progrès et suggérait que les variantes plus petites devraient recevoir plus d'attention. Le document conclut que les meilleurs modèles, à long terme, sont ceux qui peuvent être rapidement repris.
Le tableau, qui comprend les étiquettes « 2 semaines d'intervalle » et « 1 semaine d'intervalle », est dérivé d'un tableau figurant dans l'annonce Vicuna 13-B. L'auteur a modifié le graphique original pour illustrer le développement rapide de LLaMA Vigogne et Alpaga suivant le LLaMA
Les tentatives de Google pour protéger ses avantages technologiques face à des concurrents comme OpenAI se sont avérés difficiles. De plus, avec la collaboration croissante au sein de la communauté de la recherche, maintenir un avantage concurrentiel est devenu encore plus difficile. Avec un accès abordable à la recherche de pointe sur les LLM, les institutions du monde entier mènent des études qui dépassent de loin la capacité de Google. Sernau suggère que Google peut soit s'accrocher à ses secrets tandis que l'innovation extérieure dilue sa valeur, soit chercher à apprendre des autres dans la communauté de la recherche.
Lire la suite:
Clause de non-responsabilité
En ligne avec la Lignes directrices du projet de confiance, veuillez noter que les informations fournies sur cette page ne sont pas destinées à être et ne doivent pas être interprétées comme des conseils juridiques, fiscaux, d'investissement, financiers ou toute autre forme de conseil. Il est important d’investir uniquement ce que vous pouvez vous permettre de perdre et de demander des conseils financiers indépendants en cas de doute. Pour plus d'informations, nous vous suggérons de vous référer aux conditions générales ainsi qu'aux pages d'aide et de support mises à disposition par l'émetteur ou l'annonceur. MetaversePost s'engage à fournir des rapports précis et impartiaux, mais les conditions du marché sont susceptibles de changer sans préavis.
A propos de l'auteur
Agne est une journaliste qui couvre les dernières tendances et développements dans le métaverse, l'IA et Web3 industries pour la Metaverse Post. Sa passion pour la narration l'a amenée à mener de nombreux entretiens avec des experts dans ces domaines, cherchant toujours à découvrir des histoires passionnantes et engageantes. Agne est titulaire d'un baccalauréat en littérature et possède une vaste expérience en rédaction sur un large éventail de sujets, notamment les voyages, l'art et la culture. Elle s'est également portée volontaire en tant que rédactrice pour une organisation de défense des droits des animaux, où elle a contribué à sensibiliser les gens aux problèmes de bien-être animal. Contactez-la au [email protected].
Plus d'articles
Agne est une journaliste qui couvre les dernières tendances et développements dans le métaverse, l'IA et Web3 industries pour la Metaverse Post. Sa passion pour la narration l'a amenée à mener de nombreux entretiens avec des experts dans ces domaines, cherchant toujours à découvrir des histoires passionnantes et engageantes. Agne est titulaire d'un baccalauréat en littérature et possède une vaste expérience en rédaction sur un large éventail de sujets, notamment les voyages, l'art et la culture. Elle s'est également portée volontaire en tant que rédactrice pour une organisation de défense des droits des animaux, où elle a contribué à sensibiliser les gens aux problèmes de bien-être animal. Contactez-la au [email protected].
