Durchgesickertes Google-Dokument enthüllt Herausforderungen bei der Aufrechterhaltung des Wettbewerbsvorteils in der KI
In Kürze
Ein durchgesickertes Dokument eines Google-Mitarbeiters (Luke Sernau) legt nahe, dass Open-Source-Sprachmodelle die Fortschritte von Google schnell übertreffen.
Das Dokument betont, wie wichtig es ist, Integrationen von Drittanbietern zu ermöglichen und mit externen Bemühungen zusammenzuarbeiten, anstatt riesige Sprachmodelle zu verfolgen.
Googles Versuche, seine technologischen Vorteile vor Konkurrenten wie z OpenAI sind herausfordernd.
Eine anonyme Person hat ein durchgesickertes Dokument auf einem öffentlichen Discord-Server von einem Forscher bei Google geteilt, bestätigte SemiAnalysis. Der Dokument unterstreicht dies jedoch OpenAI und Google befinden sich in einem Wettlauf um die Entwicklung der fortschrittlichsten Sprachmodelle, ihre Fortschritte werden jedoch schnell von den Fortschritten in der Open-Source-Community überschattet.
Das Dokument enthält die persönliche Meinung eines Google-Mitarbeiters und repräsentiert nicht die Ansichten des Unternehmens als Ganzes. Entsprechend Bloomberg, Luke Sernau, Senior Software Engineer bei Google, hat das Dokument vor etwa einem Monat auf einer internen Plattform innerhalb des Unternehmens geteilt.
„Während unsere Modelle qualitativ noch einen kleinen Vorsprung haben, schließt sich die Lücke erstaunlich schnell. Open-Source-Modelle sind schneller, anpassbarer, privater und Pfund für Pfund leistungsfähiger. Sie machen Dinge mit 100 $ und 13 Mrd. $ Parametern, mit denen wir bei 10 Mio. $ und 540 Mrd. $ zu kämpfen haben. Und das in Wochen, nicht in Monaten.“
das Dokument gelesen.
Der Ansatz des Unternehmens zu Sprachmodellen wurde in Frage gestellt. Sernau schrieb, dass Google kein „Geheimrezept“ besitze und stattdessen versuchen sollte, von externen Unternehmen zu lernen und mit ihnen zusammenzuarbeiten. In dem Dokument wurde betont, wie wichtig es ist, die Integration von Drittanbietern zu ermöglichen, und anerkannt, dass es unwahrscheinlich ist, dass Menschen für ein eingeschränktes Modell bezahlen, wenn es kostenlose Alternativen von vergleichbarer Qualität gibt. Sernau argumentierte auch, dass das Streben nach Riesen Sprachmodelle behinderte den Fortschritt und schlug vor, dass kleineren Varianten mehr Aufmerksamkeit geschenkt werden sollte. Das Dokument kam zu dem Schluss, dass die besten Modelle auf lange Sicht diejenigen sind, die schnell wiederholt werden können.
Das Diagramm, das die Beschriftungen „2 Wochen Abstand“ und „1 Woche Abstand“ enthält, wurde aus einem Diagramm in der Vicuna 13-B-Ankündigung abgeleitet. Der Autor hat das Originaldiagramm geändert, um die schnelle Entwicklung zu veranschaulichen LLaMA Vicunja und Alpaka folgen dem LLaMA Entwicklung.
Googles Versuche, seine technologischen Vorteile vor Konkurrenten wie zu schützen OpenAI haben sich als herausfordernd erwiesen. Darüber hinaus ist es mit der zunehmenden Zusammenarbeit innerhalb der Forschungsgemeinschaft noch schwieriger geworden, einen Wettbewerbsvorteil zu wahren. Mit erschwinglichem Zugang zu Spitzenforschung zu LLMs führen Institutionen weltweit Studien durch, die die Kapazitäten von Google bei weitem übersteigen. Sernau schlägt vor, dass Google entweder an seinen Geheimnissen festhalten kann, während Innovationen von außen seinen Wert verwässern, oder versuchen kann, von anderen in der Forschungsgemeinschaft zu lernen.
Mehr lesen:
Haftungsausschluss
Im Einklang mit der Richtlinien des Trust-ProjektsBitte beachten Sie, dass die auf dieser Seite bereitgestellten Informationen nicht als Rechts-, Steuer-, Anlage-, Finanz- oder sonstige Beratung gedacht sind und nicht als solche interpretiert werden sollten. Es ist wichtig, nur so viel zu investieren, wie Sie sich leisten können, zu verlieren, und im Zweifelsfall eine unabhängige Finanzberatung einzuholen. Für weitere Informationen empfehlen wir einen Blick auf die Allgemeinen Geschäftsbedingungen sowie die Hilfe- und Supportseiten des Herausgebers oder Werbetreibenden. MetaversePost ist einer genauen, unvoreingenommenen Berichterstattung verpflichtet, die Marktbedingungen können sich jedoch ohne Vorankündigung ändern.
Über den Autor
Agne ist eine Journalistin, die über die neuesten Trends und Entwicklungen im Metaversum, in der KI und anderen Bereichen berichtet Web3 Branchen für die Metaverse Post. Ihre Leidenschaft für das Geschichtenerzählen hat sie dazu geführt, zahlreiche Interviews mit Experten auf diesen Gebieten zu führen, immer auf der Suche nach spannenden und fesselnden Geschichten. Agne hat einen Bachelor-Abschluss in Literatur und verfügt über umfangreiche Erfahrung im Schreiben über ein breites Themenspektrum, darunter Reisen, Kunst und Kultur. Sie war außerdem ehrenamtlich als Redakteurin für die Tierrechtsorganisation tätig und half dabei, das Bewusstsein für Tierschutzthemen zu schärfen. Kontaktieren Sie sie unter [E-Mail geschützt] .
Weitere Artikel
Agne ist eine Journalistin, die über die neuesten Trends und Entwicklungen im Metaversum, in der KI und anderen Bereichen berichtet Web3 Branchen für die Metaverse Post. Ihre Leidenschaft für das Geschichtenerzählen hat sie dazu geführt, zahlreiche Interviews mit Experten auf diesen Gebieten zu führen, immer auf der Suche nach spannenden und fesselnden Geschichten. Agne hat einen Bachelor-Abschluss in Literatur und verfügt über umfangreiche Erfahrung im Schreiben über ein breites Themenspektrum, darunter Reisen, Kunst und Kultur. Sie war außerdem ehrenamtlich als Redakteurin für die Tierrechtsorganisation tätig und half dabei, das Bewusstsein für Tierschutzthemen zu schärfen. Kontaktieren Sie sie unter [E-Mail geschützt] .
