洩露的谷歌文件揭示了在人工智能領域保持競爭優勢的挑戰
簡單來說
谷歌員工 (Luke Sernau) 洩露的一份文件表明,開源語言模型正在迅速超越谷歌的進步。
該文件強調了啟用第三方集成和與外部合作而不是追求龐大的語言模型的重要性。
谷歌試圖保護其技術優勢免受競爭對手的侵害,例如 OpenAI 具有挑戰性。
SemiAnalysis 證實,一名匿名人士在公共 Discord 服務器上分享了谷歌一名研究人員洩露的文件。 這 文件 強調雖然 OpenAI 和谷歌正在競相開發最先進的語言模型,但他們的進步很快就被開源社區取得的進步所掩蓋。
本文僅代表谷歌員工個人觀點,不代表公司整體觀點。 根據 彭博社大約一個月前,谷歌高級軟件工程師 Luke Sernau 在公司內部平台上分享了該文檔。
“雖然我們的模型在質量方面仍然略有優勢,但差距正在以驚人的速度縮小。 開源模型更快、更可定制、更私密且功能更強大。 他們用 100 美元和 13B 的參數做事,而我們在 10 萬美元和 540B 的參數下苦苦掙扎。 他們在幾週內就這樣做了,而不是幾個月,”
文件閱讀。
該公司的語言模型方法受到質疑。 塞爾瑙寫道,谷歌並不擁有“秘密武器”,而是應該向外部努力學習並與之合作。 該文件強調了支持第三方集成的重要性,並承認當存在質量相當的免費替代品時,人們不太可能為受限模型付費。 塞爾瑙還認為,追求巨人 語言模型 阻礙了進展,並建議較小的變體應受到更多關注。 該文件的結論是,從長遠來看,最好的模型是那些可以快速迭代的模型。
此圖表包括「相隔 2 週」和「相隔 1 週」標籤,源自 Vicuna 13-B 公告中的圖表。 作者修改了原來的圖表,以說明其快速發展 LLaMA 駱馬毛和羊駝跟隨 LLaMA 發展。
谷歌試圖保護其技術優勢免受競爭對手的侵害 OpenAI 事實證明具有挑戰性。 此外,隨著研究界內部合作的不斷加強,保持競爭優勢變得更加困難。 由於可以負擔得起法學碩士的前沿研究,世界各地的機構正在開展遠遠超出谷歌能力的研究。 塞爾瑙建議,谷歌要么可以堅守自己的秘密,而外部創新會削弱其價值,要么可以向研究界的其他人學習。
閱讀更多:
免責聲明
在與線 信託專案指南,請注意,本頁提供的資訊無意且不應被解釋為法律、稅務、投資、財務或任何其他形式的建議。 重要的是,僅投資您可以承受損失的金額,並在有任何疑問時尋求獨立的財務建議。 如需了解更多信息,我們建議您參閱條款和條件以及發行人或廣告商提供的幫助和支援頁面。 MetaversePost 致力於提供準確、公正的報告,但市場狀況如有變更,恕不另行通知。
關於作者
Agne 是一名記者,負責報導虛擬宇宙、人工智能和人工智能領域的最新趨勢和發展。 Web3 行業為 Metaverse Post。 她對講故事的熱情促使她對這些領域的專家進行了大量採訪,總是試圖發現令人興奮和引人入勝的故事。 Agne 擁有文學學士學位,在旅行、藝術和文化等廣泛主題的寫作方面擁有豐富的背景。 她也志願擔任動物權利組織的編輯,幫助提高人們對動物福利議題的認識。 聯繫她 [電子郵件保護].
更多文章Agne 是一名記者,負責報導虛擬宇宙、人工智能和人工智能領域的最新趨勢和發展。 Web3 行業為 Metaverse Post。 她對講故事的熱情促使她對這些領域的專家進行了大量採訪,總是試圖發現令人興奮和引人入勝的故事。 Agne 擁有文學學士學位,在旅行、藝術和文化等廣泛主題的寫作方面擁有豐富的背景。 她也志願擔任動物權利組織的編輯,幫助提高人們對動物福利議題的認識。 聯繫她 [電子郵件保護].