慘痛的教訓:為什麼 ChatGPT 戰勝手工計算技術
簡單來說
Rich Sutton 教授 2019 年的論文《痛苦的教訓》預測了人工智能的重大進步,例如 ChatGPT/GPT-4 和 OpenAI的方法論。
文本強調了人工智能的範式轉變,其中計算方法在沒有人類直覺的情況下主導性能。
但是,很多 研究人員繼續追求基於直覺的方法,忽視了計算驅動方法的潛力。
論文“慘痛的教訓”,由 Rich Sutton 教授於 2019 年撰寫,此後對於機器學習專家和有興趣了解人工智能未來的人們來說越來越重要。 本文件中提供的見解預見了人工智能的重要發展,包括 ChatGPT/GPT-4 以及接受 OpenAI的方法論.
《慘痛的教訓》的核心探討了人工智能領域的範式轉變。 過去,研究人工智能的科學家傾向於認為開發先進的人工智能需要一種非凡的、獨特的方法,也稱為“歸納偏差”。 這個想法指的是添加專門的信息或對特定問題的直觀理解,然後指導機器的解決方案路徑。
《慘痛的教訓》的中心主題探討了人工智能研究的範式轉變。 此前,研究人工智能的研究人員傾向於認為,創建先進的人工智能需要一種非凡、獨特的方法。 這種偏差被稱為“歸納偏差”。 這個概念建議增加對特定問題的專業知識或直觀洞察,然後指導機器的解決方案路徑。
但一種反復出現的模式變得明顯。 研究人員反復發現,通過簡單地添加更多 數據和計算能力,他們可以超越這些精心設計的方法所產生的結果。 這種模式並不特定於某個領域,而是出現在國際象棋、圍棋、星際爭霸中,可能還出現在網絡黑客中。 卷積神經網絡例如,在計算機視覺領域比手動技術(如 篩。 有趣的是,SIFT 的發明者後來表示,如果在他進行研究時神經網絡已經存在,他就會選擇這種做法。 與此類似, LSTM 的性能優於所有基於規則的系統 在機器翻譯領域。 使用簡單的“添加更多層”策略, ChatGPT/GPT-4是這一趨勢的一個主要例子,它能夠超越計算語言學家所創造的高度發展的模型。
薩頓“慘痛教訓”的核心是,未經人類直覺修改的計算方法在性能方面常常優於其他方法。 然而,這種理解尚未被廣泛接受。 許多研究人員仍然追求復雜的、基於直覺的策略,經常忽視包容性的、基於計算的方法的潛力。
五個原因 GPT 戰勝了手工計算技術:
- 可擴展性:計算方法,尤其是在增加更多數據時,有可能隨著技術的進步而發展和適應,使它們更加面向未來。
- 效率:基於計算和數據的通用方法在各個領域始終優於基於人類直覺的專業方法,從國際象棋和圍棋等遊戲到機器翻譯和計算機視覺。
- 廣泛的適用性:這些通用的、計算驅動的方法是通用的,可以跨學科應用,而不需要針對特定領域進行調整。
- 簡約:基於原始建構的系統 計算能力 數據的方法往往更簡單,不需要基於人類直覺進行複雜的調整。
- 一致的性能:如示例所示 ChatGPT/GPT-4,基於計算的模型可以實現一致的高效能,通常超越專門的方法。
原始論文是一個無價的工具,可以幫助您更好地理解薩頓教授的觀點和指導人工智能發展軌蹟的原則。
這篇文章的靈感來自 Telegram 頻道“又是鮑里斯。“
閱讀有關人工智能的更多信息:
免責聲明
在與線 信託專案指南,請注意,本頁提供的資訊無意且不應被解釋為法律、稅務、投資、財務或任何其他形式的建議。 重要的是,僅投資您可以承受損失的金額,並在有任何疑問時尋求獨立的財務建議。 如需了解更多信息,我們建議您參閱條款和條件以及發行人或廣告商提供的幫助和支援頁面。 MetaversePost 致力於提供準確、公正的報告,但市場狀況如有變更,恕不另行通知。
關於作者
Damir 是團隊領導、產品經理和編輯 Metaverse Post,涵蓋 AI/ML、AGI、LLM、Metaverse 等主題 Web3- 相關領域。 他的文章每月吸引超過一百萬用戶的大量讀者。 他似乎是一位在 SEO 和數字營銷方面擁有 10 年經驗的專家。 達米爾曾在 Mashable、Wired、 Cointelegraph、《紐約客》、Inside.com、Entrepreneur、BeInCrypto 和其他出版物。 他作為數字游牧者往返於阿聯酋、土耳其、俄羅斯和獨聯體國家之間。 達米爾獲得了物理學學士學位,他認為這賦予了他在不斷變化的互聯網格局中取得成功所需的批判性思維技能。
更多文章Damir 是團隊領導、產品經理和編輯 Metaverse Post,涵蓋 AI/ML、AGI、LLM、Metaverse 等主題 Web3- 相關領域。 他的文章每月吸引超過一百萬用戶的大量讀者。 他似乎是一位在 SEO 和數字營銷方面擁有 10 年經驗的專家。 達米爾曾在 Mashable、Wired、 Cointelegraph、《紐約客》、Inside.com、Entrepreneur、BeInCrypto 和其他出版物。 他作為數字游牧者往返於阿聯酋、土耳其、俄羅斯和獨聯體國家之間。 達米爾獲得了物理學學士學位,他認為這賦予了他在不斷變化的互聯網格局中取得成功所需的批判性思維技能。