人工智能培訓暫停 6 個月是個好主意，但可能還不夠
簡單來說
請願書的故事和尤德科夫斯基文章的發表讓社會兩極分化。
囚徒困境和博弈論表明，要解決此類問題，需要在不同地方有足夠數量的正常人。
然而，這個想法也有一些缺點，比如數字進化中缺乏意識、意志和代理。
的故事 請願書要求停止開發更先進的人工智慧系統 GPT-4 社會兩極分化明顯。 尤德科夫斯基的釋放 文章 要求停止進一步開發 GPT 模型火上澆油，尤其是他關於資料中心轟炸的段落。
從網上的觀察來看，支持請願的人數似乎比反對者少很多，主要有以下三個論點：
| 1 | – 進步無法停止。 –請願書的發明者 OpenAI 競爭對手。 – 中國不會等。 |
| 2 | – 你不應該害怕人工智能，而應該害怕人。 - GPT 沒有意識、意志、願望或能動性，所以沒有什麼好害怕的。 - GPT-4 它離奴役世界還差得很遠，因為它什麼都不懂，會犯下愚蠢的錯誤，而且通常都很愚蠢。 - GPT-4 將無法統治世界，因為它沒有手臂/腿。 |
| 3 | – 第三組不懂如何 GPT-4 首先運作。 |
我們不會專注於第三群人，因為他們的立場來自無知。 這並不是說所有 AI 反對者都了解 AI。 儘管 Yudkovsky 本人對 AI 話題的了解非常深入，但您會發現很多對這項技術及其含義缺乏了解的反 AI 人士，因此不能指責他無知。
讓我們來看看第一批人——那些相信進步是無法停止的人。 他們提出了不同但相似的論點，總的來說，這些人並不否認 AI 的能力及其採用帶來的前景，並且相信 AI 的發展無論如何都會繼續。
關於不可阻擋的進步的第一個論點是一個口號，不一定是真的。 人們似乎已經停止了一些科學實驗，許多曾經被接受的研究項目不再被認為是合乎道德的，而類似的項目在今天也絕不會被允許。 然而，中國（和其他國家）的宗教裁判所和其他宗教迫害、禁書和謀殺科學家，過去阻止了多少進步？ 由於倖存者偏差，這是我們永遠無法完全掌握的事情。
其他論文涉及的方法可以概括為“如果不是我們，那就是他們”。 雖然這種思路可能更容易理解，但它似乎也不是正確的解決方案。 這與博弈論中的囚徒困境非常相似。
第二組論點是最有趣的。 雖然我個人在某種程度上同意它，但有一些問題需要解決。 是的，人工智能沒有意識、意志、代理等。COVID-19 也沒有，但它在全球範圍內造成了嚴重破壞。 某些東西不需要有代理感和意識就可以變得危險。 地球上的生命因為病毒而滅絕的場景並非不可想像。 一旦它的工作完成，它就可以把椅子放在桌子上，關掉燈，然後永遠離開。
繼續用生物學類比，有一篇精彩的文章“數字進化的驚人創造力：來自進化計算和人工生命研究社區的軼事集”，其中提供了許多過程何時朝著意想不到的方向發展的例子。 即使沒有進化過程，一切都可能進入錯誤的概括“目標錯誤概括：為什麼正確的規範不足以實現正確的目標。” 自由發揮優化過程可能出錯的討論在“高級機器學習系統中學習優化的風險“
同時，我們一般不考慮風險 惡意使用人工智能 和任何 濫用，這只會助長我們需要害怕人而不是人工智能本身的論點。 然而，事實是，即使沒有惡意的人，人工智能也可能很糟糕。
我也同意模型會犯愚蠢的錯誤，但人類也會犯愚蠢的錯誤，但我們知道他們可能會造成傷害。 雖然模型會犯很多錯誤，但它們也可以解決許多普通人無法解決的很棒、很酷且複雜的問題。 來自臭名昭著的著作《通用人工智慧的火花：早期實驗》 GPT-4”，令我震驚的是，人工智慧能夠解決相當複雜的數學問題（儘管並不總是正確）的費米問題。 它的心智理論和「有點像理解」他人行為的能力也非常令人印象深刻。 所有這些都指向人工智慧的智慧； 存在，但不太像我們的。
至少消除 AI 模型所犯的一些錯誤通常是可行的，因此它們的智能可能只會增長。 您需要做的就是添加一個用於精確計算的模塊、一個事實庫和另一個模型的驗證。
整個故事中最重要的是人工智能的發展速度。 GPT 模型 以令人眼花繚亂的速度實現了巨大的增長。 現在，有 ChatGPT 插件 可用，您可以使用 GPT 模型來編寫程式碼，API 可供廣大公眾使用，並且您無需任何事先培訓即可使用外部工具。
GPT-4當然，它不會征服世界，但它可以對經濟產生很大的震動。 GPT-5，以及該模型的未來迭代，可能不會遙遙領先，並且可能會具有更強大的能力。 讓我們面對現實吧，我們不能指望理解還不存在的模型； 我們甚至還沒有接近了解已經存在的模型。 從這個意義上說，休息六個月可能是個好主意，但這可能還不夠。
鑑於 人工智能競賽 已經開始了，沒有時間學習。
總的來說，鑑於這一切，我也簽署了請願書。 雖然我不相信它會以任何方式幫助。
閱讀更多相關主題：
免責聲明
在與線 信託專案指南，請注意，本頁提供的資訊無意且不應被解釋為法律、稅務、投資、財務或任何其他形式的建議。 重要的是，僅投資您可以承受損失的金額，並在有任何疑問時尋求獨立的財務建議。 如需了解更多信息，我們建議您參閱條款和條件以及發行人或廣告商提供的幫助和支援頁面。 MetaversePost 致力於提供準確、公正的報告，但市場狀況如有變更，恕不另行通知。
關於作者
Damir 是團隊領導、產品經理和編輯 Metaverse Post，涵蓋 AI/ML、AGI、LLM、Metaverse 等主題 Web3- 相關領域。 他的文章每月吸引超過一百萬用戶的大量讀者。 他似乎是一位在 SEO 和數字營銷方面擁有 10 年經驗的專家。 達米爾曾在 Mashable、Wired、 Cointelegraph、《紐約客》、Inside.com、Entrepreneur、BeInCrypto 和其他出版物。 他作為數字游牧者往返於阿聯酋、土耳其、俄羅斯和獨聯體國家之間。 達米爾獲得了物理學學士學位，他認為這賦予了他在不斷變化的互聯網格局中取得成功所需的批判性思維技能。
更多文章
Damir 是團隊領導、產品經理和編輯 Metaverse Post，涵蓋 AI/ML、AGI、LLM、Metaverse 等主題 Web3- 相關領域。 他的文章每月吸引超過一百萬用戶的大量讀者。 他似乎是一位在 SEO 和數字營銷方面擁有 10 年經驗的專家。 達米爾曾在 Mashable、Wired、 Cointelegraph、《紐約客》、Inside.com、Entrepreneur、BeInCrypto 和其他出版物。 他作為數字游牧者往返於阿聯酋、土耳其、俄羅斯和獨聯體國家之間。 達米爾獲得了物理學學士學位，他認為這賦予了他在不斷變化的互聯網格局中取得成功所需的批判性思維技能。
