2023 年 10 月 27 日

人工智慧領導者警告快速進步中日益增長的風險和道德問題

by 達米爾亞拉洛夫

發佈時間：27 年 2023 月 9 日上午 26:27 更新日期：2023 年 9 月 26 日上午 XNUMX:XNUMX

by 維克多·戴伊

編輯與事實查核：27 年 2023 月 9 日凌晨 26:XNUMX

在最近的政策聲明中包括 Bengio、Hinton、Russell、Harari 和 Kahneman 在內的人工智慧領域的知名人士，都對人工智慧的快速進步和日益增長的社會風險敲響了警鐘。

人工智慧正在快速發展。 GPT-2 四年前，我們還無法從 0 數到 100，但現代模型可以編寫程式碼、製作令人驚嘆的圖像並提供智力指導。而且因為我們正在進行一場競賽，所以進步的速度會更快。此外，人工智慧的進步速度更快，例如，協助新系統的程式設計和收集訓練資料。

一旦進步達到人類水平，就沒有理由認為它會放緩或停止。在某些地區，人工系統在這方面已經超越了人類，表現出更快的處理能力等速度、更大的資料處理能力和大規模的可擴展性。企業擁有實施遠遠超出當前上限的培訓計劃的財務手段。

作者認為，在未來十年左右的時間內，很有可能會出現更好的人工智慧通才，超越人類的能力在許多重要領域。

接下來會發生什麼事？如果管理和分配得當，所有的生活都可以得到改善。選擇不當的選擇會帶來重大風險，而我們對此卻沒有做好準備。大量資源沒有被分配用於安全和傷害預防，而是被用來建立更強大的人工智慧系統。這需要改變；僅僅靠自己追求技能是不夠的。而且這個過程花費的時間比預期的還要長。我們需要透過預測當前威脅的升級和新威脅的出現，在更高的風險出現之前做好規劃。我們沒有足夠的時間來對待人工智慧，因為人工智慧需要幾十年的時間才能被接受氣候變化.

社會層面存在許多風險，包括不公現象增加、穩定惡化、對現實的普遍認知惡化。恐怖分子和犯罪分子在這裡進行廣泛的活動。人工智慧可能會集中在少數玩家手中，導致全球不平等加劇，促進自動化戰爭、針對每個人的大規模操縱以及無所不在的監視。

作為自主的人工智慧變得更加複雜並且能夠進行規劃，在世界範圍內採取行動，並實現其目標，這些風險只會增加。這些目標可能不符合我們的最佳利益，對於不良行為者來說，甚至可能是有害的。目前尚不清楚如何解決人工智慧協調問題，這涉及將人工智慧行為與我們複雜的目標相匹配。此外，在以獲勝為目的的比賽中，很容易忽略安全預防措施。

人類很難控制常規軟體，更不用說複雜的人工智慧系統了，它們越來越擅長社會工程、駭客攻擊、欺騙和戰略規劃。這是自主人工智慧系統可以從人們那裡學習或自己創造的東西。

這些系統有能力與個人和其他系統建立聯盟，贏得信任，獲得資金並影響決策者。就像蠕蟲一樣，它們能夠在整個網路中自我複製。在人工智慧助理的幫助下，已經編寫了大量的程式碼；未來，系統可能會將漏洞利用到許多關鍵系統。人工智慧系統有能力在公開戰鬥中使用或威脅生物或自主武器。這只是一個延續目前生物研究、人工智慧和戰爭自動化的發展趨勢。人們可能會發現介入和抵制太具有挑戰性。

在許多情況下，我們願意把控制權交給他們，甚至不需要他們提出要求。許多個人和企業願意在競爭環境中自行部署此類系統，因為擔心自己會落後於競爭對手。

完整的文檔可以找到点击這裡.

標籤：

免責聲明

在與線信託專案指南，請注意，本頁提供的資訊無意且不應被解釋為法律、稅務、投資、財務或任何其他形式的建議。重要的是，僅投資您可以承受損失的金額，並在有任何疑問時尋求獨立的財務建議。如需了解更多信息，我們建議您參閱條款和條件以及發行人或廣告商提供的幫助和支援頁面。 MetaversePost 致力於提供準確、公正的報告，但市場狀況如有變更，恕不另行通知。

關於作者

Damir 是團隊領導、產品經理和編輯 Metaverse Post，涵蓋 AI/ML、AGI、LLM、Metaverse 等主題 Web3- 相關領域。他的文章每月吸引超過一百萬用戶的大量讀者。他似乎是一位在 SEO 和數字營銷方面擁有 10 年經驗的專家。達米爾曾在 Mashable、Wired、 Cointelegraph、《紐約客》、Inside.com、Entrepreneur、BeInCrypto 和其他出版物。他作為數字游牧者往返於阿聯酋、土耳其、俄羅斯和獨聯體國家之間。達米爾獲得了物理學學士學位，他認為這賦予了他在不斷變化的互聯網格局中取得成功所需的批判性思維技能。