技術專家簽署公開信，呼籲暫時停止訓練更先進的人工智慧系統 GPT-4
簡單來說
超過 1100 名簽署者簽署了公開信，呼籲暫停大型 AI 實驗。
簽署人包括 Elon Musk、Steve Wozniak 和 Emad Mostaque 等。
這封公開信引發了人們對人工智慧資訊偏見的擔憂， 工作自動化 以及人工智慧對人類文明的風險。
包括領先技術專家在內的 1,100 多名簽署者簽署了一項 公開信 呼籲暫停六個月訓練更先進的人工智慧系統 GPT-4.
這封信是由生命未來研究所 (Future of Life Institute) 撰寫的，這是一家非營利組織，致力於減少人類面臨的全球災難性和生存風險，尤其是先進人工智能帶來的生存風險。
引用廣泛認可的 Asilomar AI 原則，其中指出“先進的 AI 可能代表地球生命史上的深刻變化，應該以相稱的關懷和資源來規劃和管理，”這封信說，規划水平和管理沒有發生。
這封信接著說，人工智慧實驗室正在一場「失控」的競賽中，以開發越來越強大的人工智慧，但沒有人能夠理解、預測或可靠地控制。 正如當代人工智慧系統一樣 GPT-4 能夠 與人類競爭 在一般任務方面，這封信提出了對人工智能的信息偏見、工作自動化以及對人類文明失去控制的風險的擔憂。
「我們呼籲所有人工智慧實驗室立即暫停至少 6 個月的人工智慧系統訓練， GPT-4。 這種暫停應該是公開的、可驗證的，並包括所有關鍵參與者。 如果這種暫停不能迅速實施，政府應該介入並暫停，”
信中說。
這封信懇請 AI 實驗室和技術專家利用暫停期制定和實施高級 AI 設計和開發的安全協議，這些協議由獨立的外部專家嚴格審計和監督。
然而，美國記者傑夫賈維斯批評了這封信， 話 這是“道德恐慌的主要樣本”。
與 DeepMind 研究科學家和來自世界各地的幾位大學教授一起簽署這封信的技術和機器學習領域的一些領軍人物包括：
- Yoshua Bengio，蒙特利爾大學，圖靈獎得主，開發深度學習，蒙特利爾學習算法研究所所長
- Stuart Russell，伯克利，計算機科學教授，智能係統中心主任，標準教科書“人工智能：現代方法”的合著者
- Elon Musk，SpaceX、Tesla 和 Twitter 的首席執行官
- 艾瑪德·莫斯塔克，首席執行官， Stability AI
- Jaan Tallinn，Skype 聯合創始人，生存風險研究中心，未來生命研究所
- Gary Marcus，紐約大學，AI 研究員，名譽教授
- Marc Rotenberg，AI 和數字政策中心 (CAIDP)，總裁
在 最近的一封信Rotenberg 寫道，CAIDP 將向聯邦貿易委員會提出投訴，呼籲對 Open AI 進行調查，並 ChatGPT，以及在建立保障措施之前禁止該產品的進一步商業發布。
OpenAI 首席執行官薩姆·奧爾特曼 (Sam Altman) 承認 “我們還需要足夠的時間讓我們的機構弄清楚該做什麼”，並且社會離“潛在可怕的”生成人工智能工具不遠了。
“我們要求聯邦貿易委員會‘按下暫停鍵’，以便我們的機構、我們的法律和我們的社會有機會趕上來。 在我們失去控制之前，我們需要對我們創造的技術主張代理權，”CAIDP 信中寫道。
在其他地方， 歐盟立法者 目標是在年底前與歐盟國家簽署一項實施人工智能規則的協議，儘管隨著關於如何管理人工智能的爭論愈演愈烈，它可能會遇到瓶頸。
閱讀更多：
免責聲明
在與線 信託專案指南，請注意，本頁提供的資訊無意且不應被解釋為法律、稅務、投資、財務或任何其他形式的建議。 重要的是，僅投資您可以承受損失的金額，並在有任何疑問時尋求獨立的財務建議。 如需了解更多信息，我們建議您參閱條款和條件以及發行人或廣告商提供的幫助和支援頁面。 MetaversePost 致力於提供準確、公正的報告，但市場狀況如有變更，恕不另行通知。
關於作者
辛迪是一名記者 Metaverse Post，涵蓋相關主題 web3, NFT、元宇宙和人工智能，重點是採訪 Web3 行業參與者。她曾與 30 多位 C 級高管進行過交談，並將他們的寶貴見解帶給讀者。辛蒂來自新加坡，現居住在喬治亞第比利斯。她擁有南澳大利亞大學傳播與媒體研究學士學位，並擁有十年的新聞和寫作經驗。透過以下方式與她聯繫 [電子郵件保護] 有新聞發布會、公告和採訪機會。
更多文章
辛迪是一名記者 Metaverse Post，涵蓋相關主題 web3, NFT、元宇宙和人工智能，重點是採訪 Web3 行業參與者。她曾與 30 多位 C 級高管進行過交談，並將他們的寶貴見解帶給讀者。辛蒂來自新加坡，現居住在喬治亞第比利斯。她擁有南澳大利亞大學傳播與媒體研究學士學位，並擁有十年的新聞和寫作經驗。透過以下方式與她聯繫 [電子郵件保護] 有新聞發布會、公告和採訪機會。
