人工智能專家和公眾人物對人工智能滅絕風險發出警報
簡單來說
著名人工智慧專家和影響力人物表達了他們的共同看法 對人工智慧相關風險的擔憂.
儘管 AI 取得了重大進展，但與 AI 風險相關的許多挑戰仍未解決。
著名的人工智能專家和公眾人物發表聲明警告說，人工智能可能對人類的生存構成威脅，其威脅程度與流行病和核戰爭的風險相當甚至更大。 350 個簽署方認為，人工智能可能會產生無法預料的災難性後果，例如釋放自主武器、擾亂社會和經濟系統，或者創造出可以超越和製服人類的超級智能代理。
他們呼籲政策制定者認真對待這些風險，並採取措施確保安全和有益的人工智能發展。 這 聲明 由人工智能研究和開發領域的一些領軍人物簽署，例如 OpenAI 首席執行官 Sam Altman、Skype 聯合創始人 Jaan Tallinn、DeepMind 首席執行官 Demis Hassabis、AI 計算機科學家 Geoffrey Hinton，以及音樂家 Grimes 和播客 Sam Harris 等有影響力的公眾人物。
簽署者中有 2018 年圖靈獎的獲得者，以表彰他們對深度學習的貢獻：Geoffrey Hinton 和 Yoshua Bengio。 來自中國哈佛大學和清華大學等著名大學的教授以及麻省理工學院的 Max Tegmark 也加入了他們的行列。
“減輕人工智能滅絕的風險應該與流行病和核戰爭等其他社會規模的風險一起成為全球優先事項，”
CAIS 發表的信中指出。
人工智能安全中心 (CAIS)，一家位於舊金山的非營利組織，旨在解決與人工智能相關的安全問題。 在認識到 AI 的潛在好處的同時，CAIS 強調需要安全地開發和使用它。 該公司認為，儘管人工智能取得了重大進步，但人工智能安全方面的許多基本挑戰仍未解決。 根據其網站，CAIS 的使命是通過開展安全研究、培養 AI 安全研究人員社區和倡導安全標準來降低風險。
“有許多‘來自人工智能的重要而緊迫的風險’，而不僅僅是滅絕的風險； 例如，系統性偏見、錯誤信息、惡意使用、網絡攻擊和武器化。 這些都是需要解決的重要風險。 社會可以同時管理多種風險； 它不是“要么/或”，而是“是/和”。 從風險管理的角度來看，就像完全優先考慮當前的危害是魯莽的一樣，忽視它們也是魯莽的，”
CAIS 主任 Dan Hendrycks 寫道： 在Twitter上。
1,100 月，超過 XNUMX 名技術專家 簽 一封公開信，要求暫停人工智慧系統訓練六個月 GPT-4。 歐洲立法者最近也 批准 更嚴格的立法草案，即《人工智能法案》，監管人工智能工具，例如 ChatGPT。 該法案包括對基礎人工智能模型的安全檢查、數據治理和風險緩解的要求，並禁止操縱技術和某些生物識別技術的使用等做法。
閱讀更多：
- OpenAI 推出確保人工智能安全的最新方法
- 谷歌是否會宣佈為遊戲玩家推出文本到頭像生成器？
- Amazon 的 CodeWhisperer 為開發人員提供他們在 AI 領域所需的優勢
- Vitalik Buterin 和 MIRI 主任 Nate Soares 深入探討人工智能的危險
免責聲明
在與線 信託專案指南，請注意，本頁提供的資訊無意且不應被解釋為法律、稅務、投資、財務或任何其他形式的建議。 重要的是，僅投資您可以承受損失的金額，並在有任何疑問時尋求獨立的財務建議。 如需了解更多信息，我們建議您參閱條款和條件以及發行人或廣告商提供的幫助和支援頁面。 MetaversePost 致力於提供準確、公正的報告，但市場狀況如有變更，恕不另行通知。
關於作者
Agne 是一名記者，負責報導虛擬宇宙、人工智能和人工智能領域的最新趨勢和發展。 Web3 行業為 Metaverse Post。 她對講故事的熱情促使她對這些領域的專家進行了大量採訪，總是試圖發現令人興奮和引人入勝的故事。 Agne 擁有文學學士學位，在旅行、藝術和文化等廣泛主題的寫作方面擁有豐富的背景。 她也志願擔任動物權利組織的編輯，幫助提高人們對動物福利議題的認識。 聯繫她 [電子郵件保護].
更多文章
Agne 是一名記者，負責報導虛擬宇宙、人工智能和人工智能領域的最新趨勢和發展。 Web3 行業為 Metaverse Post。 她對講故事的熱情促使她對這些領域的專家進行了大量採訪，總是試圖發現令人興奮和引人入勝的故事。 Agne 擁有文學學士學位，在旅行、藝術和文化等廣泛主題的寫作方面擁有豐富的背景。 她也志願擔任動物權利組織的編輯，幫助提高人們對動物福利議題的認識。 聯繫她 [電子郵件保護].
