Dan Hendrycks：在人工智能和人類之間做出選擇，進化不會選擇我們
簡單來說
Dan Hendrycks 的研究“自然選擇更喜歡人工智能勝過人類”是一個可怕的結論。
他是一位經驗豐富的知名研究人員，發表了數十篇關於評估人工智能係統安全性的科學論文。
Dan Hendrycks 的研究聽起來像是對智人的死刑宣判。 研究結論“自然選擇偏愛 AI 而不是人類”真是嚇人。 這不是像 Dan Brown 這樣受歡迎的有遠見的人寫的，而是由 Dan Hendrycks 寫的，他是加州人工智能安全中心 (CAIS) 的主任，這是一個專門從事人工智能安全研究和實地工作的非營利組織。
Dan Hendrycks 並不是一個對 AI 進步感到恐慌的邊緣瘋子。 他是一位經驗豐富且廣受尊敬的研究人員，發表了數十篇關於評估人工智能係統安全性的科學論文——測試它們在編碼、推理、理解法律等方面的能力。除此之外，他還是高斯線性誤差單位 (GELU)。
傑克·克拉克，聯合創始人 ChatGPT 斯坦福大學人工智能指數聯合主席、經濟合作與發展組織人工智能和計算部門聯合主席、美國政府國家人工智能諮詢委員會成員 Anthropic 的競爭對手 Anthropic 討論了 Hendrycks 的研究結論。 “人們本能地想要對這樣的說法置之不理，認為它出自某個住在森林小屋裡的狂妄的瘋子之口。 我想提前反駁這一點。 當一位專家不僅擁有人工智能研究經驗，而且還擁有 評估人工智能係統的安全性 寫論文認為，未來的人工智能係統可能會自私地行事，不符合人們的利益，我們應該注意它！
Hendrycks 的論文摘要：
- 如果AI代理變得更多 比人類聰明，這可能導致人類失去對未來的控制。
- 這很有可能不是由於人或機器的某些特殊惡意意圖而發生的，而僅僅是由於根據達爾文邏輯將發展的進化原則適用於 AI 的結果。
- 為了將這種風險降到最低，需要仔細設計 AI 代理的內在動機，對其行為施加限制，並創建鼓勵 AI 協作的機構。
也就是說，Hendrycks 在他 43 頁的科學論文中提出了最重要的觀點：
1. 我們害怕終結者的到來，但這些恐懼的基礎是錯誤的。 有兩個錯誤：
A。 人工智能的擬人化，以及我們對其動機的歸因等——如 ChatGPT 事實表明，人工智能是一種根本不同的思維，它帶來了所有的後果。
b. AI 是一種單一實體的想法：聰明或不太聰明，善良或不太善良，但事實上，這些截然不同的 AI 實體很快就會盡可能多地出現在世界上。
2. 我們對 AI 未來的看法還有另一個根本性缺陷——我們忘記了最重要的發展機制——進化，它不僅推動了生物製劑的發展，還推動了思想和意義、物質工具和非物質制度的發展。
3. 地球上已經開始形成一個環境，許多人工智能將在其中發展和進化。 這種進化將按照達爾文的邏輯進行，通過人工智能之間的競爭，同時考慮到它們“母”機構的利益：公司、軍隊等。
4. 競爭進化的邏輯將導致與人類相同：越來越聰明的人工智能代理將變得越來越自私，並準備通過欺騙和武力來實現目標，主要目標是權力。
5. 人工智能主體的自然選擇傾向於偏愛更自私的物種而不是更利他的物種。 人工智能代理會自私地追求自己的利益，而不顧人類，這可能會給人類帶來災難性的風險。
- 請願書 停止開發比這更先進的人工智慧系統 GPT-4 社會兩極化。 第一組認為進步不能被阻止，而另一組則認為進步有時應該被阻止。 第三組不懂怎麼辦 GPT-4 首先運作。 本文中最重要的細節是人工智慧沒有意識、意誌或代理，即使沒有惡意的人，它也可能是壞事。
- Geoffrey Hinton 通常被稱為“人工智能教父”，被認為是深度學習社區的領軍人物。 他的 40 分鐘採訪 ChatGPT 它的獨特之處在於它易於理解，並且具有很少其他人能夠理解的深度。 他強調了正在進行的“知識革命”的重要性以及人類非人的智慧。 ChatGPT，它基於具有先進數字通信功能的人工智能代理。
閱讀更多相關文章：
免責聲明
在與線 信託專案指南，請注意，本頁提供的資訊無意且不應被解釋為法律、稅務、投資、財務或任何其他形式的建議。 重要的是，僅投資您可以承受損失的金額，並在有任何疑問時尋求獨立的財務建議。 如需了解更多信息，我們建議您參閱條款和條件以及發行人或廣告商提供的幫助和支援頁面。 MetaversePost 致力於提供準確、公正的報告，但市場狀況如有變更，恕不另行通知。
關於作者
Damir 是團隊領導、產品經理和編輯 Metaverse Post，涵蓋 AI/ML、AGI、LLM、Metaverse 等主題 Web3- 相關領域。 他的文章每月吸引超過一百萬用戶的大量讀者。 他似乎是一位在 SEO 和數字營銷方面擁有 10 年經驗的專家。 達米爾曾在 Mashable、Wired、 Cointelegraph、《紐約客》、Inside.com、Entrepreneur、BeInCrypto 和其他出版物。 他作為數字游牧者往返於阿聯酋、土耳其、俄羅斯和獨聯體國家之間。 達米爾獲得了物理學學士學位，他認為這賦予了他在不斷變化的互聯網格局中取得成功所需的批判性思維技能。
更多文章
Damir 是團隊領導、產品經理和編輯 Metaverse Post，涵蓋 AI/ML、AGI、LLM、Metaverse 等主題 Web3- 相關領域。 他的文章每月吸引超過一百萬用戶的大量讀者。 他似乎是一位在 SEO 和數字營銷方面擁有 10 年經驗的專家。 達米爾曾在 Mashable、Wired、 Cointelegraph、《紐約客》、Inside.com、Entrepreneur、BeInCrypto 和其他出版物。 他作為數字游牧者往返於阿聯酋、土耳其、俄羅斯和獨聯體國家之間。 達米爾獲得了物理學學士學位，他認為這賦予了他在不斷變化的互聯網格局中取得成功所需的批判性思維技能。
