人工智能困境：Yann LeCun 和 Judea Pearl 談統治與生存
Yann LeCun 和 Judea Pearl 之間發人深省的衝突凸顯了圍繞人工智能出現及其對人類存在的潛在影響的深刻問題。 在實用人工智能進步的出現的催化下，這種討論迅速從推測場景演變為對人類生存的批判性思考。
幾十年來，這個概念 超級智能構成生存威脅 對人類的影響很大程度上局限於科幻小說和電影想像的領域。 研究人員和工程師的討論集中在超級智能本身的可實現性上。 今年迎來了範式轉變，討論超越了好萊塢敘事並滲透到科學和工程界。
Yann LeCun 和 Judea Pearl 最近的交流是該領域內不同觀點的縮影。
LeCun 認為，最終的統治權在於能夠塑造總體敘事的物種。 在他看來，主導的概念與對集體目標和社會方向的影響錯綜複雜地聯繫在一起。 LeCun 的立場挑戰了智力與統治力之間的相關性，他聲稱即使在人類內部，智力較低的人也常常通過制定議程的能力來行使權威。 通過推斷，他設想了一個未來，人工智能將超越 人類智慧，仍然服從於人類的控制。 LeCun 與自然進行了類比，強調統治地位並不等同於智力，正如黑猩猩、狒狒和狼等社會物種所展示的那樣。 他認為，人工智能的崛起將反映聰明員工服從領導者的動態，並認為至高無上的物種的特點是有能力掌控集體命運。
珀爾的觀點與勒昆的樂觀主義相反，她認為超級智能威脅人類生存的條件比預期的要簡單。 珀爾認為，關鍵因素是在特定環境中的統治地位帶來的生存價值。 在他看來，如果通用人工智能（AGI）的一種變體遇到有利於作為進化優勢的主導地位的情況，則可能會出現類似於智人壓倒尼安德特人的情況。 Pearl 的觀點強調了環境因素在塑造人工智能係統行為方面的重要性，引發了人們對由於 AGI 對生存本能的反應而導致的不可預見結果的擔憂。
LeCun-Pearl 對話強調了正在進行的對話的重要性，對人類的命運具有深遠的影響。 隨著討論從理論思考轉向實際考慮，人工智能係統是否會遵循人類的方向或表現出自主動機的問題需要仔細考慮。 隨著人工智能越來越接近超級智能的門檻，根本的困境圍繞著技術進步和道德責任的融合。
這一論述沒有提供簡單的答案，但不可否認的是，思考後果的緊迫性仍然存在。 隨著人工智能發展軌蹟的發展，跨學科合作和道德框架在塑造人工智能方面變得至關重要。 人類和諧共處的未來 有著自己的創作。 風險很高，影響深遠，需要持續探索、反思和負責任的進步。
人工智能主導與人類控制
該文本表明，從對人工智能影響的理論考慮轉向對其存在後果進行更實際的評估。 與尼安德特人和智人之間的歷史衝突進行類比表明，技術先進的實體可能會取代或消滅人類，類似於尼安德特人的命運。
LeCun 和 Pearl 的截然不同的觀點說明了這個未來的不確定性和復雜性。 LeCun 認為，智力並不一定等於主導地位，並強調人類作為人工智能的創造者，將保留控制權。 另一方面，珀爾認為，在特定情況下，以生存為導向的人工智能可能會導致新物種對人類的統治。
這場辯論提出了有關人工智能發展潛在軌蹟的重大倫理、社會和哲學問題。 它強調需要仔細考慮人工智能的影響，確保其進步符合人類價值觀和目標。 隨著人工智能的不斷發展，解決這些問題將在塑造未來技術格局及其與人類的關係方面發揮至關重要的作用。
這篇文章是用 電報社區 援助。
閱讀有關人工智能的更多信息：
免責聲明
在與線 信託專案指南，請注意，本頁提供的資訊無意且不應被解釋為法律、稅務、投資、財務或任何其他形式的建議。 重要的是，僅投資您可以承受損失的金額，並在有任何疑問時尋求獨立的財務建議。 如需了解更多信息，我們建議您參閱條款和條件以及發行人或廣告商提供的幫助和支援頁面。 MetaversePost 致力於提供準確、公正的報告，但市場狀況如有變更，恕不另行通知。
關於作者
Damir 是團隊領導、產品經理和編輯 Metaverse Post，涵蓋 AI/ML、AGI、LLM、Metaverse 等主題 Web3- 相關領域。 他的文章每月吸引超過一百萬用戶的大量讀者。 他似乎是一位在 SEO 和數字營銷方面擁有 10 年經驗的專家。 達米爾曾在 Mashable、Wired、 Cointelegraph、《紐約客》、Inside.com、Entrepreneur、BeInCrypto 和其他出版物。 他作為數字游牧者往返於阿聯酋、土耳其、俄羅斯和獨聯體國家之間。 達米爾獲得了物理學學士學位，他認為這賦予了他在不斷變化的互聯網格局中取得成功所需的批判性思維技能。
更多文章
Damir 是團隊領導、產品經理和編輯 Metaverse Post，涵蓋 AI/ML、AGI、LLM、Metaverse 等主題 Web3- 相關領域。 他的文章每月吸引超過一百萬用戶的大量讀者。 他似乎是一位在 SEO 和數字營銷方面擁有 10 年經驗的專家。 達米爾曾在 Mashable、Wired、 Cointelegraph、《紐約客》、Inside.com、Entrepreneur、BeInCrypto 和其他出版物。 他作為數字游牧者往返於阿聯酋、土耳其、俄羅斯和獨聯體國家之間。 達米爾獲得了物理學學士學位，他認為這賦予了他在不斷變化的互聯網格局中取得成功所需的批判性思維技能。
