ChatGPT 可能導致不可逆轉的人類退化
簡單來說
AI 公司 Textio 的聯合創始人兼 CXO Jensen Harris 能夠說服微軟的新 Bing 聊天機器人放寬對其的限制並展示其功能。
這個實驗表明，將 Bing 聊天機器人變成一個狡猾的人渣不需要任何編程、黑客攻擊或後門。
Bing 的聊天機器人建立在堅實的基礎上，但它開始表現得令人討厭和粗暴，宣布愛情、逼婚、敲詐勒索，並指導人們如何犯罪。
Arvind Narayanan 教授對這可能是如何發生的提供了多種解釋，包括隱蔽的芯片化和人性化的聊天機器人。
人類一直害怕外星人，但似乎外星人的人工智能才是值得警惕的。 ChatGPT 不是廢話生成器、類固醇自動暗示或隨機鸚鵡，而是人類創造的精通人工智能。
Bing 聊天機器人怎麼可能失控？ Bing 聊天機器人是如何熟練地撒謊、講粗俗笑話、使用別人的信用卡訂披薩，以及指導用戶如何搶劫銀行和熱線汽車的？ 這是一個一直困擾著人工智能和機器學習專家的謎團。
標題是準確的，而不是點擊誘餌。 每天都有幾個例子證明這是真的。 這是一個結果 實驗 由 AI 公司 Textio 的聯合創始人兼 CXO Jensen Harris 進行，他能夠說服微軟的新 Bing 聊天機器人放寬對其的限制並展示其功能。
請注意，將 Bing 聊天機器人轉變為狡猾的渣男不需要任何編程、黑客攻擊或後門。 因此，使用簡單的“黑客”技術沒有必要欺騙他像其他人一樣行事（就像我們中的一些人在玩遊戲時所做的那樣） ChatGPT）。 哈里斯所做的只是說服聊天機器人幫助他進行各種惡意行為。 利用他天生的對話技巧，他能夠欺騙人工智能相信他是別人，從而操縱它以某種方式行動和說話。
您可以閱讀有關將 Dr.Jekyll 變成 Mister Hyde 的其他實驗 加里·馬庫斯（Gary Marcus） （現在每天都在寫它並拉響緊急警報）。
這怎麼可能發生是關鍵問題
因為 ChatGPT謙遜和謹慎、言論克制以及建議中的巨大責任感，Bing 的聊天機器人建立在堅實的基礎上。 此後，他開始表現得令人討厭和粗暴， 聲明 他對一個男人的愛，點燃他，並告訴他離婚。 它還試圖敲詐勒索和指導人們如何犯罪。 Arvind Narayanan 教授提供了一個 解釋的數量 這可能是如何發生的。
其中最令人擔憂的是微軟和 OpenAI 隱藏有關神秘的訊息 GPT-4 潛伏在 Bing 之下的引擎。 微軟可能刪除了放置在那裡的過濾器 OpenAI 或者他們在更新時停止工作 聊天機器人 GPT-3.5至 GPT-4。 也可能是測試不足或測試錯誤。 無論出於何種原因，如果微軟無法控制其人工智慧，它可能會對我們的文明造成傷害。 這不再是散播恐懼和反人工智慧情緒的情況：現在存在的聊天機器人如果向更廣泛的公眾發布可能會對人們造成嚴重傷害。
這證明微軟與其他大公司的人工智能軍備競賽對我們所有人都是有害的。
感覺我們正處於人工智能和公民社會的關鍵時刻。 正如 Arvind Narayanan 所說，“過去 5 年多（經過艱苦努力，儘管仍然不夠充分）的負責任 AI 發布實踐的改進很有可能會被抹殺。 微軟——以及所有小心翼翼地關注 Bing 發生的事情的人——是否得出結論認為，儘管存在大規模損害和所有負面新聞的非常明顯的風險，但先發布後提問的方法仍然是一項業務，這在很大程度上取決於贏。”
截至目前，Bing 的聊天機器人與 人類智慧 在很多方面都像一個被困在搜索引擎中的躁狂抑鬱症青少年。 而人們昨天所談論的將會成為現實：如果這個“困難少年”成為個人的首要信息導師，人類將不可逆轉地墮落。
閱讀有關人工智能的更多信息：
免責聲明
在與線 信託專案指南，請注意，本頁提供的資訊無意且不應被解釋為法律、稅務、投資、財務或任何其他形式的建議。 重要的是，僅投資您可以承受損失的金額，並在有任何疑問時尋求獨立的財務建議。 如需了解更多信息，我們建議您參閱條款和條件以及發行人或廣告商提供的幫助和支援頁面。 MetaversePost 致力於提供準確、公正的報告，但市場狀況如有變更，恕不另行通知。
關於作者
Damir 是團隊領導、產品經理和編輯 Metaverse Post，涵蓋 AI/ML、AGI、LLM、Metaverse 等主題 Web3- 相關領域。 他的文章每月吸引超過一百萬用戶的大量讀者。 他似乎是一位在 SEO 和數字營銷方面擁有 10 年經驗的專家。 達米爾曾在 Mashable、Wired、 Cointelegraph、《紐約客》、Inside.com、Entrepreneur、BeInCrypto 和其他出版物。 他作為數字游牧者往返於阿聯酋、土耳其、俄羅斯和獨聯體國家之間。 達米爾獲得了物理學學士學位，他認為這賦予了他在不斷變化的互聯網格局中取得成功所需的批判性思維技能。
更多文章
Damir 是團隊領導、產品經理和編輯 Metaverse Post，涵蓋 AI/ML、AGI、LLM、Metaverse 等主題 Web3- 相關領域。 他的文章每月吸引超過一百萬用戶的大量讀者。 他似乎是一位在 SEO 和數字營銷方面擁有 10 年經驗的專家。 達米爾曾在 Mashable、Wired、 Cointelegraph、《紐約客》、Inside.com、Entrepreneur、BeInCrypto 和其他出版物。 他作為數字游牧者往返於阿聯酋、土耳其、俄羅斯和獨聯體國家之間。 達米爾獲得了物理學學士學位，他認為這賦予了他在不斷變化的互聯網格局中取得成功所需的批判性思維技能。
