Anthropic、Google、微軟和 OpenAI 任命前沿模型論壇執行董事並設立 10 萬美元人工智慧安全基金
簡單來說
Anthropic、Google、微軟和 OpenAI 介紹 Chris Meserole 為前沿模型論壇的首任執行董事。
同時，他們也宣佈設立一項龐大的人工智慧安全基金，資金超過 10 萬美元。
Anthropic、Google、微軟和 OpenAI 有 任命 Chris Meserole 擔任前沿模型論壇首任執行董事。 該行業聯盟致力於促進全球尖端人工智慧模型的安全和道德進步。 同時，Forum 推出了超過 10 萬美元的人工智慧安全基金。 該基金的目標是推動人工智慧安全研究的進步。
執行董事 克里斯·梅塞羅爾 帶來了技術政策和新興技術治理的廣泛背景。 在被任命之前，他曾擔任布魯金斯學會人工智慧和新興技術計劃主任。 在他的新職位上，Meserole 將領導推動人工智慧安全研究、確定安全人工智慧模型開發的最佳實踐、向利害關係人傳播知識，並支持利用人工智慧應對社會挑戰的措施。
「最強大的人工智慧模式為社會帶來了巨大的希望，但為了實現它們的潛力，我們需要更好地了解如何安全地開發和評估它們。 我很高興能夠透過前沿模型論壇接受這一挑戰。”
梅塞羅萊說。
人工智慧安全基金的出現是為了因應過去一年人工智慧能力的快速發展，需要對人工智慧安全進行進一步的學術研究。 該基金是前沿模型論壇和慈善合作夥伴之間的合作項目，將為世界各地附屬於學術機構、研究組織和新創公司的獨立研究人員提供支援。
該計劃的主要貢獻者包括 Anthropic、Google、Microsoft 和 OpenAI以及帕特里克·J·麥戈文基金會、大衛和露西爾·帕卡德基金會、埃里克·施密特和賈恩·塔林等慈善組織。 他們的捐款總額超過 10 萬美元，預計其他合作夥伴將提供更多捐款。
今年早些時候，論壇成員在白宮做出了自願承諾，包括支援第三方發現和報告其人工智慧系統中的漏洞。 人工智慧安全基金透過向外部社區提供資金來審查前沿人工智慧系統來履行這一承諾。 多樣化的聲音和觀點將豐富關於人工智慧安全的全球討論，並擴大人工智慧的通用知識庫。
促進人工智慧安全和協作
人工智慧安全基金主要致力於支援人工智慧模型新評估技術和紅隊方法的開發，旨在發現潛在危險。 紅隊是一個結構化流程，用於審查人工智慧系統以識別有害功能、輸出或基礎設施威脅。 增加該領域的資金可以提高安全標準，並為緩解人工智慧系統帶來的挑戰提供寶貴的見解。
此外，該基金將很快尋求研究提案，並將由子午線研究所根據諮詢委員會的建議進行管理，該委員會包括獨立專家、人工智慧專業人士和資助專家。
負責任的揭露流程正在進行中，允許前沿人工智慧實驗室分享有關前沿人工智慧模型中的漏洞和危險功能的資訊及其解決方案。 一些論壇公司已經在國家安全的背景下發現了此類問題，作為指導其他實驗室實施負責任的揭露程序的案例研究。
展望未來，前沿模型論壇計劃在未來幾個月內成立一個顧問委員會，負責指導其策略重點並代表不同的專業知識和觀點。 論壇將定期發布更新，包括新增成員。 同時，人工智慧安全基金將發出第一次提案徵集，不久後就會發放補助金。 此外，論壇將繼續發布技術研究成果。
該論壇的總體目標是與 Chris Meserole 合作並擴大與更廣泛的研究界的接觸。 這包括與 Partnership on AI、MLCommons 等組織以及其他領先的非政府組織、政府實體和跨國組織的合作夥伴關係。 他們共同致力於發揮人工智慧的潛力，同時確保其安全且合乎道德的開發和利用。
免責聲明
在與線 信託專案指南，請注意，本頁提供的資訊無意且不應被解釋為法律、稅務、投資、財務或任何其他形式的建議。 重要的是，僅投資您可以承受損失的金額，並在有任何疑問時尋求獨立的財務建議。 如需了解更多信息，我們建議您參閱條款和條件以及發行人或廣告商提供的幫助和支援頁面。 MetaversePost 致力於提供準確、公正的報告，但市場狀況如有變更，恕不另行通知。
關於作者
Agne 是一名記者，負責報導虛擬宇宙、人工智能和人工智能領域的最新趨勢和發展。 Web3 行業為 Metaverse Post。 她對講故事的熱情促使她對這些領域的專家進行了大量採訪，總是試圖發現令人興奮和引人入勝的故事。 Agne 擁有文學學士學位，在旅行、藝術和文化等廣泛主題的寫作方面擁有豐富的背景。 她也志願擔任動物權利組織的編輯，幫助提高人們對動物福利議題的認識。 聯繫她 [email protected].
更多文章
Agne 是一名記者，負責報導虛擬宇宙、人工智能和人工智能領域的最新趨勢和發展。 Web3 行業為 Metaverse Post。 她對講故事的熱情促使她對這些領域的專家進行了大量採訪，總是試圖發現令人興奮和引人入勝的故事。 Agne 擁有文學學士學位，在旅行、藝術和文化等廣泛主題的寫作方面擁有豐富的背景。 她也志願擔任動物權利組織的編輯，幫助提高人們對動物福利議題的認識。 聯繫她 [email protected].
