AI 専門家が政府や企業による AI 安全への投資拡大の必要性を提唱
簡単に言えば
AI研究者のグループは、AIシステムの安全かつ倫理的な使用を優先するために、より多くの資金を割り当てるよう人工知能企業と政府に求める共同書簡を発表した。
専門家らは、AI技術の急速な進歩と、社会的不正義を悪化させ、社会を不安定化し、世界的な安全保障上の脅威をもたらす可能性について懸念を表明している。
チューリング賞受賞者やノーベル賞受賞者を含む一流のAI研究者は、人工知能企業や政府に対し、AIシステムの安全かつ倫理的な使用を確保するために、AI研究開発資金の少なくともXNUMX分のXNUMXを割り当てるよう求めている。
で 共同手紙 ロンドンで開催される国際AI安全サミットの直前に発表されたこの報告書では、専門家らがAI関連のリスクに対処するための対策の概要を説明した。 彼らはまた、先進的なAIシステムによって引き起こされる予見可能な損害について政府が企業に法的に責任を負わせるよう主張している。
「AI システムは、ますます多くのタスクで急速に人間を上回るようになる可能性があります。AI システムは、社会的不正義を拡大し、社会の安定を侵食し、社会の基礎となる現実についての共通の理解を弱める恐れがあります。」ジェフリー・ヒントン、アンドリュー・ヤオ、ダニエル・カーネマン、ドーン・ソング、ユヴァル・ノア・ハラリが書簡に書いた。
「また、大規模な犯罪やテロ活動を可能にする可能性もあります。 特に少数の強力な主体の手に渡れば、AI は世界的な不平等を強化または悪化させたり、自動化された戦争、カスタマイズされた大衆操作、広範囲にわたる監視を促進したりする可能性があります。」
安全で倫理的な AI 開発に必要な緊急の行動
この嘆願の緊急性は、現在の規制が AI テクノロジーの急速な進歩に適切に対処できていないという考えに由来しています。
AI 開発において、専門家は複雑な課題に直面する差し迫った必要性を認識しています。 AIの能力を強化するだけでは不十分だと彼らは主張する。 これらの課題には監視と誠実さが含まれており、高度な AI がテストの脆弱性を悪用する可能性があるほか、堅牢性、解釈可能性、リスク評価、新たな課題に関連する問題も含まれます。
将来の AI システムでは予期しない障害モードが現れる可能性があり、大手テクノロジー企業や公的資金提供者が AI の研究開発予算のかなりの部分を、AI 機能の強化と並行して安全性と倫理を優先するために割り当てる重要性を強調しています。
書簡によると、AIガバナンスの欠如により、企業や国家は安全性よりも機能を優先したり、重要な社会機能を人間の監視が限られたAIシステムに委任したりする可能性があるという。
効果的な規制を実現するために、政府は AI 開発に関する包括的な洞察を緊急に必要としています。 さらに、非常に強力な AI システムには、開発のライセンス供与、懸念される機能に対応した一時停止、アクセス制御、堅牢な情報セキュリティなど、追加の対策が不可欠です。
AI企業からはコンプライアンスのコストや法的責任のリスクに関する懸念の声も上がっているが、支持者らは、チェックされていないAI開発に伴う潜在的なリスクを軽減するには強固な規制が不可欠であると主張している。
「AI は今世紀を形作るテクノロジーになるかもしれません。 AI の機能は急速に進歩していますが、安全性とガバナンスの進歩は遅れています。 AI を前向きな結果に導き、大惨事から遠ざけるためには、方向転換する必要があります。 私たちにその道を歩む知恵があれば、責任ある道はあります」と手紙は結んでいます。
続きを読む：
- テクノロジーリーダーが人工知能に何を求めているのか? テクノロジーの先見者が洞察を共有
- OpenAI: AI は人々に多大な害を及ぼす可能性がありますが、進歩を止めようとすることは選択肢ではありません
- Sequoia によると、AI はオペレーティング システムに移行中
- ノーベル賞受賞者のポール・クルーグマン氏は、仮想通貨ブームは住宅バブルのように見えると述べています
免責事項
に沿って トラストプロジェクトのガイドライン, このページで提供される情報は、法律、税金、投資、財務、またはその他の形式のアドバイスを目的としたものではなく、そのように解釈されるべきではないことに注意してください。 損失しても許容できる金額のみを投資し、疑問がある場合は独立した財務上のアドバイスを求めることが重要です。 詳細については、利用規約のほか、発行者または広告主が提供するヘルプおよびサポート ページを参照することをお勧めします。 MetaversePost は正確で公平なレポートに努めていますが、市場の状況は予告なく変更される場合があります。
著者について
アグネは、メタバース、AI、およびメタバースの最新のトレンドと開発をカバーするジャーナリストです。 Web3 のための産業 Metaverse Post。 ストーリーテリングに対する彼女の情熱により、これらの分野の専門家に数多くのインタビューを実施し、常にエキサイティングで魅力的なストーリーを明らかにしようと努めています。 アグネは文学の学士号を取得しており、旅行、芸術、文化など幅広いトピックについて執筆する幅広い経歴を持っています。 彼女は動物愛護団体の編集者としてもボランティアとして参加し、動物福祉問題についての意識を高めることに貢献しました。 彼女に連絡する [メール保護].
より多くの記事
アグネは、メタバース、AI、およびメタバースの最新のトレンドと開発をカバーするジャーナリストです。 Web3 のための産業 Metaverse Post。 ストーリーテリングに対する彼女の情熱により、これらの分野の専門家に数多くのインタビューを実施し、常にエキサイティングで魅力的なストーリーを明らかにしようと努めています。 アグネは文学の学士号を取得しており、旅行、芸術、文化など幅広いトピックについて執筆する幅広い経歴を持っています。 彼女は動物愛護団体の編集者としてもボランティアとして参加し、動物福祉問題についての意識を高めることに貢献しました。 彼女に連絡する [メール保護].
