AI専門家や著名人がAI絶滅のリスクに警鐘を鳴らす
簡単に言えば
著名な AI 専門家や影響力のある人物が共通の意見を表明 AIに関連するリスクに関する懸念.
AI は大幅に進歩しているにもかかわらず、AI リスクに関連する多くの課題は未解決のままです。
著名なAI専門家や著名人は声明を発表し、AIはパンデミックや核戦争のリスクと同等、あるいはそれ以上に人類の生存に脅威をもたらす可能性があると警告した。 署名者350人は、AIが自律兵器の発射、社会・経済システムの混乱、人間を出し抜いて圧倒する超知能エージェントの創出など、予期せぬ壊滅的な結果をもたらす可能性があると主張している。
彼らは政策立案者に対し、これらのリスクを真剣に受け止め、安全で有益な AI 開発を確保するための措置を講じるよう求めています。 の ステートメント AI 研究開発の主要人物の何人かによって署名されています。 OpenAI CEOのサム・アルトマン氏、Skype共同創設者のジャーン・タリン氏、ディープマインドCEOのデミス・ハサビス氏、AIコンピューター科学者のジェフリー・ヒントン氏、さらにミュージシャンのグライムス氏やポッドキャスターのサム・ハリス氏などの影響力のある著名人も参加する。
署名者の中には、深層学習への貢献により 2018 年チューリング賞を受賞したジェフリー ヒントン氏とヨシュア ベンジオ氏も含まれています。 彼らには、ハーバード大学や中国の清華大学などの名門大学の教授に加え、MITのマックス・テグマーク氏も参加した。
「AIによる絶滅のリスクを軽減することは、パンデミックや核戦争などの他の社会規模のリスクと並んで世界的な優先事項であるべきです。」
CAISが公開した書簡にはこう書かれている。
AI セーフティ センター (CAIS)は、サンフランシスコに拠点を置く非営利団体で、人工知能に関連する安全性の懸念に対処することを目的としています。 CAIS は、AI の潜在的な利点を認識しながらも、AI を安全に開発して使用する必要性を強調しています。 AI の大幅な進歩にも関わらず、AI の安全性における多くの根本的な課題は未解決のままであると同社は考えています。 CAIS のウェブサイトによると、CAIS の使命は、安全研究の実施、AI 安全研究者のコミュニティの育成、安全基準の提唱によってリスクを軽減することです。
「絶滅のリスクだけでなく、「AIによる重要かつ緊急のリスク」が数多くあります。 たとえば、体系的な偏見、誤った情報、悪意のある使用、サイバー攻撃、兵器化などです。 これらはすべて、対処する必要がある重要なリスクです。 社会は複数のリスクを一度に管理できます。 「どちらか/または」ではなく、「はい/そして」です。 リスク管理の観点から見ると、現在の被害をもっぱら優先するのは無謀であるのと同様に、それを無視するのもまた無謀です。」
CAIS所長、ダン・ヘンドリックス氏 書いた Twitterで。
1,100月にはXNUMX人以上の技術専門家が参加 署名されました を超えるAIシステムのトレーニングのXNUMXか月停止を要求する公開書簡 GPT-4。 最近ではヨーロッパの議員も 承認された AI法として知られる、より厳格な法案草案で、以下のようなAIツールを規制する。 ChatGPT。 この法律には、基礎的な AI モデルの安全性チェック、データ ガバナンス、リスク軽減の要件が含まれており、操作技術や生体認証の特定の使用などの行為を禁止しています。
続きを読む：
- OpenAI AIの安全性を確保するための最新のアプローチを発表
- Google は、ゲーマー向けのテキストからアバターへのジェネレーターを発表する予定ですか?
- Amazon の CodeWhisperer は、AI アリーナで必要なエッジを開発者に提供します
- ヴィタリック・ブテリンとMIRI所長ネイト・ソアレスがAIの危険性を掘り下げる
免責事項
に沿って トラストプロジェクトのガイドライン, このページで提供される情報は、法律、税金、投資、財務、またはその他の形式のアドバイスを目的としたものではなく、そのように解釈されるべきではないことに注意してください。 損失しても許容できる金額のみを投資し、疑問がある場合は独立した財務上のアドバイスを求めることが重要です。 詳細については、利用規約のほか、発行者または広告主が提供するヘルプおよびサポート ページを参照することをお勧めします。 MetaversePost は正確で公平なレポートに努めていますが、市場の状況は予告なく変更される場合があります。
著者について
アグネは、メタバース、AI、およびメタバースの最新のトレンドと開発をカバーするジャーナリストです。 Web3 のための産業 Metaverse Post。 ストーリーテリングに対する彼女の情熱により、これらの分野の専門家に数多くのインタビューを実施し、常にエキサイティングで魅力的なストーリーを明らかにしようと努めています。 アグネは文学の学士号を取得しており、旅行、芸術、文化など幅広いトピックについて執筆する幅広い経歴を持っています。 彼女は動物愛護団体の編集者としてもボランティアとして参加し、動物福祉問題についての意識を高めることに貢献しました。 彼女に連絡する [メール保護].
より多くの記事
アグネは、メタバース、AI、およびメタバースの最新のトレンドと開発をカバーするジャーナリストです。 Web3 のための産業 Metaverse Post。 ストーリーテリングに対する彼女の情熱により、これらの分野の専門家に数多くのインタビューを実施し、常にエキサイティングで魅力的なストーリーを明らかにしようと努めています。 アグネは文学の学士号を取得しており、旅行、芸術、文化など幅広いトピックについて執筆する幅広い経歴を持っています。 彼女は動物愛護団体の編集者としてもボランティアとして参加し、動物福祉問題についての意識を高めることに貢献しました。 彼女に連絡する [メール保護].
