技術専門家が、より高度なAIシステムのトレーニングの一時停止を求める公開書簡に署名 GPT-4
簡単に言えば
1100 人以上の署名者が、大規模な AI 実験の一時停止を求める公開書簡に署名しました。
署名者には、Elon Musk、Steve Wozniak、Emad Mostaque などが含まれます。
公開書簡ではAIによる情報バイアスに対する懸念が表明され、 ジョブの自動化 そしてAIが人類文明に及ぼすリスク。
主要な技術専門家を含む 1,100 を超える署名者が 公開書簡 より高度な AI システムのトレーニングを XNUMX か月間一時停止するよう求める GPT-4.
この書簡は、人類が直面している世界的な壊滅的かつ実存的なリスク、特に高度な人工知能による実存的なリスクを軽減するために活動している非営利団体である Future of Life Institute によって書かれました。
書簡は、「高度な AI は、地球上の生命の歴史に重大な変化をもたらす可能性があり、相応の注意とリソースで計画および管理されるべきである」と述べている、広く支持されている Asilomar AI Principles を引用して、計画のレベルと管理は行っていません。
書簡は続けて、AI研究所は誰も理解、予測、確実に制御できない、ますます強力な人工知能の開発を目指して「制御不能な」競争をしていると述べている。 現代の AI システムのように GPT-4 できる 人間と競争する 一般的なタスクについては、書簡は、AI による情報のバイアス、ジョブの自動化、および人間の文明を制御できなくなるリスクについて懸念を提起しています。
「私たちはすべての AI ラボに対し、これまでよりも強力な AI システムのトレーニングを少なくとも 6 か月間直ちに停止するよう呼びかけます。 GPT-4。 この一時停止は公開され、検証可能であり、すべての主要な関係者が含まれる必要があります。 そのような一時停止をすぐに制定できない場合は、各国政府が介入して一時停止措置を講じるべきである。」
手紙は述べています。
この書簡は、AI ラボと技術専門家に対し、休止期間を利用して、独立した外部の専門家によって厳密に監査および監督される高度な AI の設計と開発のための安全プロトコルを開発および実装することを求めています。
しかし、アメリカのジャーナリスト、ジェフ・ジャービスはこの手紙を批判し、 格言 それは「モラルパニックの代表例」です。
DeepMind の研究科学者や世界中の数人の大学教授と共に書簡に署名した技術および機械学習の有力者には、次のような人が含まれます。
- Yoshua Bengio、モントリオール大学、深層学習の開発でチューリング賞を受賞、モントリオール学習アルゴリズム研究所所長
- Stuart Russell、バークレー、コンピューター サイエンスの教授、インテリジェント システム センターの所長、標準教科書「人工知能: 現代的アプローチ」の共著者
- SpaceX、Tesla、Twitter の CEO、Elon Musk 氏
- CEO、エマド・モスタク氏 Stability AI
- Jaan Tallinn 氏、Skype の共同創設者、実存リスク研究センター、Future of Life Institute
- ゲーリー・マーカス、ニューヨーク大学、AI研究者、名誉教授
- Marc Rotenberg 氏、Center for AI and Digital Policy (CAIDP)、プレジデント
で 最近の手紙ローテンバーグ氏は、CAIDPが連邦取引委員会に苦情を提出し、オープンAIと ChatGPT、また、保護措置が確立されるまで、製品のさらなる商業的リリースが禁止されます。
OpenAI CEOのサム・アルトマン氏は、 認められた 「私たちの機関が何をすべきかを理解するのに十分な時間も必要」であり、社会は「潜在的に恐ろしい」生成AIツールから遠く離れていない.
「私たちは FTC に「一時停止ボタンを押す」ように求めています。これにより、私たちの機関、法律、社会が追いつく機会が得られます。 コントロールを失う前に、私たちが作成したテクノロジーに対してエージェンシーを主張する必要があります」と CAIDP の書簡は述べています。
他の場所で、 EU 議員 AIルールを実装するために年末までにEU諸国との契約に署名することを目指していますが、AIをどのように管理すべきかについての議論が激化しているため、ボトルネックにぶつかる可能性があります.
続きを読む：
免責事項
に沿って トラストプロジェクトのガイドライン, このページで提供される情報は、法律、税金、投資、財務、またはその他の形式のアドバイスを目的としたものではなく、そのように解釈されるべきではないことに注意してください。 損失しても許容できる金額のみを投資し、疑問がある場合は独立した財務上のアドバイスを求めることが重要です。 詳細については、利用規約のほか、発行者または広告主が提供するヘルプおよびサポート ページを参照することをお勧めします。 MetaversePost は正確で公平なレポートに努めていますが、市場の状況は予告なく変更される場合があります。
著者について
シンディはジャーナリストです Metaverse Postに関連するトピックをカバーしています。 web3, NFT、metaverse、AIに関するインタビューを中心に紹介します。 Web3 業界関係者。彼女は 30 人以上の経営幹部と話をし、その貴重な洞察を読者に届けています。シンガポール出身のシンディは、現在ジョージア州トビリシに拠点を置いています。彼女は南オーストラリア大学でコミュニケーションとメディア研究の学士号を取得しており、ジャーナリズムと執筆において XNUMX 年の経験があります。彼女に連絡するには、 [メール保護] プレス ピッチ、発表、インタビューの機会を提供します。
より多くの記事
シンディはジャーナリストです Metaverse Postに関連するトピックをカバーしています。 web3, NFT、metaverse、AIに関するインタビューを中心に紹介します。 Web3 業界関係者。彼女は 30 人以上の経営幹部と話をし、その貴重な洞察を読者に届けています。シンガポール出身のシンディは、現在ジョージア州トビリシに拠点を置いています。彼女は南オーストラリア大学でコミュニケーションとメディア研究の学士号を取得しており、ジャーナリズムと執筆において XNUMX 年の経験があります。彼女に連絡するには、 [メール保護] プレス ピッチ、発表、インタビューの機会を提供します。
