AI リーダーが急速な進歩によるリスクと倫理的懸念の増大について警告
最近の政策声明の中で、ベンジオ、ヒントン、ラッセル、ハラリ、カーネマンなど、AI 分野の著名人は、AI の急速な進歩と社会的リスクの増大に警鐘を鳴らしています。
AIは急速に発展しています。 GPT-2 0 年前には 100 から XNUMX まで数えることができませんでしたが、最新のモデルはコードを記述し、素晴らしい画像を作成し、知的指導を提供することができます。 そして私たちはレース中であるため、進歩はさらに加速する可能性があります。 さらに、AI は、新しいシステムのプログラミングやトレーニング用のデータ収集を支援するなど、より迅速に進歩します。
進歩が人間のレベルに到達すると、その進歩が遅くなったり、止まったりすると考える理由はありません。 特定の地域では、人工システムはすでにこの点で人間を上回っており、 高速処理などの機能 速度、データ処理能力の向上、大規模なスケーラビリティ。 企業は、現在の上限をはるかに超える研修プログラムを実施するための経済的余裕を持っています。
著者らは、今後 XNUMX 年以内に、より優れた AI ジェネラリストが出現する可能性が十分にあると考えています。 人間の能力を超えた 多くの重要な領域で。
次に何が起こるでしょうか？ 適切に管理され分配されれば、すべての命を改善することができます。 選択を誤ると、十分な準備ができていない重大なリスクが伴います。 安全性や被害防止に多くのリソースが割り当てられるのではなく、より強力な AI システムの構築に多くのリソースが使用されています。 これは変える必要があります。 自分自身でスキルを追求するだけでは不十分です。 そして、このプロセスには予想以上に時間がかかっています。 現在の脅威の拡大と新たな脅威の出現を予測し、より高いリスクが発生する前に計画を立てる必要があります。 AI が受け入れられるまでに数十年かかるため、AI にはそれほど時間がありません。 気候変動.
社会レベルでは、不正義の増大、安定性の悪化、現実に対する共通認識の悪化など、数多くのリスクが存在します。 ここでは、テロリストや犯罪者が大規模な活動を行っています。 AI が少数のプレイヤーの手に集中し、世界的な不平等の増大につながり、自動化された戦争、各個人に合わせた大量操作、遍在的な監視が促進される可能性があります。
自律的として AIが高度化して計画が立てられるようになる、世界で行動し、その目的を達成すると、これらのリスクは高まるばかりです。 これらの目的は私たちの利益にならない可能性があり、悪意のある者の場合は有害になる可能性さえあります。 AI の動作と複雑な目標を一致させる必要がある AI アライメントの問題を解決する方法は、現時点では不明です。 さらに、勝つことを目的としたレースでは、安全上の注意事項を見落としがちです。
通常のソフトウェアは人間が制御するのが難しく、ましてやソーシャル エンジニアリング、ハッキング、欺瞞、戦略計画にますます熟練するようになっている洗練された AI システムは言うまでもありません。 これは、自律型 AI システムが人々から取得したり、独自に作成したりできるものです。
これらのシステムは、個人や他のシステムと連携を構築し、信頼を勝ち取り、資金を確保し、意思決定者を揺さぶる能力を持っています。 ワームのように、ネットワーク全体で自己複製することができます。 AI アシスタントの支援を受けて、大量のコードがすでに記述されています。 将来的には、システムのエクスプロイトが多数の重要なシステムに組み込まれる可能性があります。 AI システムは、野外戦闘において生物兵器または自律兵器を使用または脅迫する能力を備えています。 これは単なる続きです 生物学研究、人工知能、戦争の自動化に向けた現在の動き。 人々は、踏み込んで抵抗するのは難しすぎると感じるかもしれません。
多くの場合、私たちは彼らに頼まなくても喜んで手綱を渡します。 多くの個人や企業は、競争に後れを取ることを懸念して、競争環境で自らそのようなシステムを導入しようとします。
完全なドキュメントを見つけることができます こちら.
免責事項
に沿って トラストプロジェクトのガイドライン, このページで提供される情報は、法律、税金、投資、財務、またはその他の形式のアドバイスを目的としたものではなく、そのように解釈されるべきではないことに注意してください。 損失しても許容できる金額のみを投資し、疑問がある場合は独立した財務上のアドバイスを求めることが重要です。 詳細については、利用規約のほか、発行者または広告主が提供するヘルプおよびサポート ページを参照することをお勧めします。 MetaversePost は正確で公平なレポートに努めていますが、市場の状況は予告なく変更される場合があります。
著者について
Damir は、チームリーダー、プロダクトマネージャー、編集者です。 Metaverse PostAI/ML、AGI、LLM、メタバース、 Web3に関連するフィールド。 彼の記事は、毎月 10 万人を超えるユーザーという膨大な読者を魅了しています。 彼はSEOとデジタルマーケティングでXNUMX年の経験を持つ専門家のようです。 ダミールはMashable、Wired、 Cointelegraph、The New Yorker、Inside.com、Entrepreneur、BeInCrypto、およびその他の出版物。 彼はデジタル遊牧民として UAE、トルコ、ロシア、CIS の間を旅しています。 ダミールは物理学の学士号を取得しており、これにより、インターネットの絶え間なく変化する状況で成功するために必要な批判的思考スキルが身についたと信じています。
より多くの記事
Damir は、チームリーダー、プロダクトマネージャー、編集者です。 Metaverse PostAI/ML、AGI、LLM、メタバース、 Web3に関連するフィールド。 彼の記事は、毎月 10 万人を超えるユーザーという膨大な読者を魅了しています。 彼はSEOとデジタルマーケティングでXNUMX年の経験を持つ専門家のようです。 ダミールはMashable、Wired、 Cointelegraph、The New Yorker、Inside.com、Entrepreneur、BeInCrypto、およびその他の出版物。 彼はデジタル遊牧民として UAE、トルコ、ロシア、CIS の間を旅しています。 ダミールは物理学の学士号を取得しており、これにより、インターネットの絶え間なく変化する状況で成功するために必要な批判的思考スキルが身についたと信じています。
