OpenAI: AI は人々に多大な害を及ぼす可能性がありますが、進歩を止めようとすることは選択肢ではありません
簡単に言えば
OpenAIの文書「AGI とその先への計画」では、より複雑で「スマート」なモデルを段階的にゆっくりと導入し、大規模システムの独立した監査を組織し、コンピューティング リソースを制限することが提案されています。
OpenAI AI は誰に対しても平等にオープンであり、より一貫性のある、 管理可能なモデル 偏見や望ましくない行動を減らすため。
OpenAI は最近、「AGI とその先への計画」というタイトルの文書を公開しました。 これは、世界が AGI (汎用人工知能) の開発に近づく中、同社の行動を導く幅広いアイデアを概説しています。
OpenAI with は、AI は人々に重大な害を及ぼす可能性がある一方で、進歩を止めようとすることは選択肢ではないと考えています。 そのため、私たちはこの改善を大幅に悪化させないように維持する方法を学ばなければなりません。
文書は見つかります こちら。 その中からいくつかの重要な要素を強調してみましょう。
- OpenAI は、AGI が人々が経済的にも科学的にも、生活のあらゆる面で繁栄できるよう支援したいと考えています。
超カッコいい大型AIを作ってすぐに世に出すのではなく、 OpenAI より複雑で「スマートな」モデルを徐々に導入していきます。 AIの能力を段階的に高めても世界に衝撃を与えることはなく、人間が経済を適応させ、AIと対話するための手順を構築する時間を与えることができるという前提がある。 - OpenAI すべての組織に前述の原則を正式に採用するよう呼びかけます（強力な AI を段階的に展開します）。 アルトマン氏はまた、モデルのトレーニングに使用できるコンピューティング リソースの量を制限し、主要なシステムが一般公開される前にその公平な監査を設定することも推奨しています。 「誰がよりクールでより大きなモデルを最初に発売するか?」といった競争に参加するのではなく、 OpenAI 企業に次のことを求める 共に働く AIの安全性を高めるために。
- OpenAI は、特定の規模を超える訓練実施について政府に情報を提供することが重要であると考えています。 これは興味深いコンセプトですので、さらに詳しく知りたいと思います。 プラン OpenAI この点に関しては持っています。 この提案は最初は私にはそれほど素晴らしいとは思えません。
- OpenAI より信頼性と制御性が高く、AI のバイアスや好ましくない動作を制限する可能性が最も高いモデルの開発を試みます。 がとったアプローチ OpenAI この場合、モデルを非常に制限された形式で一般公開し、同時にユーザーにモデルをカスタマイズするオプションを提供します。 消費者はそこでは何も「パーソナライズ」できないため、これがモデル全体の偏りを軽減するのにどのように役立つかはわかりません。 モデルの行動に対する事務所の責任が免除される場合を除きます。
全体として、この文書は正しい方向を示しています。 しかし、「クールなモデルをすぐに国民に公開するわけではないが、国家に対しては話し合う」という意見との間には小さな矛盾があった。 「人々は知るべきだ AIの進歩について。」 要するに、私たちはからの詳細な説明を待つことになります。 OpenAI すべてのトピックについて。
AI について詳しく読む:
免責事項
に沿って トラストプロジェクトのガイドライン, このページで提供される情報は、法律、税金、投資、財務、またはその他の形式のアドバイスを目的としたものではなく、そのように解釈されるべきではないことに注意してください。 損失しても許容できる金額のみを投資し、疑問がある場合は独立した財務上のアドバイスを求めることが重要です。 詳細については、利用規約のほか、発行者または広告主が提供するヘルプおよびサポート ページを参照することをお勧めします。 MetaversePost は正確で公平なレポートに努めていますが、市場の状況は予告なく変更される場合があります。
著者について
Damir は、チームリーダー、プロダクトマネージャー、編集者です。 Metaverse PostAI/ML、AGI、LLM、メタバース、 Web3に関連するフィールド。 彼の記事は、毎月 10 万人を超えるユーザーという膨大な読者を魅了しています。 彼はSEOとデジタルマーケティングでXNUMX年の経験を持つ専門家のようです。 ダミールはMashable、Wired、 Cointelegraph、The New Yorker、Inside.com、Entrepreneur、BeInCrypto、およびその他の出版物。 彼はデジタル遊牧民として UAE、トルコ、ロシア、CIS の間を旅しています。 ダミールは物理学の学士号を取得しており、これにより、インターネットの絶え間なく変化する状況で成功するために必要な批判的思考スキルが身についたと信じています。
より多くの記事
Damir は、チームリーダー、プロダクトマネージャー、編集者です。 Metaverse PostAI/ML、AGI、LLM、メタバース、 Web3に関連するフィールド。 彼の記事は、毎月 10 万人を超えるユーザーという膨大な読者を魅了しています。 彼はSEOとデジタルマーケティングでXNUMX年の経験を持つ専門家のようです。 ダミールはMashable、Wired、 Cointelegraph、The New Yorker、Inside.com、Entrepreneur、BeInCrypto、およびその他の出版物。 彼はデジタル遊牧民として UAE、トルコ、ロシア、CIS の間を旅しています。 ダミールは物理学の学士号を取得しており、これにより、インターネットの絶え間なく変化する状況で成功するために必要な批判的思考スキルが身についたと信じています。
