GPT-4 以前からの「幻覚的な」事実と推論の誤りを引き継ぐ GPT Models
簡単に言えば
OpenAI 言う GPT-4 以前と同様の制限があります GPT モデル.
GPT-4 まだ事実を幻覚し、推論上の誤りを犯します。
しかしながら、 GPT-4 よりも 40% 高いスコア OpenAIの最新 GPT-3.5 社内の敵対的事実評価に関する。
OpenAI 最新の言語モデルについてユーザーに警告しました。 GPT-4、まだ完全に信頼できるわけではなく、事実を「幻覚」させたり、推論上の誤りを犯したりする可能性があります。 同社はユーザーに対し、特に「一か八かの文脈」で言語モデルの出力を使用する際には注意するよう呼び掛けている。
しかし、良いニュースはそれです GPT-4 以前のモデルと比較して幻覚を大幅に軽減します。 OpenAI その主張 GPT-4 最新のものよりスコアが 40% 高い GPT-3.5 内部敵対的事実評価に関する。
「私たちは、敵対者によって選択された不正確なステートメントのセットから事実を分離するモデルの能力をテストする TruthfulQA のような外部ベンチマークで進歩を遂げました。 これらの質問は、統計的に魅力的な事実に反する回答と組み合わされています。」 OpenAI に書いた ブログ投稿.
この改善にもかかわらず、モデルは 2021 年 XNUMX 月以降に発生したイベントの知識をまだ欠いており、以前のモデルと同様に単純な推論エラーを起こすことがあります。 さらに、ユーザーからの明らかな虚偽の声明を受け入れることで過度にだまされやすく、コードにセキュリティの脆弱性を導入するなどの難しい問題で失敗する可能性があります. また、提供する情報の事実確認も行いません。
その前任者のように、 GPT-4 有害なアドバイス、バグのあるコード、または不正確な情報が生成される可能性があります。 ただし、モデルの追加機能により、理解する必要がある新たなリスク面が生じます。 これらのリスクの程度を評価するには、 50人以上の専門家 AI 調整リスク、サイバーセキュリティ、バイオリスク、信頼と安全、国際安全保障など、さまざまな分野の専門家がモデルの敵対的テストに従事しました。 その後、彼らのフィードバックとデータは、モデルを改善するために追加データを収集するなど、モデルを改善するために使用されました。 GPT-4危険な化学物質の合成方法に関する要求を拒否する能力。
主な方法の一つ OpenAI RLHF (ヒューマンフィードバックからの強化学習) トレーニング中に追加の安全報酬信号を組み込むことで、有害な出力を削減しています。 この信号は、有害なコンテンツのリクエストを拒否するようにモデルをトレーニングします。 defiモデルの使用ガイドラインによって定められています。 報酬は、 GPT-4 ゼロショット分類器。安全境界と安全関連のプロンプトの完了スタイルを判断します。
OpenAI また、許可されていないコンテンツのリクエストに応答するモデルの傾向が、以前と比べて 82% 減少したとも述べています。 GPT-3.5、 GPT-4 会社のポリシーに従って、医療上のアドバイスや自傷行為などのデリケートなリクエストに 29% 多く対応します。
一方、 OpenAIの介入により、人から悪い行動を引き出すことがさらに困難になりました。 GPT-4、それはまだ可能であり、使用ガイドラインに違反するコンテンツを生成する可能性のある脱獄はまだ存在します。
「AI システムが普及するにつれて、これらの介入で高度な信頼性を達成することがますます重要になります。 今のところ、これらの制限を、悪用の監視などの展開時の安全技術で補完することが不可欠です」と同社は付け加えました.
OpenAI 外部の研究者と協力して、潜在的な影響をより深く理解し、評価しています。 GPT-4 およびその後継モデル。 チームはまた、将来の AI システムに出現する可能性のある危険な機能の評価も開発しています。 彼らが潜在的な社会的要素の研究を続けるにつれて、 経済的影響 of GPT-4 およびその他の AI システム、 OpenAI やがてその調査結果と洞察を一般の人々と共有する予定です。
続きを読む：
免責事項
に沿って トラストプロジェクトのガイドライン, このページで提供される情報は、法律、税金、投資、財務、またはその他の形式のアドバイスを目的としたものではなく、そのように解釈されるべきではないことに注意してください。 損失しても許容できる金額のみを投資し、疑問がある場合は独立した財務上のアドバイスを求めることが重要です。 詳細については、利用規約のほか、発行者または広告主が提供するヘルプおよびサポート ページを参照することをお勧めします。 MetaversePost は正確で公平なレポートに努めていますが、市場の状況は予告なく変更される場合があります。
著者について
シンディはジャーナリストです Metaverse Postに関連するトピックをカバーしています。 web3, NFT、metaverse、AIに関するインタビューを中心に紹介します。 Web3 業界関係者。彼女は 30 人以上の経営幹部と話をし、その貴重な洞察を読者に届けています。シンガポール出身のシンディは、現在ジョージア州トビリシに拠点を置いています。彼女は南オーストラリア大学でコミュニケーションとメディア研究の学士号を取得しており、ジャーナリズムと執筆において XNUMX 年の経験があります。彼女に連絡するには、 [メール保護] プレス ピッチ、発表、インタビューの機会を提供します。
より多くの記事
シンディはジャーナリストです Metaverse Postに関連するトピックをカバーしています。 web3, NFT、metaverse、AIに関するインタビューを中心に紹介します。 Web3 業界関係者。彼女は 30 人以上の経営幹部と話をし、その貴重な洞察を読者に届けています。シンガポール出身のシンディは、現在ジョージア州トビリシに拠点を置いています。彼女は南オーストラリア大学でコミュニケーションとメディア研究の学士号を取得しており、ジャーナリズムと執筆において XNUMX 年の経験があります。彼女に連絡するには、 [メール保護] プレス ピッチ、発表、インタビューの機会を提供します。
