OpenAI 50人以上の専門家からなるチームを編成して強化を図る GPT-4の安全性
簡単に言えば
OpenAI は最新の機能を確保するために 50 人を超える専門家チームを雇用しました。 言語モデル, GPT-4、安全に使用できます。
このチームには、AI の安全性、倫理、ポリシーを専門とする研究者とエンジニアが含まれています。
目的は防止することです GPT-4 有害なコンテンツや偏ったコンテンツの生成を防ぎ、それが人間の価値観と一致することを保証します。
OpenAI さまざまな分野から 50 人を超える専門家を雇用して、 GPT-4 より安全です。 専門家は、潜在的なリスクと脆弱性を特定するためにモデルの敵対的テストに取り組んできました。 彼らは、長期的な AI 調整リスク、サイバーセキュリティ、バイオリスク、国際安全保障など、さまざまな分野の専門家です。 彼らの発見は役に立ちました OpenAI ニッチな専門知識を必要とする高リスク領域におけるモデルの動作を評価します。
最新の言語モデルには、より小規模な言語モデルと同様のリスクがありますが、 GPT-4 新たな脅威につながります。 したがって、専門家の関与は、 テクノロジーの安全性を確保する上で極めて重要.
OpenAI は、安全性を向上させるために、人間の好みからの安全関連強化学習 (RLHF) トレーニング プロンプトとルールベースの報酬モデル (RBRM) の追加セットを実装しました。 GPT-4 モデル。 RBRM はゼロショットです GPT-4 追加の報酬シグナルとして機能する分類器。 GPT-4 RLHF 微調整中のポリシー モデル。 その目的は、有害なコンテンツの生成を拒否したり、無害なリクエストを拒否しないなど、適切な行動を奨励することです。
の安全を確保するために、 GPT-4 モデル、 OpenAI は、ストレス テスト、境界テスト、敵対的テストなどの「レッド チーム」演習を実施するために、2022 年 XNUMX 月に外部専門家の採用を開始しました。 彼らは、の初期バージョンにアクセスできました。 GPT-4 モデルを作成し、さらなる安全性研究の動機となる初期リスクを特定しました。
専門家からのフィードバックは、リスクを軽減するための技術的な緩和策とポリシーの施行手段につながりました。 しかし、多くの脅威が残っており、さらなる評価が必要です。
の従業員について話す OpenAI, ChatGPT 最初は 発展した 世界の最も貧しい地域の人々からの援助により、 OpenAIは、貧困地域から何百万人もの労働者を雇用しているサマという会社と提携しています。 AI倫理の一部の専門家は批判している OpenAIのトレーニングを外部委託するという決定 ChatGPT モデルをサマ氏に訴え、同社が低コストの労働力を搾取していると非難した。
続きを読む：
免責事項
に沿って トラストプロジェクトのガイドライン, このページで提供される情報は、法律、税金、投資、財務、またはその他の形式のアドバイスを目的としたものではなく、そのように解釈されるべきではないことに注意してください。 損失しても許容できる金額のみを投資し、疑問がある場合は独立した財務上のアドバイスを求めることが重要です。 詳細については、利用規約のほか、発行者または広告主が提供するヘルプおよびサポート ページを参照することをお勧めします。 MetaversePost は正確で公平なレポートに努めていますが、市場の状況は予告なく変更される場合があります。
著者について
アグネは、メタバース、AI、およびメタバースの最新のトレンドと開発をカバーするジャーナリストです。 Web3 のための産業 Metaverse Post。 ストーリーテリングに対する彼女の情熱により、これらの分野の専門家に数多くのインタビューを実施し、常にエキサイティングで魅力的なストーリーを明らかにしようと努めています。 アグネは文学の学士号を取得しており、旅行、芸術、文化など幅広いトピックについて執筆する幅広い経歴を持っています。 彼女は動物愛護団体の編集者としてもボランティアとして参加し、動物福祉問題についての意識を高めることに貢献しました。 彼女に連絡する [メール保護].
より多くの記事
アグネは、メタバース、AI、およびメタバースの最新のトレンドと開発をカバーするジャーナリストです。 Web3 のための産業 Metaverse Post。 ストーリーテリングに対する彼女の情熱により、これらの分野の専門家に数多くのインタビューを実施し、常にエキサイティングで魅力的なストーリーを明らかにしようと努めています。 アグネは文学の学士号を取得しており、旅行、芸術、文化など幅広いトピックについて執筆する幅広い経歴を持っています。 彼女は動物愛護団体の編集者としてもボランティアとして参加し、動物福祉問題についての意識を高めることに貢献しました。 彼女に連絡する [メール保護].
