OpenAI AIの安全性を確保するための最新のアプローチを発表
簡単に言えば
OpenAI は、安全性とプライバシーおよび調査に関する最近の懸念を受けて、安全性への改善されたアプローチを概説するブログ投稿をリリースしました。
同社は、厳格なテストを実施し、外部の専門家にフィードバックを求め、政府と協力して最善の方法を決定することを約束します。 AI規制への取り組み.
安全性とプライバシーに関する懸念に直面した後、次のことを行います。 最近の研究 ヨーロッパの一部の国では、 OpenAI 持っています リリース 安全性に対する同社の改善されたアプローチの概要を説明するブログ投稿。
OpenAI 新しいシステムをリリースする前に厳格なテストを実施し、外部の専門家にフィードバックを求め、政府と協力して AI 規制に対する最適なアプローチを決定することを約束します。
以前、同社は最新モデルの安全性と調整に XNUMX か月以上を費やしていましたが、 GPT-4、一般に公開する前に。 最新の言語モデルの安全性を確保するために、 GPT-4, OpenAI 雇われた 50 人を超える専門家チーム: AI の安全性、倫理、ポリシーの専門家 (研究者やエンジニアを含む)。
「重要なことは、社会はますます能力を高める AI に適応し、更新する時間が必要であり、このテクノロジーの影響を受けるすべての人が、AI がさらに発展する方法について重要な発言権を持つべきであるということです。」
OpenAI 書きました。
OpenAIは子供の安全とプライバシーに重点を置いています
イタリアは禁止 ChatGPT、引用 OpenAI理由の 13 つは、XNUMX 歳以上の個人向けに設計されているにもかかわらず、ユーザーの年齢確認を怠ったことです。 同社の安全への取り組みの重要な焦点は、年齢確認オプションを実装することで子供を保護することに移行しました。 OpenAI 特に AI ツールは 18 歳以上、または保護者の承認を得た 13 歳以上の個人を対象としているため、現在検討中です。
当社は、憎しみに満ちた、嫌がらせ、暴力的、またはアダルトなコンテンツの生成を厳しく禁止しています。 GPT-4 はすでに、許可されていないコンテンツのリクエストに応答する可能性が 82% 低いです。 GPT-3。5。
OpenAI 虐待を監視する堅牢なシステムを確立しており、今後も GPT-4 時間の経過とともにより多くの人が利用できるようになります。 同社は、非営利のカーン アカデミーなどのカスタマイズされた安全性緩和策について開発者と協力しており、モデル出力のより厳格な基準を可能にする機能の開発に取り組んでいます。
プライバシーの向上も安全面のひとつです OpenAI 特に最近の データ侵害. AI 企業の大規模な言語モデルは、公開されているコンテンツ、ライセンスされたコンテンツ、および人間のレビュー担当者によって生成されたコンテンツを含む膨大な量のテキストでトレーニングされています。 データを使用して、AI モデルを人々にとってより役立つものにします。
OpenAI は、トレーニング データから個人情報を削除し、個人情報の要求を拒否するようにモデルを微調整し、要求に応じてシステムから個人情報を削除することで、個人のプライバシーを保護する措置を講じています。 これにより、AI モデルが個人情報を含む応答を生成する可能性が低くなります。
OpenAIのアプローチ AI の安全性に関する懸念に対処するには、効果的な緩和策を研究する必要があります 調整テクニックをテストし、現実世界での悪用に対してテストします。 また、より高機能なモデルの開発と導入にはますます慎重になり、安全対策を強化することも約束します。 安全性を確保するには、AI の開発と展開の効果的なガバナンスが不可欠であり、それには技術的および制度的な革新が必要です。
続きを読む：
免責事項
に沿って トラストプロジェクトのガイドライン, このページで提供される情報は、法律、税金、投資、財務、またはその他の形式のアドバイスを目的としたものではなく、そのように解釈されるべきではないことに注意してください。 損失しても許容できる金額のみを投資し、疑問がある場合は独立した財務上のアドバイスを求めることが重要です。 詳細については、利用規約のほか、発行者または広告主が提供するヘルプおよびサポート ページを参照することをお勧めします。 MetaversePost は正確で公平なレポートに努めていますが、市場の状況は予告なく変更される場合があります。
著者について
アグネは、メタバース、AI、およびメタバースの最新のトレンドと開発をカバーするジャーナリストです。 Web3 のための産業 Metaverse Post。 ストーリーテリングに対する彼女の情熱により、これらの分野の専門家に数多くのインタビューを実施し、常にエキサイティングで魅力的なストーリーを明らかにしようと努めています。 アグネは文学の学士号を取得しており、旅行、芸術、文化など幅広いトピックについて執筆する幅広い経歴を持っています。 彼女は動物愛護団体の編集者としてもボランティアとして参加し、動物福祉問題についての意識を高めることに貢献しました。 彼女に連絡する [メール保護].
より多くの記事
アグネは、メタバース、AI、およびメタバースの最新のトレンドと開発をカバーするジャーナリストです。 Web3 のための産業 Metaverse Post。 ストーリーテリングに対する彼女の情熱により、これらの分野の専門家に数多くのインタビューを実施し、常にエキサイティングで魅力的なストーリーを明らかにしようと努めています。 アグネは文学の学士号を取得しており、旅行、芸術、文化など幅広いトピックについて執筆する幅広い経歴を持っています。 彼女は動物愛護団体の編集者としてもボランティアとして参加し、動物福祉問題についての意識を高めることに貢献しました。 彼女に連絡する [メール保護].
