Anthropic が 60 の原則に基づいてチャット モデル用の「コンテキスト AI」を提案
簡単に言えば
OpenAI 人間のフィードバックからの強化学習 (RLHF) を使用して調整します 言語モデル 人間の原則、安全性、および有用性を備えています。
Anthropic は別のアプローチを提案しました。コンテキスト AI です。これは、モデルが従うべき構成を人々が作成することを含みます。
この憲法は、国連人権宣言、Apple の利用規約、非西洋的視点の考慮を促す原則に基づいています。
Anthropic は、「」を使用してチャット モデルをトレーニングする新しいアプローチを提案しました。憲法AI'。 このメソッドは以下に基づいて構築されています OpenAIさん 強化学習 人間のフィードバックから得られますが、詳細なトレーニング サンプルを作成する必要性を回避することで、それに基づいて構築されます。 代わりに、モデルは、モデルが従うべき一連の法則として機能する憲法を使用して、入力に応答するようにトレーニングされます。
この方法により、AI は、法的に受け入れられている一連の原則に対して発言内容を評価することにより、独自のトレーニング サンプルを生成できます。 この時間を節約する手法は、次のように見ることができます。 アイザック·アシモフ〜の ロボット工学の法則 実践する。
モデルの基礎を形成する原則は多すぎて詳細に説明できません。 ただし、道徳、リスク回避、経済、人工知能など、多くのトピックをカバーしています。 それぞれは、AI が対応する際の決定を支援するために開発されました。 会話プロンプト.
Anthropic は、Claude という名前の AI モデルを効果的にトレーニングすることに成功しました。 OpenAIさん ChatGPT。 を使用する 憲法-AI手法, クロードは、会話のプロンプトに驚くほどの正確さで応答できますが、Anthropic がこの革新的なテクノロジーに基づいて構築を続けるため、さらなる改善が期待されます。
実際、この新しいアプローチには、企業が独自のトレーニング サンプルを作成する必要がなくなるため、時間と費用を節約できる可能性があります。 むしろ、この「既製の」方法は、カスタム フィット モデルを作成するための基礎として使用できます。プログラミングの知識は必要ありません。 また、会話型ボットに関しては、この技術が安全性の向上をどのように約束するかに注意することも重要です. 法的に認められた一連の原則の作成 リスクを軽減します AIがローグになる。
したがって、Constituation AI は、チャット モデルの開発をより簡単かつ迅速にすることを約束するだけでなく、より安全にもします。 人工知能とチャットボットの世界にとって、双方にとって好都合な状況です。
チャットボット向けの Anthropic の「コンテキスト AI」の分析的考察
Anthropic の Contextual AI は、国連人権宣言、Apple の利用規約、非西洋的視点の考慮を促す原則、 ディープマインドの スパロー ルール、および人類研究セット 1 およびセット 2。
このように広範囲かつ多様な情報源から導き出された原則に従って AI が動作するように学習できるようになったという事実は、本当に驚くべきことです。 たとえば、国連人権宣言の原則を組み込むことにより、チャットボットの応答は、自由、平等、兄弟愛の概念を維持することの重要性を反映するようになりました。 このような原則は、次のことを保証するための重要な要素です。 チャットボットの会話 倫理的かつ敬意を持ち続けてください。 同様に、Apple のサービス利用規約を組み込むことで、 チャットボット ユーザーのプライバシーの利益を考慮します。
非西洋的な視点を考慮することを奨励する原則も、「コンテクスト AI」モデルにおいて重要な役割を果たします。 これらの原則は、AI が他の文化を尊重し、チャットボットの応答が有害または攻撃的であると認識されないようにする必要性を反映しています。 同様に、Deepmind のスパロー ルールでは、チャットボットがユーザーとの関係を構築することを目的とした応答で応答することが規定されています。
Anthropic Research Set 1 と Set 2 を組み込むことで、AI の会話が礼儀正しく敬意を持ったものであり続けるという最終的な保証が提供されます。 AI は、思慮深く丁寧な方法で質問に答えるように訓練されています。
全体として、Anthropic の「コンテキスト AI」モデルは、次の分野における非常に重要なブレークスルーです。 AI研究。 このような多様な情報源から導き出された原則に従って AI を教育できるようにすることで、自動会話の倫理的意味が大幅に改善されます。
AI について詳しく読む:
免責事項
に沿って トラストプロジェクトのガイドライン, このページで提供される情報は、法律、税金、投資、財務、またはその他の形式のアドバイスを目的としたものではなく、そのように解釈されるべきではないことに注意してください。 損失しても許容できる金額のみを投資し、疑問がある場合は独立した財務上のアドバイスを求めることが重要です。 詳細については、利用規約のほか、発行者または広告主が提供するヘルプおよびサポート ページを参照することをお勧めします。 MetaversePost は正確で公平なレポートに努めていますが、市場の状況は予告なく変更される場合があります。
著者について
Damir は、チームリーダー、プロダクトマネージャー、編集者です。 Metaverse PostAI/ML、AGI、LLM、メタバース、 Web3に関連するフィールド。 彼の記事は、毎月 10 万人を超えるユーザーという膨大な読者を魅了しています。 彼はSEOとデジタルマーケティングでXNUMX年の経験を持つ専門家のようです。 ダミールはMashable、Wired、 Cointelegraph、The New Yorker、Inside.com、Entrepreneur、BeInCrypto、およびその他の出版物。 彼はデジタル遊牧民として UAE、トルコ、ロシア、CIS の間を旅しています。 ダミールは物理学の学士号を取得しており、これにより、インターネットの絶え間なく変化する状況で成功するために必要な批判的思考スキルが身についたと信じています。
より多くの記事
Damir は、チームリーダー、プロダクトマネージャー、編集者です。 Metaverse PostAI/ML、AGI、LLM、メタバース、 Web3に関連するフィールド。 彼の記事は、毎月 10 万人を超えるユーザーという膨大な読者を魅了しています。 彼はSEOとデジタルマーケティングでXNUMX年の経験を持つ専門家のようです。 ダミールはMashable、Wired、 Cointelegraph、The New Yorker、Inside.com、Entrepreneur、BeInCrypto、およびその他の出版物。 彼はデジタル遊牧民として UAE、トルコ、ロシア、CIS の間を旅しています。 ダミールは物理学の学士号を取得しており、これにより、インターネットの絶え間なく変化する状況で成功するために必要な批判的思考スキルが身についたと信じています。
