AI企業は資金の30％を安全と倫理の研究開発に費やす必要がある
偏見や誤った情報による被害はすでに顕在化しています。 他の危険も表面化する可能性があるという兆候があります。 現在のリスクを軽減し、新たなリスクを予測することが重要です。
高度な自律システムや AGI が安全であることを確認する方法や、それらが現在利用可能であるとしても、それらをテストする方法はわかりません。 さらに、たとえ虐待を阻止し、安全な慣行を導入したとしても、政府には必要な機関が欠けています。 著者らは、政府の効率的な監視を展開し、研究開発の取り組みを安全性と倫理に向けて方向転換することを支持しています。
制御と誠実さ (より洗練されたシステムは、偽りだが説得力のある答えを生成することでテストを出し抜くことができます)、堅牢性 (分布の変化や敵対的な入力を伴う新しい状況下で)、解釈可能性 (作業の理解)、リスク評価 (予測が難しい新しい能力が出現します)、新たな課題 (前例のない故障モード) の出現は、研究開発の課題の一部であり、これは解決できません。 より強力な AI システムの開発.
著者らは、安全性と倫理にAI研究開発の資金の少なくともXNUMX分のXNUMXを受け取るべきだと提案している。
国家機関とグローバルガバナンスの両方に関連して基準を施行する必要があります。 AI にはこれらがありませんが、製薬、金融、原子力産業にはあります。 現在、国家や企業には安全保障を犠牲にして節約するインセンティブが存在します。 産業が廃棄物を川に捨てるのと同じように、企業は AI の進歩から利益を得る一方で、その結果を社会に負わせることができます。
強力な技術的ノウハウと迅速に行動する能力は、国家機関の要件です。 グローバルな舞台では、パートナーシップと協定が不可欠です。 学術研究や低リスクのアプリケーションを保護するには、小規模で予測可能なモデルに対する官僚的な障害を回避する必要があります。 フロンティア モデル (数十億ドルのスーパーコンピューターで訓練された最も強力なシステムの選ばれたグループ) が最も注目されるべきです。
規制を効果的にするためには、政府は開発についてもっとオープンでなければなりません。 規制当局はモデルの登録を義務付け、内部情報提供者を保護し、インシデント報告を義務付け、モデルの開発とスーパーコンピューターの使用を監視する必要がある。
規制当局も、これらのシステムを実稼働環境にリリースする前に、それらのシステムにアクセスして評価する必要があります。 潜在的に有害な 病原体の生成、自己複製、システム侵入などの機能。
危険を伴う可能性のあるシステムには、さまざまな制御方法が必要です。 フロンティアモデル クリエイターは、回避できたはずのシステムへの損害についても法的責任を負わなければなりません。 これにより、セキュリティへの投資が促進されるはずです。 政府ライセンス、問題に応じて開発を停止する機能などの追加機能 潜在的に危険 非常に有能なシステムには、国家レベルのハッカーに影響されない機能、アクセス制御、および情報セキュリティ対策が必要となる場合があります。
ルールはありませんが、企業は、特定のモデル機能がレッドラインを超えた場合に実行する正確な手順の概要を示し、if-then の責任を迅速に明確にする必要があります。 これらの措置については十分に説明し、個別に確認する必要があります。 したがって、そうです。 別 政策補足 論文の概要をまとめます。
- XNUMX月フロンティアモデルフォーラム 10万ドルを超えるAI安全基金を導入しました、AIの安全性研究の進歩を促進することを目指しています。 この基金は、フロンティア モデル フォーラムと慈善パートナーとのコラボレーションであり、学術機関、研究機関、新興企業に所属する世界中の独立した研究者に支援を提供します。 このイニシアチブへの主な貢献者は、Anthropic、Google、Microsoft、 OpenAI、パトリック・J・マクガバン財団、デイビッド・アンド・ルシル・パッカード財団、エリック・シュミット、ジャーン・タリンなどの慈善団体とともに。 AI 安全基金は、潜在的な危険を明らかにすることを目的として、AI モデルの新しい評価手法とレッド チーム アプローチの開発を強化することに主に焦点を当てています。 フォーラムは今後数か月以内に諮問委員会を設立する予定で、その後すぐに最初の提案募集を発行し、賞を授与する予定です。
免責事項
に沿って トラストプロジェクトのガイドライン, このページで提供される情報は、法律、税金、投資、財務、またはその他の形式のアドバイスを目的としたものではなく、そのように解釈されるべきではないことに注意してください。 損失しても許容できる金額のみを投資し、疑問がある場合は独立した財務上のアドバイスを求めることが重要です。 詳細については、利用規約のほか、発行者または広告主が提供するヘルプおよびサポート ページを参照することをお勧めします。 MetaversePost は正確で公平なレポートに努めていますが、市場の状況は予告なく変更される場合があります。
著者について
Damir は、チームリーダー、プロダクトマネージャー、編集者です。 Metaverse PostAI/ML、AGI、LLM、メタバース、 Web3に関連するフィールド。 彼の記事は、毎月 10 万人を超えるユーザーという膨大な読者を魅了しています。 彼はSEOとデジタルマーケティングでXNUMX年の経験を持つ専門家のようです。 ダミールはMashable、Wired、 Cointelegraph、The New Yorker、Inside.com、Entrepreneur、BeInCrypto、およびその他の出版物。 彼はデジタル遊牧民として UAE、トルコ、ロシア、CIS の間を旅しています。 ダミールは物理学の学士号を取得しており、これにより、インターネットの絶え間なく変化する状況で成功するために必要な批判的思考スキルが身についたと信じています。
より多くの記事
Damir は、チームリーダー、プロダクトマネージャー、編集者です。 Metaverse PostAI/ML、AGI、LLM、メタバース、 Web3に関連するフィールド。 彼の記事は、毎月 10 万人を超えるユーザーという膨大な読者を魅了しています。 彼はSEOとデジタルマーケティングでXNUMX年の経験を持つ専門家のようです。 ダミールはMashable、Wired、 Cointelegraph、The New Yorker、Inside.com、Entrepreneur、BeInCrypto、およびその他の出版物。 彼はデジタル遊牧民として UAE、トルコ、ロシア、CIS の間を旅しています。 ダミールは物理学の学士号を取得しており、これにより、インターネットの絶え間なく変化する状況で成功するために必要な批判的思考スキルが身についたと信じています。
