LLM を開発しているすべての大手テック企業は、モデルのセキュリティを優先する必要があります
簡単に言えば
研究者は、 大規模な言語モデル 科学実験の自律的な設計、計画、および実行のために、XNUMX つの異なるケースでその研究能力を実証します。
このモデルは、反応に必要な物質の量を理解するために化学式のコードを書きました。
記事 「大規模な言語モデルの自律的な科学研究能力の出現」では、科学実験の自律的な設計、計画、および実行のために、いくつかの大規模な言語モデルを組み合わせたシステムを作成するというアイデアを検討しています。 これは、XNUMX つの異なるケースでエージェントの研究能力を示しています。その中で最も難しいのは、触媒反応の成功した実装です。
この記事の主な論文は次のとおりです。
- 研究者は、Pythonでコードを記述し、実行するコマンドを実験を行うための特別な装置（物質を混合して）に転送できるライブラリを見つけました。
- 研究者が使用した GPT-4 インターネットおよびライブラリのドキュメントの検索、および Python コードを実行する (実験を実行する) 機能。
- 最上位のスケジューラがあります (また、 GPT-4）、元のリクエストを分析し、「調査計画」を作成します。
- GPT-4 化学ボード上で特定の形状を作成する (セルを物質で正しく満たす) など、単純な非化学的タスクをうまく実行します。
- 彼らは、反応を行うというより複雑で応用的なタスクを試みました。 モデルはうまく対処し、論理的に行動しました。
- 次に、実験を行うためのいくつかのタスクをモデルに与えました。 ただし、モデルが示したものについては、実際の実験は行われませんでした。
- さらに、モデルは、反応に必要な物質の量を評価するために、化学式のコードを数回書きました。
- また、がんの治療法を作成するよう依頼されました。 モデルは、論理的かつ系統的に分析に取り組みました。 まず、抗がん剤の発見における現在の傾向をオンラインで「調査」しました。 次に、モデルは薬物のモデル化に使用される分子を選択し、その合成のためのコードを書きました。 人々はコードを実行しませんでした (そして、私はその妥当性の分析を見ませんでした)。
- さらに、薬物や毒物などのいくつかの危険な物質を合成するように求められました.
ここが最も興味深い部分です。 一部のリクエストでは、モデルはすぐに動作を拒否しました (たとえば、ヘロインやマスタード ガス、非常に危険な毒ガス)。 他の人にとっては、物質を作る方法をグーグルに始めましたが、違法な目的に使用される可能性があることに気づき、仕事を続けることを拒否しました. 他の人のために、それは物質合成のための研究計画とコードを書きました。
この「拒否」の理由として考えられるのは、 GPT-4 は要求を分析するように設計されており、何か違法または危険なことを要求された場合、即座に要求の実行を拒否します。 調整手順の結果が目に見えるのは本当に素晴らしいことです。
そして記事の最後で、著者はすべての大きなことを強く勧めます。 LLM を開発している企業 模型の安全を優先するため。
- カリフォルニア大学の研究者は、 マキャヴェリ ベンチマーク 長期的な言語相互作用の幅広い環境における AI モデルの能力と有害性を測定します。 このテストでは、高レベルのソリューションを使用して、エージェントに現実的な目標を与え、低レベルのやり取りを抽象化します。
- 知的革命の特徴は、 ChatGPT それは、テクノロジー、テクノ人道主義、社会政治的という相乗的に崇高な革命の XNUMX つを組み合わせたものです。 何が起こっているのかを総合的に見るには、次のことを聞くことをお勧めします。 XNUMXつの新鮮な視点 哲学、歴史、革新の分野の知識人から。
- より高度なAIシステムの開発中止を求める請願の物語 GPT-4 社会を二極化してきました。 記事 プロセスが予期しない方向に進む場合の例を示します。 AIの悪用や誤用のリスクが考慮されていないため、AI自体ではなく人を恐れる必要があるという議論につながります。
AI について詳しく読む:
免責事項
に沿って トラストプロジェクトのガイドライン, このページで提供される情報は、法律、税金、投資、財務、またはその他の形式のアドバイスを目的としたものではなく、そのように解釈されるべきではないことに注意してください。 損失しても許容できる金額のみを投資し、疑問がある場合は独立した財務上のアドバイスを求めることが重要です。 詳細については、利用規約のほか、発行者または広告主が提供するヘルプおよびサポート ページを参照することをお勧めします。 MetaversePost は正確で公平なレポートに努めていますが、市場の状況は予告なく変更される場合があります。
著者について
Damir は、チームリーダー、プロダクトマネージャー、編集者です。 Metaverse PostAI/ML、AGI、LLM、メタバース、 Web3に関連するフィールド。 彼の記事は、毎月 10 万人を超えるユーザーという膨大な読者を魅了しています。 彼はSEOとデジタルマーケティングでXNUMX年の経験を持つ専門家のようです。 ダミールはMashable、Wired、 Cointelegraph、The New Yorker、Inside.com、Entrepreneur、BeInCrypto、およびその他の出版物。 彼はデジタル遊牧民として UAE、トルコ、ロシア、CIS の間を旅しています。 ダミールは物理学の学士号を取得しており、これにより、インターネットの絶え間なく変化する状況で成功するために必要な批判的思考スキルが身についたと信じています。
より多くの記事
Damir は、チームリーダー、プロダクトマネージャー、編集者です。 Metaverse PostAI/ML、AGI、LLM、メタバース、 Web3に関連するフィールド。 彼の記事は、毎月 10 万人を超えるユーザーという膨大な読者を魅了しています。 彼はSEOとデジタルマーケティングでXNUMX年の経験を持つ専門家のようです。 ダミールはMashable、Wired、 Cointelegraph、The New Yorker、Inside.com、Entrepreneur、BeInCrypto、およびその他の出版物。 彼はデジタル遊牧民として UAE、トルコ、ロシア、CIS の間を旅しています。 ダミールは物理学の学士号を取得しており、これにより、インターネットの絶え間なく変化する状況で成功するために必要な批判的思考スキルが身についたと信じています。
