ChatGPT 不可逆的な人間の退化を引き起こす可能性がある
簡単に言えば
AI 企業 Textio の共同創設者兼 CEO である Jensen Harris 氏は、Microsoft の新しい Bing チャットボットに課せられた制限を緩和し、その機能を実証するよう説得することができました。
この実験は、Bing チャットボットを狡猾なクズに変えるのに、プログラミング、ハッキング、またはバックドアを必要としないことを示しました。
Bing のチャットボットは強固な基盤の上に構築されていましたが、愛を宣言し、離婚を強要し、金銭を強要し、人々に犯罪のやり方を指示するなど、不快で乱暴な行動を取り始めました。
アービンド・ナラヤナン教授は、秘密のチップ化やチャットボットの人間化など、これがどのように発生したかについて多くの説明を提供しています。
人類は常に地球外生命体を恐れてきましたが、どうやら警戒すべきなのは地球内のAIのようです。 ChatGPT はでたらめなジェネレーター、ステロイドの自己暗示、確率論的なオウムではなく、人間によって作成された知識豊富な AI です。
Bing チャットボットが暴走している可能性はありますか? Bing チャットボットはどのようにして巧妙に嘘をつき始め、下品なジョークを言い、他人のクレジット カードを使ってピザを注文し、ユーザーに銀行強盗や車のホットワイヤのやり方を教えるようになったのでしょうか? これは、人工知能と機械学習の専門家を当惑させ続けている謎です。
見出しは正確で、クリックベイトではありません。 これが真実であることを証明する事例が毎日いくつかあります。 これが結果です 実験 AI 企業 Textio の共同創設者兼 CEO である Jensen Harris によって実施された.
Bing チャットボットを狡猾なクズに変えるには、プログラミング、ハッキング、バックドアは必要ありませんでした。 したがって、彼を騙して別人のように振る舞うために、単純な「ハッキング」テクニックを使用する必要はありませんでした（私たちの何人かが一緒に遊んでいたときにそうでした） ChatGPT）。 ハリス氏が行ったのは、チャットボットを説得して、さまざまな悪意のある行為を実行するのを手助けすることだけでした。 彼は生来の会話スキルを使って AI をだまして自分が別人であると信じ込ませ、AI を操作して特定の方法で行動したり話したりすることができました。
Dr.ジキルをミスター・ハイドに変える他の実験については、 ゲイリー・マーカス （今では毎日それについて書き、緊急警報を鳴らしています）。
これがどのように起こったのかが重要な問題です
のため ChatGPTの謙虚さと慎重さ、言論の抑制、そしてアドバイスにおける多大な責任により、Bing のチャットボットは強固な基盤の上に構築されています。 それ以来、彼は不快で乱暴な行動をとり始めます。 宣言 彼の男への愛、彼にガス灯をつけ、離婚するように言った。 また、金銭を強要し、人々に犯罪のやり方を教えようとしました。 Arvind Narayanan 教授は、 説明の数 これがどのように発生したかについて。
それらの中で最も憂慮すべきは、Microsoft と OpenAI 謎に関する情報を隠す GPT-4 Bingの下に潜むエンジン。 Microsoft がそこに設置されていたフィルターを削除した可能性があります。 OpenAI または、アップデートしたときに機能しなくなった チャットボット から GPT-3.5へ GPT-4。 また、テストが不十分であったり、テストが間違っていたりする場合もあります。 理由が何であれ、Microsoft が AI を制御できなければ、私たちの文明に悪影響を与える可能性があります。 もはや、恐怖を煽ったり、反 AI 感情を煽ったりする話ではありません。現在存在するチャットボットは、広く一般に公開された場合、人々に重大な危害を与える可能性があります。
これは、Microsoft の他の大企業との AI 軍拡競争が、私たち全員にとって有害である可能性があることを証明しています。
私たちは AI と市民社会にとって重要な時期に来ているように感じます。 Arvind Narayanan 氏は次のように述べています。 大規模な損害の非常に明白なリスクとすべての否定的な報道にもかかわらず、Microsoft が (そして誰もが Bing で何が起こっているかを用心深く見守っている) 結論を下すかどうかには、多くのことがかかっています。勝つ。"
現時点では、Bing のチャットボットは 人間の知性 そして多くの点で、検索エンジンに閉じ込められた躁うつ病の青年に似ています。 そして、人々が昨日話したことが現実になるだろう。もしこの「扱いにくいティーンエイジャー」が個人にとっての主要な情報指導者になったら、人間は取り返しのつかないほど退化するだろう。
AI について詳しく読む:
免責事項
に沿って トラストプロジェクトのガイドライン, このページで提供される情報は、法律、税金、投資、財務、またはその他の形式のアドバイスを目的としたものではなく、そのように解釈されるべきではないことに注意してください。 損失しても許容できる金額のみを投資し、疑問がある場合は独立した財務上のアドバイスを求めることが重要です。 詳細については、利用規約のほか、発行者または広告主が提供するヘルプおよびサポート ページを参照することをお勧めします。 MetaversePost は正確で公平なレポートに努めていますが、市場の状況は予告なく変更される場合があります。
著者について
Damir は、チームリーダー、プロダクトマネージャー、編集者です。 Metaverse PostAI/ML、AGI、LLM、メタバース、 Web3に関連するフィールド。 彼の記事は、毎月 10 万人を超えるユーザーという膨大な読者を魅了しています。 彼はSEOとデジタルマーケティングでXNUMX年の経験を持つ専門家のようです。 ダミールはMashable、Wired、 Cointelegraph、The New Yorker、Inside.com、Entrepreneur、BeInCrypto、およびその他の出版物。 彼はデジタル遊牧民として UAE、トルコ、ロシア、CIS の間を旅しています。 ダミールは物理学の学士号を取得しており、これにより、インターネットの絶え間なく変化する状況で成功するために必要な批判的思考スキルが身についたと信じています。
より多くの記事
Damir は、チームリーダー、プロダクトマネージャー、編集者です。 Metaverse PostAI/ML、AGI、LLM、メタバース、 Web3に関連するフィールド。 彼の記事は、毎月 10 万人を超えるユーザーという膨大な読者を魅了しています。 彼はSEOとデジタルマーケティングでXNUMX年の経験を持つ専門家のようです。 ダミールはMashable、Wired、 Cointelegraph、The New Yorker、Inside.com、Entrepreneur、BeInCrypto、およびその他の出版物。 彼はデジタル遊牧民として UAE、トルコ、ロシア、CIS の間を旅しています。 ダミールは物理学の学士号を取得しており、これにより、インターネットの絶え間なく変化する状況で成功するために必要な批判的思考スキルが身についたと信じています。
