AI トレーニングを 6 か月間休止するのは良い考えですが、十分ではない可能性があります
簡単に言えば
請願の話とユドコフスキーの記事の公開は、社会を二極化させました。
囚人のジレンマとゲーム理論は、そのような問題を解決するには、さまざまな場所に正気な人々が臨界的に集まる必要があることを示唆しています。
ただし、デジタル進化における意識、意志、および代理店の欠如など、この考えにはいくつかの欠点があります。
の物語 より高度なAIシステムの開発を中止するよう求める請願 GPT-4 社会の二極化が著しい。 ユドコフスキーのリリース 記事 ～のさらなる開発を中止するよう求める GPT モデル、特にデータセンター爆破に関する彼の文章は火に油を注いだ。
オンラインで観察できることから、嘆願書の支持者は反対者よりもはるかに少ないようです。彼らは主に XNUMX つの主張を持っています。
| 1 | – 進行を止めることはできません。 – 請願書を考案したのは OpenAI 競合他社 – 中国は待ってくれない。 |
| 2 | – 恐れるべきは AI ではなく、人です。 – GPT 意識、意志、願望、主体性がないので、何も恐れることはありません。 – GPT-4 それは何も理解せず、愚かな間違いを犯し、そして一般的に非常に愚かであるため、世界を奴隷にすることには非常にほど遠いです。 – GPT-4 腕や足がないので世界を動かすことはできません。 |
| 3 | – XNUMX 番目のグループは、その方法を理解していません。 GPT-4 まず第一に動作します。 |
彼らのスタンスは無知から来ているので、私たちは XNUMX 番目の束に集中するつもりはありません。 すべての AI 反対者が AI についてすべてを知っていると言っているわけではありません。 ユドコフスキー自身は AI のトピックに非常に深く関わっているため、彼が無知であると非難されることはありませんが、テクノロジーとそれに伴うものを理解していないアンチ AI の人々をたくさん見つけることができます。
進歩を止めることはできないと信じている最初のグループを見てみましょう。 彼らは異なるが類似した議論を提供し、全体として、それらの人々は AI の能力とその採用がもたらす見通しを否定せず、AI の開発は何があっても続くと信じています。
止められない進歩に関する最初のテーゼは、真実である必要のないスローガンです。 人々はいくつかの科学的実験をやめたようで、かつて受け入れられていた多くの研究プロジェクトはもはや倫理的とは見なされておらず、同様のプロジェクトは今日では決して許可されません. しかし、中国（および他の国）での異端審問やその他の宗教的迫害、書籍の禁止、科学者の殺害によって、過去のどの程度の進歩が妨げられたのでしょうか? それは、生存バイアスのために完全に把握することはできません。
他の論文には、「私たちでなければ、彼らになるだろう」と要約できるアプローチが含まれます。 この考え方の方が理解しやすいかもしれませんが、正しい解決策でもないようです。 これは、ゲーム理論の囚人のジレンマに非常に似ています。
19 番目のグループの議論は、最も興味深いものです。 個人的にはある程度賛成ですが、対処しなければならない点がいくつかあります。 はい、AIには意識、意志、代理店などはありません.COVID-XNUMXもそうではありませんが、それでも世界中で大混乱を引き起こしました. 何かが危険になるために主体性や意識を持つ必要はありません。 ウイルスのために地球上の生命が一掃されるというシナリオは想像を絶するものではありません。 仕事が終わったら、椅子をテーブルに置き、明かりを消し、永遠に去ることができます。
生物学の類推を続けると、「デジタル進化の驚くべき創造性: 進化計算と人工生命研究コミュニティからの逸話の収集」という素晴らしい記事があり、プロセスが予期しない方向に進んだ場合の多くの例を示しています。 進化のプロセスがなくても、すべてが間違った一般化に陥る可能性があります。 最適化プロセスを自由に行うとうまくいかない場合があることについては、「高度な機械学習システムにおける最適化の学習によるリスクに設立された地域オフィスに加えて、さらにローカルカスタマーサポートを提供できるようになります。」
同時に、私たちは通常、以下のリスクを考慮しません。 AIの悪用 と任意の 誤用、これは、AI自体ではなく、人を恐れる必要があるという議論を助長するだけです. しかし、問題の真実は、悪意のある人がいなくても、AI は悪になる可能性があるということです。
また、モデルは愚かな間違いを犯すが、人間も同様であり、それでも人間が害を及ぼす可能性があることを私たちは知っているという事実にも同意します。 モデルは多くの間違いを犯しますが、一般の人には解決できない多くの素晴らしくクールで複雑な問題も解決できます。 悪名高い著作「汎用人工知能の火花: による初期実験」より GPT-4」 私は、AI がフェルミ問題、つまりかなり複雑な数学的問題を、必ずしも正確に解決できるわけではないにせよ、解決できることに衝撃を受けました。 その心の理論と、他人の行動を「理解する能力のようなもの」も非常に印象的です。 これらすべてが AI の知能を示しています。 存在しますが、私たちのものとはまったく異なります。
AI モデルが犯す間違いの少なくとも一部を排除することは一般的に実行可能であるため、AI モデルの知性は成長する一方です。 必要なのは、正確な計算、ファクト ベース、および別のモデルによる検証のためのモジュールを追加することだけです。
この物語全体で最も重要なことは、AI の発展のスピードです。 GPT モデル 目まぐるしいスピードで大きく成長してきました。 さて、 ChatGPT プラグイン 利用可能、使用できます GPT コードを記述するためのモデル、API が広く公開されており、事前のトレーニングなしで外部ツールを使用できます。
GPT-4もちろん、世界を征服することはできませんが、経済を大きく揺るがす可能性があります。 GPT-5、およびモデルの将来の反復は、それほど遠くない可能性があり、はるかに強力な機能を備えている可能性があります. 実を言うと、まだ存在しないモデルを理解することは期待できません。 すでに存在するモデルを理解することさえできていません。 この意味で、XNUMX か月の休憩は良い考えかもしれませんが、それだけでは十分ではないかもしれません。
そして、それを考慮すると、 AIレース 始まってしまったので、学ぶ時間がありません。
一般的に、これらすべてを考慮して、私も請願書に署名しました。 私はそれが何らかの形で役立つとは信じていませんが。
関連トピックをもっと読む:
免責事項
に沿って トラストプロジェクトのガイドライン, このページで提供される情報は、法律、税金、投資、財務、またはその他の形式のアドバイスを目的としたものではなく、そのように解釈されるべきではないことに注意してください。 損失しても許容できる金額のみを投資し、疑問がある場合は独立した財務上のアドバイスを求めることが重要です。 詳細については、利用規約のほか、発行者または広告主が提供するヘルプおよびサポート ページを参照することをお勧めします。 MetaversePost は正確で公平なレポートに努めていますが、市場の状況は予告なく変更される場合があります。
著者について
Damir は、チームリーダー、プロダクトマネージャー、編集者です。 Metaverse PostAI/ML、AGI、LLM、メタバース、 Web3に関連するフィールド。 彼の記事は、毎月 10 万人を超えるユーザーという膨大な読者を魅了しています。 彼はSEOとデジタルマーケティングでXNUMX年の経験を持つ専門家のようです。 ダミールはMashable、Wired、 Cointelegraph、The New Yorker、Inside.com、Entrepreneur、BeInCrypto、およびその他の出版物。 彼はデジタル遊牧民として UAE、トルコ、ロシア、CIS の間を旅しています。 ダミールは物理学の学士号を取得しており、これにより、インターネットの絶え間なく変化する状況で成功するために必要な批判的思考スキルが身についたと信じています。
より多くの記事
Damir は、チームリーダー、プロダクトマネージャー、編集者です。 Metaverse PostAI/ML、AGI、LLM、メタバース、 Web3に関連するフィールド。 彼の記事は、毎月 10 万人を超えるユーザーという膨大な読者を魅了しています。 彼はSEOとデジタルマーケティングでXNUMX年の経験を持つ専門家のようです。 ダミールはMashable、Wired、 Cointelegraph、The New Yorker、Inside.com、Entrepreneur、BeInCrypto、およびその他の出版物。 彼はデジタル遊牧民として UAE、トルコ、ロシア、CIS の間を旅しています。 ダミールは物理学の学士号を取得しており、これにより、インターネットの絶え間なく変化する状況で成功するために必要な批判的思考スキルが身についたと信じています。
