OpenAI 超知能とAIが今後XNUMX年で人間の能力を超える可能性について警鐘を鳴らす
簡単に言えば
OpenAI AIの急速な進歩を踏まえてガバナンスの必要性を強調し、超知能の規制を求める呼びかけを行っている。
AI システムは人間の専門知識を超えると予測されており、 XNUMX年以内の企業の生産性、による OpenAI.
OpenAI は、強力な AI システムに対する公的監視と民主的管理の重要性を強調しています。
OpenAI、 ChatGPT、について考えさせられる呼びかけを行っています。 規制 スーパーインテリジェンスの強化、原子力エネルギー規制との類似点を指摘。 最近では ブログ投稿, OpenAI AIの急速な進歩の潜在的な影響を強調し、この進化する状況におけるガバナンスの緊急の必要性を強調しました。 同社は、AI システムは XNUMX 年以内に生産性とスキルにおいて専門家や大企業を上回るだろうと述べています。
「今日の AI テクノロジーのリスクも軽減する必要がありますが、超知能には特別な扱いと調整が必要です」とサム・アルトマン、グレッグ・ブロックマン、イリヤ・サツケヴァーは語る。 OpenAI 強調した。
超知能とは、人間の知能全体または知能の特定の側面を超える存在を指します。 著者らによると、AI超知能はプラス面とマイナス面の両方を含む、比類のないレベルの力を持つようになるという。
避けられない超知性の発展とリスク
OpenAI は、超知能の開発を成功させる上で極めて重要な役割を果たす XNUMX つの重要なアイデアを特定しました。 これらには、主要な開発努力間の調整、国際原子力機関（IAEA）に似た国際機関の設立、安全のための技術的能力の開発が含まれます。
一方、 OpenAI AI システムにはリスクが伴うことを認めていますが、これらのリスクは他のインターネット関連テクノロジーに関連するリスクと同等です。 アルトマン氏、ブロックマン氏、サツケヴァー氏はまた、これらのリスクを管理するための社会の現在のアプローチが適切であると自信を表明している。 しかし、主な懸念は、前例のない能力を持つ将来のシステムに関するものです。
「対照的に、私たちが懸念しているシステムは、これまでに開発されたどのテクノロジーをも超える力を持っているため、この基準をはるかに下回るテクノロジーに同様の基準を適用することで、システムへの注目が薄れないよう注意する必要がある」とブログ投稿には書かれている。
著者らは、強力なAIシステムには公的監視と民主的管理が必要だと主張している。 彼らはまた、なぜこのテクノロジーを構築しているのかについても説明しています。 OpenAI: より良い世界を創造し、それを止めるリスクを回避するため。 AI は、一般的な経済成長だけでなく、教育、創造性、生産性など、さまざまな分野で役立ちます。
OpenAI それは難しくてリスクがあると思う スーパーインテリジェンスをやめる 作成されてから。 スーパーインテリジェンスには多大なメリットがあり、年々コストが安くなり、より多くの人がそれに取り組んでおり、同社のテクノロジーの一部となっています。
イルマン・シャザエフ、AI の技術起業家であり、 ファルカナ研究所、このニュースに関していくつかのコメントを共有しました。 予測によれば、適切に管理されなければ、超知能は人類史上最も破壊的な発明の XNUMX つになる可能性があります。 しかし、この技術はまだ開発されていないため、その導入に関する議論は依然として意見が分かれている。 予測への恐怖に基づいて開発の停止を求めることは、新しいテクノロジーが用意している可能性のある機会を人類から奪う可能性があります。
「OpenAIの分散型ガバナンス アプローチは、広範な安全性を維持するのに役立ちます。 適切な規制があれば、プログラムは次のような場合に閉鎖される可能性があります。 脅威を与える。 これらの安全装置が整備されていれば、スーパーインテリジェンスは検討する価値のあるイノベーションとなる可能性があります」とシャザエフ氏は語った。
AI スーパーインテリジェンスと提案されている規制措置に関する見解を率直に議論することで、 OpenAI 情報に基づいた議論を促進し、多様な視点を促すようです。
Sam Altman 強く信じている AI が広く一般に利用可能になります。 すべての問題を事前に予測することは不可能であることを認識し、可能な限り早い段階で問題に対処することを提唱しています。 ただし、アルトマン氏は、次のようなシステムに対する独立した監査の重要性も強調しています。 ChatGPT 発売前に。 同氏はさらに、新モデルの開発ペースを制限したり、新モデルの開発に向けた委員会を設立したりするなどの措置を講じる可能性があることを認めた。 AI モデルの安全性を評価する 市場発売前。 注目すべきことに、アルトマンは、宇宙の知性の量が 18 か月ごとに XNUMX 倍になると予測しています。
続きを読む：
免責事項
に沿って トラストプロジェクトのガイドライン, このページで提供される情報は、法律、税金、投資、財務、またはその他の形式のアドバイスを目的としたものではなく、そのように解釈されるべきではないことに注意してください。 損失しても許容できる金額のみを投資し、疑問がある場合は独立した財務上のアドバイスを求めることが重要です。 詳細については、利用規約のほか、発行者または広告主が提供するヘルプおよびサポート ページを参照することをお勧めします。 MetaversePost は正確で公平なレポートに努めていますが、市場の状況は予告なく変更される場合があります。
著者について
アグネは、メタバース、AI、およびメタバースの最新のトレンドと開発をカバーするジャーナリストです。 Web3 のための産業 Metaverse Post。 ストーリーテリングに対する彼女の情熱により、これらの分野の専門家に数多くのインタビューを実施し、常にエキサイティングで魅力的なストーリーを明らかにしようと努めています。 アグネは文学の学士号を取得しており、旅行、芸術、文化など幅広いトピックについて執筆する幅広い経歴を持っています。 彼女は動物愛護団体の編集者としてもボランティアとして参加し、動物福祉問題についての意識を高めることに貢献しました。 彼女に連絡する [メール保護].
より多くの記事
アグネは、メタバース、AI、およびメタバースの最新のトレンドと開発をカバーするジャーナリストです。 Web3 のための産業 Metaverse Post。 ストーリーテリングに対する彼女の情熱により、これらの分野の専門家に数多くのインタビューを実施し、常にエキサイティングで魅力的なストーリーを明らかにしようと努めています。 アグネは文学の学士号を取得しており、旅行、芸術、文化など幅広いトピックについて執筆する幅広い経歴を持っています。 彼女は動物愛護団体の編集者としてもボランティアとして参加し、動物福祉問題についての意識を高めることに貢献しました。 彼女に連絡する [メール保護].
