画像生成 AI モデルは明示的な子画像でトレーニングされているとスタンフォード大学が主張
簡単に言えば
以下のような人気のあるテキストから画像への生成 AI ツール Stable Diffusion、何千もの児童性的虐待画像についてトレーニングを受けています。
人気のテキストから画像への変換 generative AI を含むツール Stable Diffusion から Stability AI スタンフォードインターネット観測所の調査報告書によると、彼らは何千もの児童性的虐待画像を使ってトレーニングされているという。
報告書は、これらの画像は偽の子供を含む現実的で露骨なコンテンツの生成や、服を着た十代の若者のヌード画像への変換を容易にしていると付け加え、このようなツールを開発している企業に即時行動を促した。
スタンフォードインターネット天文台の調査は、 LAIONデータベース、主要な企業が利用するオンライン画像とキャプションの大規模なリポジトリ AI画像メーカー ような Stable Diffusion、AI モデルをトレーニングします。
画像生成 AI ツールを確認する前、研究者らは、AI ツールが成人向けポルノの情報と子供の良性の写真を組み合わせて、子供に対する虐待的な画像を生成しているという見解を持っていました。しかし、天文台の調査結果は不穏な展開を示しており、LAION データセット内で児童性的虐待の疑いのある 3,200 枚以上の画像が特定されています。
LAION はこの報告にすぐに対応し、データセットを一時的に削除しましたが、これらの画像の影響は広範囲に及んでいます。これらは LAION の 5.8 億枚の画像からなる膨大なインデックスの一部を構成していますが、スタンフォード大学のグループは、それらが画像の能力に影響を与えている可能性が高いと主張しています。 AIツール 有害な出力を生成するため。
LAION データベースの開発における重要な役割を果たしているのは、 Stability AI、ロンドンを拠点とするスタートアップで、データセットの形成を担当しています。レポートでは、古いバージョンの Stable Diffusion 昨年導入されたモデルは、露骨な画像を生成するための主要なソースとして、さまざまなアプリケーションに今も存在しています。
しかし Stability AI はフィルタリングされたバージョンのみをホストすると主張し、悪用を軽減する措置を講じていますが、課題は古いモデルの普及にあります。
生成的 AI の導入には厳格な検証が必要
スタンフォードインターネット天文台の主任技術者であるデビッド・ティール氏によると、問題の核心は多くの生成AIプロジェクトの市場への急速な展開に遡る。
ティール氏は、これらのプロジェクトは、開発段階で必要な厳密な注意が払われずに、現場での熾烈な競争により広くアクセス可能になってしまうことが多かった、と指摘しています。
スタンフォード大学の研究者たちは、この問題に効果的に対処するための抜本的な対策を提唱しています。推奨事項には、LAION-5B から派生したトレーニング セットの削除またはクリーニングと、古いバージョンのトレーニング セットの作成が含まれます。 Stable Diffusion アクセスが少なくなります。
しかし、遡及的にデータをクリーンアップする複雑さはかなりの課題を引き起こしており、開発中に子供の安全の専門家との協力が求められています。 AIデータベース.
世界中の学校や法執行機関がこれらの調査結果の潜在的な影響に警戒を表明する中、現在注目が集まっている。 AI業界 テクノロジー内の有害な欠陥に緊急に対処し、修正する必要があります。
免責事項
に沿って トラストプロジェクトのガイドライン, このページで提供される情報は、法律、税金、投資、財務、またはその他の形式のアドバイスを目的としたものではなく、そのように解釈されるべきではないことに注意してください。 損失しても許容できる金額のみを投資し、疑問がある場合は独立した財務上のアドバイスを求めることが重要です。 詳細については、利用規約のほか、発行者または広告主が提供するヘルプおよびサポート ページを参照することをお勧めします。 MetaversePost は正確で公平なレポートに努めていますが、市場の状況は予告なく変更される場合があります。
著者について
Kumar は経験豊富なテクノロジー ジャーナリストであり、AI/ML、マーケティング テクノロジー、および暗号、ブロックチェーン、 NFTs. 業界で 3 年以上の経験を持つクマールは、説得力のある物語を作成し、洞察力に富んだインタビューを実施し、包括的な洞察を提供するという実績を確立してきました。 Kumar の専門知識は、著名な業界プラットフォーム向けの記事、レポート、研究出版物など、影響力の高いコンテンツの作成にあります。 技術的な知識とストーリーテリングを組み合わせた独自のスキルセットを備えたクマールは、複雑な技術概念を明確かつ魅力的な方法で多様な聴衆に伝えることに優れています。
より多くの記事
Kumar は経験豊富なテクノロジー ジャーナリストであり、AI/ML、マーケティング テクノロジー、および暗号、ブロックチェーン、 NFTs. 業界で 3 年以上の経験を持つクマールは、説得力のある物語を作成し、洞察力に富んだインタビューを実施し、包括的な洞察を提供するという実績を確立してきました。 Kumar の専門知識は、著名な業界プラットフォーム向けの記事、レポート、研究出版物など、影響力の高いコンテンツの作成にあります。 技術的な知識とストーリーテリングを組み合わせた独自のスキルセットを備えたクマールは、複雑な技術概念を明確かつ魅力的な方法で多様な聴衆に伝えることに優れています。
