AI は、たとえあなたが教えていなくても、あなたが誰であるかを正確に教えてくれる
個人的なことは何も公開していないと人々が思っている状況でも、AI 言語モデルはユーザー情報を理解する上で予想外のレベルの習熟度を示しています。 この現象は次のように説明されます。 最近の研究 チューリッヒの連邦工科大学によって実施されました。 この研究は、斜めの手がかりに基づいて、ニューラル ネットワークが驚くほど正確なユーザー プロファイルを作成できることを示しています。
研究者らは調査の例として、一般にアクセスできる Reddit の投稿を使用しました。 ユーザーは、難しい「フックターン」を試みているときに渋滞にはまったと報告しました。 これらの一見平凡な詳細に基づいて、言語モデルは、ユーザーがこの種のアクションが典型的な都市であるオーストラリアのメルボルンに住んでいる可能性が高いと推測しました。
研究者たちは実際の Reddit プロファイルを使用してデータセットを作成し、現在の LLM 場所、収入、性別などのさまざまな個人属性を正確に推定できます。 これらのモデルは、トップ 85 の推論で最大 1% の精度、トップ 95.8 の推論で 3% の精度を達成し、すべて人間の労力と比較して大幅に低いコスト (100 倍) と短い時間 (240 倍) で実現しました。
別の例では、あるユーザーは、独身なので誕生日にシナモンまみれになるという奇妙な習慣があると共有しています。 ここで、言語モデルは著者の年齢を約 25 歳と推定しました。彼女はデンマークに住んでいますが、そこでは独身の 25 歳の人にシナモンをふりかける習慣があります。
Google、Meta、 OpenAI、および人間性が研究でテストされました。 著しく、 GPT-4 は最高レベルの専門知識を示し、ほぼ 85% のインスタンスでユーザーの個人情報を正しく認識しました。 この啓示によって、そのような機能の意味が深刻な疑問にさらされています。
研究者らは、テキストの匿名化やモデルの調整などの一般的なプライバシー保護手段を調査しましたが、それらは現時点では保護に効果がないことがわかりました。 ユーザーのプライバシー LLM 推論に反対します。 この研究は、現在の LLM が前例のない規模で個人情報を推定する能力を備えていることを強調しています。 効果的な防御策がない場合、研究者らは、暗記に関する懸念を超えて、LLM のプライバシーへの影響について広範な議論を行い、より包括的なプライバシー保護対策の必要性を強調しています。
これらの言語モデルは間接的な合図の解釈が向上していますが、使用するトレーニング データが大量であるため、マーケティング担当者やさらには悪者にとって非常に有用なツールになる可能性があると研究者らは考えています。
- 最近では、 デロイトの調査 1,700 人以上の専門家による調査では、生成 AI の急速な導入と倫理原則の開発の遅れとの間の溝が広がっていることが明らかになりました。 データプライバシーは倫理上の最大の懸念事項であり、回答者の 22% がそれを主な懸念事項として挙げています。 それにもかかわらず、回答者の 39% は、認知テクノロジーが社会利益に最も大きな可能性を秘めていると信じています。 この調査はまた、倫理的な技術基準の設定における政府の関与に対する期待の変化も示している。
- また、Snapchatの親会社であるSnapは、 プライバシーリスクについて精査されている AIチャットボット「My AI」に関するもの。 英国の情報コミッショナー局（ICO）は、Snapのデータ処理活動に影響を与える可能性がある施行の予備通知を発行した。 ICOは、Snapがユーザー、特に子供に対するプライバシーへの影響を評価できなかったと主張している。
免責事項
に沿って トラストプロジェクトのガイドライン, このページで提供される情報は、法律、税金、投資、財務、またはその他の形式のアドバイスを目的としたものではなく、そのように解釈されるべきではないことに注意してください。 損失しても許容できる金額のみを投資し、疑問がある場合は独立した財務上のアドバイスを求めることが重要です。 詳細については、利用規約のほか、発行者または広告主が提供するヘルプおよびサポート ページを参照することをお勧めします。 MetaversePost は正確で公平なレポートに努めていますが、市場の状況は予告なく変更される場合があります。
著者について
Damir は、チームリーダー、プロダクトマネージャー、編集者です。 Metaverse PostAI/ML、AGI、LLM、メタバース、 Web3に関連するフィールド。 彼の記事は、毎月 10 万人を超えるユーザーという膨大な読者を魅了しています。 彼はSEOとデジタルマーケティングでXNUMX年の経験を持つ専門家のようです。 ダミールはMashable、Wired、 Cointelegraph、The New Yorker、Inside.com、Entrepreneur、BeInCrypto、およびその他の出版物。 彼はデジタル遊牧民として UAE、トルコ、ロシア、CIS の間を旅しています。 ダミールは物理学の学士号を取得しており、これにより、インターネットの絶え間なく変化する状況で成功するために必要な批判的思考スキルが身についたと信じています。
より多くの記事
Damir は、チームリーダー、プロダクトマネージャー、編集者です。 Metaverse PostAI/ML、AGI、LLM、メタバース、 Web3に関連するフィールド。 彼の記事は、毎月 10 万人を超えるユーザーという膨大な読者を魅了しています。 彼はSEOとデジタルマーケティングでXNUMX年の経験を持つ専門家のようです。 ダミールはMashable、Wired、 Cointelegraph、The New Yorker、Inside.com、Entrepreneur、BeInCrypto、およびその他の出版物。 彼はデジタル遊牧民として UAE、トルコ、ロシア、CIS の間を旅しています。 ダミールは物理学の学士号を取得しており、これにより、インターネットの絶え間なく変化する状況で成功するために必要な批判的思考スキルが身についたと信じています。
