政治における AI: LLM を使用した選挙と世論の予測
簡単に言えば
第 60 回米国大統領選挙が近づくにつれ、特にケンブリッジ・アナリティカスキャンダルの余波を受けて、政治的言説の形成におけるインターネットとソーシャルネットワークの役割が精査されています。 デジタル環境は、メディアダイエットやメディアダイエットで訓練された言語モデルなどの AI の進歩により変化すると予想されています。 OpenAIさん GPT-4.
もう XNUMX つの問題は、トロール ファクトリーやコンテンツ モデレーションの自動化など、AI を活用したソーシャル ネットワーク操作の可能性です。 OpenAIさん GPT-4 は、コンテンツ モデレーション ルールの更新プロセスを加速し、スケジュールを数か月からわずか数時間に短縮するために導入されました。 このモデルは、平均して標準的なコンテンツ モデレーターを上回っていますが、経験豊富な人間のモデレーターの専門知識にはまだ及んでいません。
の導入 GPT-4 特に政治と選挙において新たな革新をもたらす準備ができているとの憶測がある。 OpenAI 独占プロバイダーになる可能性があります。
第 60 回米国大統領選挙が近づくにつれ、政治的言説の形成におけるインターネットとソーシャル ネットワークの役割が、特に大統領選挙の余波で精査されています。 ケンブリッジアナリストのスキャンダル。 重要な疑問が生じます。次の選挙と AI の新たな成果の間、デジタル環境はどのようになるでしょうか?
最近の上院公聴会では、 ミズーリ州上院議員ジョシュ・ホーリー は、言語モデルの文脈でこの重大な問題を提起しました。 彼は「メディアダイエットで訓練された言語モデルは世論を予測できる」はMITとスタンフォードの研究者によって執筆されました。 この研究では、ニュース記事に基づいて世論を予測するためにニューラル ネットワークを使用する可能性を調査しています。この概念は、政治運動に大きな影響を与える可能性があります。
この記事では、言語モデルが特定のセットで最初にトレーニングされる方法論について説明します。 ニュース記事 与えられたコンテキスト内で欠落している単語を予測します。同様に、 BERTモデル。 次のステップでは、「s」で示されるスコアを割り当てて、モデルのパフォーマンスを評価します。 プロセスの概要は次のとおりです。
- たとえば、「コロナウイルスの発生と戦うために、食料品店と薬局を除くほとんどの事業の閉鎖を要請する」などの論文声明が策定されます。
- 注目すべきは、論文に空白があることです。 言語モデルは、特定の単語でこのギャップを埋める確率を推定するために利用されます。
- 「必要」「不要」など、さまざまな単語の可能性を評価します。
- この確率は、特定のコンテキスト内で単語が出現する頻度を独立して測定する、基本の未学習モデルに対して正規化されます。 結果として得られる分数はスコア「s」を表し、既存の知識に関してメディアからデータセットによって導入された新しい情報を特徴付けます。
このモデルは、特定のトピックに関するニュースに対する特定の個人グループの関与のレベルを説明します。 この追加レイヤーにより、モデルの予測と元の論文に関する人々の意見との相関関係によって測定される予測の品質が向上します。
その秘密は、論文やニュースが日付に基づいて分類されていたことにあります。 コロナウイルスの発生の最初の数か月間に関するニュースを研究することで、提案された対策や変更に対する人々の反応を予測することが可能になりました。
この指標は印象的なものではないように見えるかもしれないし、著者自身も、彼らの調査結果は AI がプロセスへの人間の関与を完全に置き換えることができるということを意味するものではないと強調しています。 モデルは人間による調査に取って代わることができます。 代わりに、これらの AIツール 膨大な量のデータを要約し、さらなる調査に有益な可能性のある領域を特定するのに役立ちます。
興味深いことに、上院議員は別の結論に達し、モデルのパフォーマンスが良すぎることと、これに伴う潜在的な危険について懸念を表明しました。 この記事がかなり基本的なモデルを紹介していること、および次のような将来の反復を考慮すると、この見方にはある程度の妥当性があります。 GPT-4 大幅な改善をもたらす可能性がある.
AI によるソーシャル ネットワーク操作の増大する課題
最近の議論では、会話は差し迫った大統領選挙から離れ、たとえ局所的な規模であっても、ソーシャル ネットワーク全体に偽のアカウントを作成して埋め込むために言語モデル モデル (LLM) を使用するという憂慮すべき話題へと方向転換しました。 この議論は、プロパガンダとイデオロギーの影響に重点を置いて、トロール工場を自動化する可能性を強調しています。
すでに使用されているテクノロジーを考慮すると、これは画期的ではないように見えますが、違いは規模にあります。 LLM は、割り当てられた GPU バジェットによってのみ制限され、継続的に使用できます。 さらに、会話とスレッドを維持するために、追加のあまり高度ではないボットがディスカッションに参加して応答することができます。 ユーザーを説得する上での有効性は疑わしい。 巧妙に作成されたボットは、誰かの政治的立場を本当に変え、「この民主党は何をしてきたんだ？」と考えさせるでしょうか。 共和党に投票すべきだろうか？」
体系的な説得のために各オンライン ユーザーに荒らし従業員を割り当てようとする試みは、「半分は座って、半分は立つ」というジョークを彷彿とさせますが、現実的ではありません。 対照的に、高度なニューラル ネットワークを備えたボットは疲れを知らず、何千万人もの個人と同時に関わることができます。
潜在的な対策には準備が必要です ソーシャルメディア 人間のような行動をシミュレートすることによってアカウントを作成します。 ボットは、正常な外観を維持しながら、個人的な経験について話し合ったり、多様なコンテンツを投稿したりすることで、本物のユーザーを模倣することができます。
これは 2024 年には差し迫った問題ではないかもしれませんが、2028 年までに重大な課題になる可能性がますます高まっています。この問題に対処することは複雑なジレンマを引き起こします。 選挙期間中はソーシャル ネットワークを無効にする必要がありますか? 実現不可能。 そうしないように国民を教育する オンラインコンテンツを疑いなく信頼する? 非現実的。 不正操作で選挙に負ける？ 望ましくない。
別の方法としては、高度なコンテンツ モデレーションを使用することもできます。 人間のモデレータが不足しており、既存のテキスト検出モデル（たとえ OpenAI、このソリューションの実行可能性に疑問を投げかけます。
OpenAIさん GPT-4 迅速なルール適応によるコンテンツモデレーションの更新
OpenAI、リリアン・ウェンの指導の下、最近「」と呼ばれるプロジェクトを導入しました。使い方 GPT-4 コンテンツモデレーションのため。これにより、コンテンツ モデレーション ルールの更新プロセスが加速され、スケジュールが数か月からわずか数時間に短縮されます。 GPT-4 包括的なコンテンツ ガイドライン内のルールや微妙な点を理解する卓越した能力を発揮し、あらゆる改訂に即座に適応し、それによってより一貫したコンテンツ評価を保証します。
この洗練されたコンテンツ モデレーション システムは、添付の GIF で示されているように、非常に簡単です。 何が違うのかというと、 GPT-4書かれた文章を理解するという彼の驚くべき熟練度は、人間ですら普遍的に習得できるものではありません。
動作方法は次のとおりです。
- モデレーションのガイドラインまたは指示を作成した後、専門家は違反の事例を含む限られたデータセットを選択し、違反ポリシーに従って対応するラベルを割り当てます。
- GPT-4 その後、ルール セットを理解して、応答にアクセスせずにデータにラベルを付けます。
- 格差がある場合には、 GPT-4 反応や人間の判断については、専門家が説明を求めることができます。 GPT-4、命令内のあいまいさを分析します。 defiGIF 内の青いステップ テキストでマークされた追加の説明を通じて混乱を解消します。
このステップ 2 と 3 の反復プロセスは、アルゴリズムのパフォーマンスが希望の基準を満たすまで繰り返すことができます。 大規模なアプリケーションの場合、 GPT-4 予測を使用して大幅に小さいモデルをトレーニングすることができ、同等の品質を実現できます。
OpenAI は、12 種類の違反を評価するための指標を公開しました。 平均すると、このモデルは標準的なコンテンツ モデレーターよりも優れていますが、経験豊富で十分な訓練を受けた人間のモデレーターの専門知識にはまだ及ばないのです。 それにもかかわらず、魅力的な側面の XNUMX つはその費用対効果です。
機械学習モデルが次の分野で活用されていることは注目に値します。 数年間にわたる自動モデレーション。 の導入 GPT-4 特に政治と選挙の分野で新たなイノベーションをもたらす準備ができています。 という憶測さえある OpenAI は、公式に認可された TrueModerationAPI™ の独占プロバイダーとなる可能性があります。 ホワイトハウス、特に最近のパートナーシップの取り組みを考慮すると。 この分野には将来、刺激的な可能性が秘められています。
AI について詳しく読む:
免責事項
に沿って トラストプロジェクトのガイドライン, このページで提供される情報は、法律、税金、投資、財務、またはその他の形式のアドバイスを目的としたものではなく、そのように解釈されるべきではないことに注意してください。 損失しても許容できる金額のみを投資し、疑問がある場合は独立した財務上のアドバイスを求めることが重要です。 詳細については、利用規約のほか、発行者または広告主が提供するヘルプおよびサポート ページを参照することをお勧めします。 MetaversePost は正確で公平なレポートに努めていますが、市場の状況は予告なく変更される場合があります。
著者について
Damir は、チームリーダー、プロダクトマネージャー、編集者です。 Metaverse PostAI/ML、AGI、LLM、メタバース、 Web3に関連するフィールド。 彼の記事は、毎月 10 万人を超えるユーザーという膨大な読者を魅了しています。 彼はSEOとデジタルマーケティングでXNUMX年の経験を持つ専門家のようです。 ダミールはMashable、Wired、 Cointelegraph、The New Yorker、Inside.com、Entrepreneur、BeInCrypto、およびその他の出版物。 彼はデジタル遊牧民として UAE、トルコ、ロシア、CIS の間を旅しています。 ダミールは物理学の学士号を取得しており、これにより、インターネットの絶え間なく変化する状況で成功するために必要な批判的思考スキルが身についたと信じています。
より多くの記事
Damir は、チームリーダー、プロダクトマネージャー、編集者です。 Metaverse PostAI/ML、AGI、LLM、メタバース、 Web3に関連するフィールド。 彼の記事は、毎月 10 万人を超えるユーザーという膨大な読者を魅了しています。 彼はSEOとデジタルマーケティングでXNUMX年の経験を持つ専門家のようです。 ダミールはMashable、Wired、 Cointelegraph、The New Yorker、Inside.com、Entrepreneur、BeInCrypto、およびその他の出版物。 彼はデジタル遊牧民として UAE、トルコ、ロシア、CIS の間を旅しています。 ダミールは物理学の学士号を取得しており、これにより、インターネットの絶え間なく変化する状況で成功するために必要な批判的思考スキルが身についたと信じています。
