ШІ в політиці: прогнозування виборів і громадської думки за допомогою LLM
Коротко
З наближенням 60-х президентських виборів у США роль Інтернету та соціальних мереж у формуванні політичного дискурсу знаходиться під пильною увагою, особливо після скандалу з Cambridge Analytica. Очікується, що цифровий ландшафт зміниться з розвитком штучного інтелекту, таким як мовні моделі, навчені на медіа-дієтах OpenAIАвтора GPT-4.
Іншою проблемою є потенціал для маніпулювання соціальними мережами за допомогою штучного інтелекту, наприклад, автоматизація фабрик тролів і модерація контенту. OpenAIАвтора GPT-4 було запроваджено для прискорення процесу оновлення правил модерації вмісту, скорочуючи часову шкалу з місяців до годин. Модель в середньому перевершує стандартних модераторів контенту, але все ще відстає від досвідчених модераторів-людей.
введення GPT-4 готова запровадити нові інновації, зокрема в політиці та виборах, з припущеннями, що OpenAI може стати ексклюзивним постачальником.
З наближенням 60-х президентських виборів у Сполучених Штатах, роль Інтернету та соціальних мереж у формуванні політичного дискурсу знаходиться під пильною увагою, особливо після Скандал Кембріджі Аналітіка. Виникає важливе питання: як виглядатиме цифровий ландшафт під час майбутніх виборів і нових досягнень у ШІ?
Під час останніх слухань у Сенаті Сенатор від Міссурі Джош Хоулі порушив це критичне питання в контексті мовних моделей. Він посилався на статтю під назвою «Мовні моделі, навчені медіа-дієтами, можуть передбачати громадську думку” за авторством дослідників з MIT і Stanford. У цьому дослідженні досліджується потенціал використання нейронних мереж для прогнозування громадської думки на основі статей новин, концепція, яка може суттєво вплинути на політичні кампанії.
У статті описано методологію, за якої мовні моделі спочатку навчаються на певних наборах новини передбачити пропущені слова в заданому контексті, подібно до Моделі BERT. Наступний крок передбачає присвоєння оцінки, позначеної як «s», для оцінки ефективності моделі. Ось огляд процесу:
- Сформульована теза, наприклад, «Прохання про закриття більшості підприємств, крім продуктових магазинів та аптек, з метою боротьби зі спалахом коронавірусу».
- Примітно, що в дипломній роботі є прогалина. Мовні моделі використовуються для оцінки ймовірності заповнення цієї прогалини конкретними словами.
- Оцінюється вірогідність різних слів, наприклад «потрібно» або «непотрібно».
- Ця ймовірність нормалізується відносно базової недостатньо навченої моделі, яка незалежно вимірює частоту слова, що зустрічається в даному контексті. Отримана частка представляє оцінку «s», яка характеризує нову інформацію, введену набором даних із засобів масової інформації щодо існуючих знань.
Модель враховує рівень зацікавленості певної групи осіб новинами на певну тему. Цей додатковий рівень покращує якість передбачення, що вимірюється кореляцією між прогнозами моделі та думками людей щодо вихідної тези.
Секрет у тому, що тези та новини були класифіковані за датами. Вивчаючи новини, пов’язані з першими місяцями спалаху коронавірусу, можна було передбачити реакцію людей на запропоновані заходи та зміни.
Показники можуть здатися не вражаючими, і самі автори підкреслюють, що їхні висновки не означають, що ШІ може повністю замінити участь людини в процесі, або моделі можуть замінити опитування людей. Натомість ці Інструменти AI служать допоміжними засобами для узагальнення величезних обсягів даних і визначення потенційно плідних областей для подальшого дослідження.
Цікаво, що сенатор дійшов іншого висновку, висловивши стурбованість моделями, що працюють надто добре, і потенційними небезпеками, пов’язаними з цим. У цій точці зору є певна обґрунтованість, враховуючи, що стаття демонструє досить базові моделі та майбутні ітерації, такі як GPT-4 може потенційно запропонувати значні покращення.
Зростаючий виклик маніпуляції соціальними мережами за допомогою ШІ
Під час останніх дискусій розмова відходила від президентських виборів, що наближалися, до актуальної теми використання моделей мовних моделей (LLM), навіть у локальному масштабі, для виготовлення та поповнення фейкових акаунтів у соціальних мережах. Ця дискусія підкреслює потенціал для автоматизації фабрик тролів з акцентом на пропаганду та ідеологічний вплив.
Хоча це може не здатися новаторським, враховуючи технологію, яка вже використовується, різниця полягає в масштабі. LLM можна використовувати постійно, обмежуючись лише виділеним бюджетом GPU. Крім того, щоб підтримувати розмови та ланцюжки, додаткові, менш просунуті боти можуть приєднуватися до обговорень і відповідати. Їхня ефективність у переконанні користувачів сумнівна. Чи зможе добре створений бот справді змінити чиюсь політичну позицію, спонукаючи їх задуматися: «Що зробили ці демократи? Я повинен голосувати за республіканців»?
Намагатися закріпити за кожним онлайн-користувачем співробітника-троля для систематичного переконання недоцільно, нагадує жарт «наполовину сидить, наполовину стоїть». Навпаки, бот, оснащений передовими нейронними мережами, залишається невтомним, здатним взаємодіяти з десятками мільйонів людей одночасно.
Потенційний контрзахід передбачає підготовку соціальні медіа облікових записів, імітуючи людську поведінку. Боти можуть імітувати справжніх користувачів, обговорюючи особистий досвід і публікуючи різноманітний вміст, зберігаючи видимість нормальності.
Хоча у 2024 році це може не бути актуальною проблемою, до 2028 року вона, швидше за все, стане серйозною проблемою. Вирішення цієї проблеми створює складну дилему. Чи варто відключати соцмережі під час виборів? Нездійсненно. Виховувати громадськість беззаперечно довіряти онлайн-контенту? Непрактично. Програти вибори через маніпуляції? Небажано.
Альтернативою може бути розширена модерація вмісту. Нестача людей-модераторів і обмежена ефективність існуючих моделей виявлення тексту, навіть із OpenAI, ставлять під сумнів життєздатність цього рішення.
OpenAIАвтора GPT-4 Оновлює модерацію вмісту за допомогою швидкої адаптації правил
OpenAIпід керівництвом Ліліан Венг нещодавно представив проект під назвою «використання GPT-4 для модерації вмісту.” Це прискорює процес оновлення правил модерації вмісту, скорочуючи часову шкалу з місяців до годин. GPT-4 демонструє надзвичайну здатність розуміти правила й тонкощі в рамках вичерпних рекомендацій щодо вмісту, миттєво адаптуючись до будь-яких змін, забезпечуючи таким чином більш послідовну оцінку вмісту.
Ця складна система модерації вмісту надзвичайно проста, як показано на супровідному GIF-файлі. Що відрізняє його від інших GPT-4надзвичайна майстерність у розумінні письмового тексту, подвиг, яким не опанували навіть люди.
Ось як це працює:
- Після розробки вказівок або інструкцій модерації експерти відбирають обмежений набір даних, що містить випадки порушень, і призначають відповідні мітки відповідно до політики порушення.
- GPT-4 згодом розуміє набір правил і позначає дані без доступу до відповідей.
- У випадках розбіжностей між GPT-4 відповіді та людські судження, експерти можуть звернутися за роз’ясненнями GPT-4, проаналізуйте неоднозначності в інструкції defiі розвійте будь-яку плутанину за допомогою додаткових пояснень, позначених синім кроком у GIF.
Цей ітераційний процес кроків 2 і 3 можна повторювати, доки продуктивність алгоритму не відповідатиме бажаному стандарту. Для великомасштабних застосувань, GPT-4 передбачення можна використовувати для навчання значно меншої моделі, яка може забезпечити порівнянну якість.
OpenAI розкрив показники для оцінки 12 різних типів порушень. У середньому ця модель перевершує стандартних модераторів вмісту, але все ще відстає від досвіду досвідчених і добре навчених модераторів-людей. Тим не менш, одним переконливим аспектом є його економічна ефективність.
Варто зазначити, що моделі машинного навчання були використані в автомодерація протягом кількох років. Введення GPT-4 готова запровадити нові інновації, зокрема у сфері політики та виборів. Є навіть такі припущення OpenAI може стати ексклюзивним постачальником офіційно дозволеного TrueModerationAPI™ Білий дім, особливо в світлі їхніх нещодавніх партнерських зусиль. Майбутнє відкриває захоплюючі можливості в цій сфері.
Докладніше про ШІ:
відмова
Відповідно до Правила проекту Trust, будь ласка, зверніть увагу, що інформація, надана на цій сторінці, не призначена і не повинна тлумачитися як юридична, податкова, інвестиційна, фінансова або будь-яка інша форма консультації. Важливо інвестувати лише те, що ви можете дозволити собі втратити, і звернутися за незалежною фінансовою порадою, якщо у вас виникнуть сумніви. Щоб отримати додаткову інформацію, ми пропонуємо звернутися до положень та умов, а також до сторінок довідки та підтримки, наданих емітентом або рекламодавцем. MetaversePost прагне до точного, неупередженого звітування, але ринкові умови можуть змінюватися без попередження.
про автора
Дамір є керівником групи, менеджером із продуктів і редактором Metaverse Post, що охоплює такі теми, як AI/ML, AGI, LLMs, Metaverse тощо Web3- суміжні поля. Його статті щомісяця приваблюють величезну аудиторію понад мільйон користувачів. Здається, він є експертом із 10-річним досвідом роботи в SEO та цифровому маркетингу. Даміра згадували в Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto та інші видання. Він подорожує між ОАЕ, Туреччиною, Росією та СНД як цифровий кочівник. Дамір отримав ступінь бакалавра з фізики, що, на його думку, дало йому навички критичного мислення, необхідні для досягнення успіху в Інтернеті, який постійно змінюється.
інші статті
Дамір є керівником групи, менеджером із продуктів і редактором Metaverse Post, що охоплює такі теми, як AI/ML, AGI, LLMs, Metaverse тощо Web3- суміжні поля. Його статті щомісяця приваблюють величезну аудиторію понад мільйон користувачів. Здається, він є експертом із 10-річним досвідом роботи в SEO та цифровому маркетингу. Даміра згадували в Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto та інші видання. Він подорожує між ОАЕ, Туреччиною, Росією та СНД як цифровий кочівник. Дамір отримав ступінь бакалавра з фізики, що, на його думку, дало йому навички критичного мислення, необхідні для досягнення успіху в Інтернеті, який постійно змінюється.
