Стэнфордская обсерватория: ИИ приведет к повсеместной лжи и непреодолимой пропаганде в 2023 году
Коротко
Технологии AICG (генерация контента с использованием искусственного интеллекта) сделают правду и ложь неразличимыми как для отдельных людей, так и для обществ любого масштаба.
Это создаст среду «постправды», в которой ложь и пропаганда станут повсеместными, вdefiспособный и неотразимый.
Серьезную озабоченность вызывает тот факт, что многие люди больше доверяют информации, поступающей из Интернета, чем из традиционных СМИ.
Генераторы изображений и видео на основе искусственного интеллекта становятся все более удобными в использовании, высоконадежными и высокоэффективными.
Это делает их невероятно полезными в пропагандистских целях.
В своем обращении к мировому сообществу ИИ китайский гуру ИИ Кай-Фу Ли предупредил, что уже в 2023 году мир столкнется с риском более серьезным, чем риски ядерной войны, голода или пандемии. Риск заключается в создании контента с помощью искусственного интеллекта. (АИКГ). Технологии AICG могут сделать правду и ложь неразличимыми как для отдельных людей, так и для обществ любого масштаба.
Ассоциация новый отчет Центр безопасности и новых технологий, OpenAIи Stanford Internet Observatory, «Generative Language Models and Automated Influence Operations: Emerging Threats and Potential Mitigation Measures», дает стратегическое понимание катастрофического сценария, описанного Кай-Фу Ли.
| Связанная статья: Конгресс США хочет создать федеральное агентство по регулированию искусственного интеллекта |
В отчете подробно описывается, как может произойти падение человечества в пропасть AICG. Технологии AICG позволят генерировать огромное количество контента, неотличимого от контента, созданного человеком. Это создаст среду «постправды», в которой ложь и пропаганда станут повсеместными, вdefiспособный и неотразимый.
В отчете рекомендуется ряд мер по смягчению последствий, включая регулирование использования технологий AICG, повышение прозрачности их использования и разработку стандартов их использования. Однако авторы отчета предупреждают, что эти меры будут эффективны только в том случае, если они будут реализованы в глобальном масштабе.
Публикация отчета приходится на то время, когда мир уже пытается справиться с распространением ложной информации и дезинформации. Пандемия COVID-19 сопровождалась распространением ложной информации о вирусе и его происхождении, и платформы социальных сетей изо всех сил пытались предотвратить распространение этой ложной информации.
ИИ значительно изменит сеть
Ложь и пропаганда всегда были частью человеческого общества. Однако доступность и эффективность любых операций воздействия (как на индивидуумов, так и на общества) возрастала за счет развития более совершенных технологий, в частности в области искусственного интеллекта (ИИ).
| Связанная статья: OpenAIГенеральный директор заявляет, что система образования должна адаптироваться к ChatGPT, не запрещать |
Три основных фактора способствуют глобальному возникновению, распространению и принятию лжи за правду:
- Разработка изображений и видео на основе искусственного интеллекта генераторы который может создавать очень реалистичные изображения и видео людей и событий, которых на самом деле никогда не было.
- Использование социальных сетей для быстрого распространения ложной информации среди большого количества людей.
- Дело в том, что многие люди сейчас больше доверяют информации, поступающей из интернета, чем из традиционных источников СМИ.
В результате этих факторов генераторы изображений и видео на основе ИИ становятся все более удобными в использовании, высоконадежными и высокоэффективными. Это делает их невероятно полезными в пропагандистских целях.
Теперь любой, у кого есть компьютер и подключение к Интернету, может создавать поддельные изображения и видео, которые практически неотличимы от реальности. Это привело к ситуации, в которой очень трудно определить, что верно, а что нет.
Использование социальных сетей для распространения ложной информации также вызывает серьезную озабоченность. Из-за того, как работают социальные сети, ложная информация может распространяться очень быстро и легко. Это мешает людям понять, во что верить.
Ниже показано, как революционная разработка 2022 года позволила создать поддельные изображений это соответствовало таким описаниям, как «Енот в формальной одежде, в цилиндре, с тростью и мешком для мусора. «Картина маслом в стиле Рембрандта (результат слева) и Ван Гога (результат справа)».
Крайнее упрощение процесса стирания грани между правдой и ложью в сочетании с неспособностью критического мышления людей противостоять пропаганде ИИ приведет к доминированию вездесущего, вdefiспособные и непреодолимые операции влияния, как в политике, так и в бизнесе.
Подробнее об ИИ:
Отказ от ответственности
В соответствии с Руководство трастового проектаОбратите внимание, что информация, представленная на этой странице, не предназначена и не должна интерпретироваться как юридическая, налоговая, инвестиционная, финансовая или любая другая форма консультации. Важно инвестировать только то, что вы можете позволить себе потерять, и обращаться за независимой финансовой консультацией, если у вас есть какие-либо сомнения. Для получения дополнительной информации мы предлагаем обратиться к положениям и условиям, а также к страницам справки и поддержки, предоставленным эмитентом или рекламодателем. MetaversePost стремится предоставлять точную и объективную отчетность, однако рыночные условия могут быть изменены без предварительного уведомления.
Об авторе
Дамир — руководитель группы, менеджер по продукту и редактор в Metaverse Post, охватывающие такие темы, как AI/ML, AGI, LLM, Metaverse и Web3-связанные поля. Его статьи ежемесячно привлекают огромную аудиторию, насчитывающую более миллиона пользователей. Похоже, он эксперт с 10-летним опытом работы в области SEO и цифрового маркетинга. Дамир упоминается в Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto и другие издания. Он путешествует между ОАЭ, Турцией, Россией и СНГ в качестве цифрового кочевника. Дамир получил степень бакалавра в области физики, что, по его мнению, дало ему навыки критического мышления, необходимые для достижения успеха в постоянно меняющемся мире Интернета.
Другие статьи
Дамир — руководитель группы, менеджер по продукту и редактор в Metaverse Post, охватывающие такие темы, как AI/ML, AGI, LLM, Metaverse и Web3-связанные поля. Его статьи ежемесячно привлекают огромную аудиторию, насчитывающую более миллиона пользователей. Похоже, он эксперт с 10-летним опытом работы в области SEO и цифрового маркетинга. Дамир упоминается в Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto и другие издания. Он путешествует между ОАЭ, Турцией, Россией и СНГ в качестве цифрового кочевника. Дамир получил степень бакалавра в области физики, что, по его мнению, дало ему навыки критического мышления, необходимые для достижения успеха в постоянно меняющемся мире Интернета.
