Станфордската обсерватория: AI ще доведе до повсеместни лъжи и неустоима пропаганда през 2023 г.
Накратко
Технологиите AICG (генериране на съдържание с изкуствен интелект) ще направят истината и лъжата неразличими, както за отделни хора, така и за общества от всякакъв мащаб.
Това ще създаде среда „постистина“, в която лъжите и пропагандата ще станат повсеместниdefiсилен и неустоим.
Фактът, че много хора се доверяват повече на информацията, която идва от интернет, отколкото от традиционните медии, е сериозен проблем.
Базираните на AI генератори на изображения и видео стават все по-удобни за използване, много надеждни и високоефективни.
Това ги прави невероятно полезни за пропагандни цели.
В обръщението си към глобалната AI общност китайският AI гуру Кай-Фу Лий предупреди, че светът ще бъде изправен пред риск, по-сериозен от рисковете от ядрена война, глад или пандемия още през 2023 г. Рискът е генерирането на съдържание с изкуствен интелект (AICG). Технологиите на AICG могат да направят истината и лъжата неразличими, както за отделни хора, така и за общества от всякакъв мащаб.
- нов доклад от Центъра за сигурност и нововъзникващи технологии, OpenAI, и Станфордска интернет обсерватория, „Генеративни езикови модели и автоматизирани операции за влияние: Нововъзникващи заплахи и потенциални мерки за смекчаване“, предоставя стратегически поглед върху катастрофалния сценарий, описан от Кай-Фу Лий.
| Свързана статия: Конгресът на САЩ иска да създаде федерална агенция за регулиране на изкуствения интелект |
Докладът описва подробно как е вероятно падането на човечеството в бездната на AICG. Технологиите на AICG ще направят възможно генерирането на огромни количества съдържание, неразличимо от генерираното от човека съдържание. Това ще създаде среда „постистина“, в която лъжите и пропагандата ще станат повсеместниdefiсилен и неустоим.
Докладът препоръчва редица смекчаващи мерки, включително регулиране на използването на AICG технологии, повишаване на прозрачността относно тяхното използване и разработване на стандарти за тяхното използване. Авторите на доклада обаче предупреждават, че тези мерки ще бъдат ефективни само ако се прилагат в глобален мащаб.
Публикуването на доклада идва в момент, когато светът вече се бори да се справи с разпространението на дезинформация и дезинформация. Пандемията от COVID-19 е придружена от разпространение на невярна информация за вируса и неговия произход, а социалните медийни платформи се борят да предотвратят разпространението на тази невярна информация.
AI ще промени значително мрежата
Лъжата и пропагандата винаги са били част от човешкото общество. Въпреки това наличността и ефективността на всякакви операции за влияние (както върху индивиди, така и върху общества) се увеличават поради развитието на по-сложни технологии, особено в областта на изкуствения интелект (AI).
| Свързана статия: OpenAIГлавният изпълнителен директор заявява, че образователната система трябва да се адаптира към ChatGPT, а не да го забраняват |
Три основни фактора допринасят за глобалната поява, разпространение и приемане на лъжите като истина:
- Разработване на базирани на AI изображения и видео генератори които могат да създават изключително реалистични изображения и видеоклипове на хора и събития, които никога не са се случвали.
- Използването на социални медии за разпространяване на невярна информация сред голям брой хора много бързо.
- Фактът, че много хора вече се доверяват повече на информацията, която идва от интернет, отколкото от традиционните медийни източници.
В резултат на тези фактори базираните на AI генератори на изображения и видео стават все по-удобни за използване, високонадеждни и високоефективни. Това ги прави невероятно полезни за пропагандни цели.
Вече е възможно всеки с компютър и интернет връзка да създава фалшиви изображения и видеоклипове, които са практически неразличими от реалността. Това доведе до ситуация, в която е много трудно да се определи кое е вярно и кое не.
Използването на социални медии за разпространение на невярна информация също е основен проблем. Поради начина, по който работят социалните медии, невярната информация може да се разпространи много бързо и лесно. Това затруднява хората да знаят на какво да вярват.
Следното илюстрира как едно революционно развитие през 2022 г. направи възможно създаването на фалшификати изображения които отговарят на описания като „Миеща мечка в официални дрехи с цилиндър, бастун и торба за боклук. „Маслена живопис в стила на Рембранд (резултатът е вляво) и Ван Гог (резултатът е вдясно).“
Изключителното опростяване на процеса на изтриване на границата между истината и лъжата, съчетано с неспособността на критичното мислене на хората да се противопостави на пропагандата на ИИ, ще доведе до доминирането на вездесъщия, вdefiспособни и непреодолими операции на влияние, както в политиката, така и в бизнеса.
Прочетете повече за AI:
Отказ от отговорност
В съответствие с Доверете се насоките на проекта, моля, имайте предвид, че предоставената на тази страница информация не е предназначена да бъде и не трябва да се тълкува като правен, данъчен, инвестиционен, финансов или каквато и да е друга форма на съвет. Важно е да инвестирате само това, което можете да си позволите да загубите, и да потърсите независим финансов съвет, ако имате някакви съмнения. За допълнителна информация предлагаме да се обърнете към правилата и условията, както и към страниците за помощ и поддръжка, предоставени от издателя или рекламодателя. MetaversePost се ангажира с точно, безпристрастно отчитане, но пазарните условия подлежат на промяна без предизвестие.
За автора
Дамир е ръководител на екип, продуктов мениджър и редактор в Metaverse Post, обхващащи теми като AI/ML, AGI, LLMs, Metaverse и Web3- свързани полета. Статиите му привличат огромна аудитория от над милион потребители всеки месец. Изглежда, че е експерт с 10 години опит в SEO и дигитален маркетинг. Дамир е споменат в Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto и други публикации. Той пътува между ОАЕ, Турция, Русия и ОНД като дигитален номад. Дамир получава бакалавърска степен по физика, която според него му е дала уменията за критично мислене, необходими за успех в непрекъснато променящия се пейзаж на интернет.
Още статии
Дамир е ръководител на екип, продуктов мениджър и редактор в Metaverse Post, обхващащи теми като AI/ML, AGI, LLMs, Metaverse и Web3- свързани полета. Статиите му привличат огромна аудитория от над милион потребители всеки месец. Изглежда, че е експерт с 10 години опит в SEO и дигитален маркетинг. Дамир е споменат в Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto и други публикации. Той пътува между ОАЕ, Турция, Русия и ОНД като дигитален номад. Дамир получава бакалавърска степен по физика, която според него му е дала уменията за критично мислене, необходими за успех в непрекъснато променящия се пейзаж на интернет.
