Стенфордська обсерваторія: ШІ призведе до повсюдної брехні та непереборної пропаганди у 2023 році
Коротко
Технології AICG (генерування контенту за допомогою штучного інтелекту) зроблять правду та брехню нерозрізненими як для окремих людей, так і для суспільства будь-якого масштабу.
Це створить середовище «постправди», в якому брехня та пропаганда стануть повсюднимиdefiздатний і непереборний.
Той факт, що багато людей більше довіряють інформації, яка надходить з Інтернету, ніж з традиційних ЗМІ, викликає серйозне занепокоєння.
Генератори зображень і відео на основі штучного інтелекту стають все більш зручними у використанні, надзвичайно надійними та високоефективними.
Це робить їх неймовірно корисними для пропагандистських цілей.
У своєму зверненні до світової спільноти штучного інтелекту китайський гуру штучного інтелекту Кай-Фу Лі попередив, що вже у 2023 році світ зіткнеться з ризиком, більш серйозним, ніж ризики ядерної війни, голоду чи пандемії. Ризик полягає у створенні контенту за допомогою штучного інтелекту. (AICG). Технології AICG можуть зробити правду та брехню нерозрізненими як для окремих людей, так і для суспільства будь-якого масштабу.
Команда новий звіт Центром безпеки та нових технологій, OpenAIі Стенфордської Інтернет-обсерваторії, «Моделі генеративної мови та автоматизовані операції впливу: нові загрози та потенційні заходи пом’якшення», надає стратегічне розуміння катастрофічного сценарію, описаного Кай-Фу Лі.
У звіті детально описано, як може статися падіння людства в прірву AICG. Технології AICG дозволять генерувати величезну кількість контенту, який неможливо відрізнити від контенту, створеного людьми. Це створить середовище «постправди», в якому брехня та пропаганда стануть повсюднимиdefiздатний і непереборний.
У звіті рекомендовано низку заходів щодо пом’якшення наслідків, включаючи регулювання використання технологій AICG, підвищення прозорості щодо їх використання та розробку стандартів їх використання. Однак автори доповіді попереджають, що ці заходи будуть ефективними лише в тому випадку, якщо вони будуть реалізовані в глобальному масштабі.
Оприлюднення звіту відбувається в той час, коли світ і так намагається впоратися з поширенням дезінформації та дезінформації. Пандемія COVID-19 супроводжується поширенням неправдивої інформації про вірус та його походження, і платформи соціальних мереж намагаються запобігти поширенню цієї неправдивої інформації.
ШІ істотно змінить Інтернет
Брехня та пропаганда завжди були частиною людського суспільства. Проте доступність та ефективність будь-яких операцій впливу (як на окремих людей, так і на суспільства) зростає завдяки розвитку більш складних технологій, зокрема у сфері штучного інтелекту (ШІ).
| Пов'язана стаття: OpenAIГенеральний директор Росії заявляє, що система освіти повинна адаптуватися до ChatGPT, а не забороняти |
Три основні фактори сприяють глобальній появі, поширенню та прийняттю брехні за правду:
- Розробка зображень і відео на основі ШІ генератори які можуть створювати дуже реалістичні зображення та відео людей і подій, яких насправді ніколи не було.
- Використання соціальних мереж для швидкого поширення неправдивої інформації серед великої кількості людей.
- Той факт, що зараз багато людей більше довіряють інформації, яка надходить з Інтернету, ніж із традиційних джерел ЗМІ.
В результаті цих факторів генератори зображень і відео на основі штучного інтелекту стають все більш зручними у використанні, високонадійними та високоефективними. Це робить їх неймовірно корисними для пропагандистських цілей.
Тепер кожен, хто має комп’ютер і підключення до Інтернету, може створювати підроблені зображення та відео, які практично не відрізняються від реальності. Це призвело до ситуації, в якій дуже важко визначити, що правда, а що ні.
Використання соціальних мереж для поширення неправдивої інформації також викликає серйозне занепокоєння. Завдяки тому, як працюють соціальні мережі, неправдива інформація може поширюватися дуже швидко та легко. Через це людям важко зрозуміти, у що вірити.
Нижче показано, як революційна подія 2022 року уможливила створення фейків зображень які відповідали описам на зразок «Єнот у офіційному одязі з циліндром, тростиною та пакетом для сміття. «Картина маслом у стилі Рембрандта (результат ліворуч) і Ван Гога (результат праворуч)».
Надзвичайне спрощення процесу стирання межі між правдою та брехнею в поєднанні з нездатністю критичного мислення людей протистояти пропаганді штучного інтелекту призведе до домінування всюдисущого, вdefiважкі й непереборні операції впливу як у політиці, так і в бізнесі.
Докладніше про ШІ:
відмова
Відповідно до Правила проекту Trust, будь ласка, зверніть увагу, що інформація, надана на цій сторінці, не призначена і не повинна тлумачитися як юридична, податкова, інвестиційна, фінансова або будь-яка інша форма консультації. Важливо інвестувати лише те, що ви можете дозволити собі втратити, і звернутися за незалежною фінансовою порадою, якщо у вас виникнуть сумніви. Щоб отримати додаткову інформацію, ми пропонуємо звернутися до положень та умов, а також до сторінок довідки та підтримки, наданих емітентом або рекламодавцем. MetaversePost прагне до точного, неупередженого звітування, але ринкові умови можуть змінюватися без попередження.
про автора
Дамір є керівником групи, менеджером із продуктів і редактором Metaverse Post, що охоплює такі теми, як AI/ML, AGI, LLMs, Metaverse тощо Web3- суміжні поля. Його статті щомісяця приваблюють величезну аудиторію понад мільйон користувачів. Здається, він є експертом із 10-річним досвідом роботи в SEO та цифровому маркетингу. Даміра згадували в Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto та інші видання. Він подорожує між ОАЕ, Туреччиною, Росією та СНД як цифровий кочівник. Дамір отримав ступінь бакалавра з фізики, що, на його думку, дало йому навички критичного мислення, необхідні для досягнення успіху в Інтернеті, який постійно змінюється.
інші статті
Дамір є керівником групи, менеджером із продуктів і редактором Metaverse Post, що охоплює такі теми, як AI/ML, AGI, LLMs, Metaverse тощо Web3- суміжні поля. Його статті щомісяця приваблюють величезну аудиторію понад мільйон користувачів. Здається, він є експертом із 10-річним досвідом роботи в SEO та цифровому маркетингу. Даміра згадували в Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto та інші видання. Він подорожує між ОАЕ, Туреччиною, Росією та СНД як цифровий кочівник. Дамір отримав ступінь бакалавра з фізики, що, на його думку, дало йому навички критичного мислення, необхідні для досягнення успіху в Інтернеті, який постійно змінюється.
