Думка Business ринки Безпека Wiki Софтвер Технологія
Травень 31, 2024

OpenAI Викриває та зупиняє 5 операцій зловмисного впливу за допомогою технології ШІ

Коротко

OpenAI, провідна компанія штучного інтелекту, вирішує моральні та практичні занепокоєння щодо можливого неправильного використання, щоб запобігти зловживанню своїми моделями.

В останні кілька років моральні та практичні занепокоєння були зосереджені на ШІ через його величезний потенціал як для корисного, так і для шкідливого використання. Один з лідерів галузі, OpenAI, прагне впровадити суворі вказівки, щоб запобігти зловживанню своїми моделями ШІ.

Ця відданість особливо важлива для виявлення та припинення таємних операцій впливу (IO), які є спробами вплинути на громадську думку чи вплинути на політичні результати без розкриття справжніх осіб або мотивів залучених сторін. За останні три місяці, OpenAI втрутилася в п’ять із цих дій, підтверджуючи свою прихильність зменшенню зловживання технологією ШІ.

Неочікувані збої в операціях таємного впливу останнім часом

Травень 30, 2024, OpenAI увійшла в історію, розкривши світові, що вона успішно зірвала п’ять таких прихованих кампаній впливу які надходили з Ірану, Китаю, Росії та навіть ізраїльської приватної компанії. Підприємство опублікувало відкритий звіт із детальним описом копітких розслідувань, які викрили ці зловмисні дії, спрямовані на використання OpenAIнайсучасніші мовні моделі для шахрайства в Інтернеті.

Генеральний директор Російської Федерації OpenAI, Сем Альтман, підтвердив відданість компанії створенню інтелектуальних програм, які є надійними та безпечними. Він також заявив, що компанія прагне впроваджувати правила, які припиняють зловживання та підвищують відкритість інформації, створеної штучним інтелектом, з особливим акцентом на виявленні та впливі на діяльність прихованого впливу.

Конкретна операція, яка отримала назву «Погана граматика». OpenAI аналітики — приїхали з Росії. Щоб змінити суспільне сприйняття, особи, що стоять за цією операцією, використовували для запуску ботів Telegram OpenAIмоделей і створюють короткі соціальні коментарі російською та англійською мовами. Потім ці коментарі опублікували у відомому додатку для чату.

OpenAI, провідна компанія штучного інтелекту, вирішує моральні та практичні занепокоєння щодо можливого неправильного використання, щоб запобігти зловживанню своїми моделями.

Фото: публічний коментар у Telegram, який відповідає тексту, згенерованому цією мережею. Звіт Intel про загрозу

Інша організація під назвою «Двійник» прийняв більш міжнародну стратегію, використовуючи OpenAIШІ для створення відповідей різними мовами ЄС.

Дослідження також дозволило зрозуміти китайську систему, відому як «Спамуфляж», яка використовувала OpenAIМоделі для низки додатків, включаючи створення багатомовних матеріалів для таких сайтів, як X, Medium і Blogspot, а також дослідження активності публічних соціальних мереж. Дослідники навіть використовували OpenAIШІ для налагодження бази даних і коду керування веб-сайтами, зокрема раніше нерозголошеного домену, який, можливо, викликає найбільше занепокоєння з усіх.

OpenAI, провідна компанія штучного інтелекту, вирішує моральні та практичні занепокоєння щодо можливого неправильного використання, щоб запобігти зловживанню своїми моделями.

Фото: Скріншот веб-сайту discoverscum[.]com, де показано сторінку під назвою «汉奸» («зрадник»). Звіт Intel про загрозу

«Міжнародний союз віртуальних медіа» (IUVM), іранська організація, яка використовувала OpenAIШтучний інтелект для створення та інтерпретації документів довгої форми, новин і веб-тегів також був виявлений аналітиками організації.

OpenAI, провідна компанія штучного інтелекту, вирішує моральні та практичні занепокоєння щодо можливого неправильного використання, щоб запобігти зловживанню своїми моделями.

Фото: теги на статті, опублікованій iuvmpress[.]co. Зверніть увагу на перші два теги, які містять відповідь моделі. Звіт Intel про загрозу

Несподівано, OpenAI також втручався в діяльність ізраїльського бізнесу, який отримав назву «Нуль Зено». Використання OpenAIМоделі STOIC створювали історії та відповіді, якими потім ділилися на різних платформах, таких як Facebook, Instagram, X та корпоративних сторінках. Можливо, це було зроблено, щоб схилити громадську думку чи досягти бізнес-цілей.

OpenAI, провідна компанія штучного інтелекту, вирішує моральні та практичні занепокоєння щодо можливого неправильного використання, щоб запобігти зловживанню своїми моделями.

Фото: англомовні коментарі, створені цією мережею та розміщені в Instagram. І оригінальний допис, і відповіді були згенеровані цією кампанією. Звіт Intel про загрозу

Дослідження підкреслює, що інформація, яка поширювалася цими різними організаціями, охоплювала широкий спектр тем. Цей широкий спектр предметів підкреслює, наскільки адаптивними були ці суб’єкти загроз у своїх спробах використовувати OpenAIмовні моделі Росії для власних злих цілей.

OpenAI, однак стверджує, що, незважаючи на всі зусилля, ці таємні кампанії впливу не принесли великої вигоди від використання його послуг для підвищення популярності чи охоплення. При оцінці впливу IO використовувалася «Шкала прориву» Інституту Брукінгса. Жодна з 5 ініціатив не отримала більше 2 балів, що означає, що їхня діяльність була обмежена декількома платформами та незначним чином проникла в законні онлайн-групи.

OpenAI, провідна компанія штучного інтелекту, вирішує моральні та практичні занепокоєння щодо можливого неправильного використання, щоб запобігти зловживанню своїми моделями.

Фото: дослідники визначили наступний домен як пов’язаний із цією кампанією. Звіт Intel про загрозу

Перевірка стратегій нападників

Папір від OpenAI також ідентифікує ряд важливих моделей у тому, як ці загрозливі суб’єкти намагалися зловживати моделями ШІ. Щоб створити видимість участі в соціальних мережах, усі вони використовували матеріал, створений штучним інтелектом, на додаток до більш традиційних форматів, таких як рукописні листи чи перероблені меми. Крім того, кілька учасників продемонстрували адаптивність цих технологій, використовуючи штучний інтелект для підвищення своєї продуктивності, аналізуючи публікації в соціальних мережах або код усунення несправностей.

Цікаво, що бізнес підкреслює переваги штучного інтелекту для захисту від таких атак. OpenAIЗаходи безпеки, які віддають перевагу етичному розгортанню штучного інтелекту, постійно створюють незручності суб’єктам загрози через відмову надати запланований руйнівний матеріал. Дослідження, наприклад, докладно описує ситуації, коли моделі компанії відмовлялися генерувати потрібний текст або графіку, перешкоджаючи спробам операторів поширювати дезінформацію чи пропаганду.

Крім того, щоб покращити навички розпізнавання та оцінки та прискорити розслідування, які могли тривати тижнями чи місяцями, OpenAI створила власні інструменти на основі ШІ. Компанія показала, як ШІ може посилити захист від власного зловмисного використання, використовуючи саме ту технологію, яку він прагне захистити.

OpenAI наголошує на тому, наскільки важливою є бізнес-співпраця та обмін розвідданими з відкритих джерел для запобігання цим таємним операціям. У результаті багаторічного дослідження відкритого коду більшою дослідницькою спільнотою корпорація поділилася точними індикаторами небезпеки з колегами в галузі та зміцнила ідею про те, що боротьба з дезінформацією та маніпуляціями в Інтернеті — це командна робота, яка вимагає співпраці між галузями.

OpenAIМайбутній курс на безпеку

Використовуючи цю стратегію, OpenAI прагне посилити вплив своїх збоїв на цих зловмисників, обмежуючи їхню здатність використовувати технології ШІ для незаконної діяльності. Згідно з документом, «Розповсюдження має значення: як і традиційні форми контенту, матеріал, створений штучним інтелектом, необхідно поширювати, якщо він хоче досягти аудиторії».

Підводячи підсумок, OpenAIДослідження підкреслює, що ці операції скритного впливу все ще були обмежені людськими змінними, такими як помилки оператора та дефекти прийняття рішень, навіть якщо воно визнає потенційні загрози, створені зловживанням технологією ШІ. У статті наведено приклади операторів, які надсилають сигнали про відмову від OpenAIмоделі на своїх веб-сайтах і в соціальних мережах помилково, викриваючи недоліки та обмеження навіть у найпередовіших спробах дезінформації.

Як і зараз, OpenAIДемонтаж цих п’яти таємних кампаній впливу є доказом старанності та відданості компанії підтримувати цілісність своїх систем штучного інтелекту. Однак боротьба з дезінформацією та онлайн-маніпуляціями ще далека від завершення, і в міру розвитку технологій штучного інтелекту зростатиме потреба у співпраці, креативності та етичних питаннях.

відмова

Відповідно до Правила проекту Trust, будь ласка, зверніть увагу, що інформація, надана на цій сторінці, не призначена і не повинна тлумачитися як юридична, податкова, інвестиційна, фінансова або будь-яка інша форма консультації. Важливо інвестувати лише те, що ви можете дозволити собі втратити, і звернутися за незалежною фінансовою порадою, якщо у вас виникнуть сумніви. Щоб отримати додаткову інформацію, ми пропонуємо звернутися до положень та умов, а також до сторінок довідки та підтримки, наданих емітентом або рекламодавцем. MetaversePost прагне до точного, неупередженого звітування, але ринкові умови можуть змінюватися без попередження.

про автора

Вікторія пише про різноманітні технологічні теми, зокрема Web3.0, ШІ та криптовалюти. Її великий досвід дозволяє їй писати проникливі статті для широкої аудиторії.

інші статті
Вікторія Пальчик
Вікторія Пальчик

Вікторія пише про різноманітні технологічні теми, зокрема Web3.0, ШІ та криптовалюти. Її великий досвід дозволяє їй писати проникливі статті для широкої аудиторії.

Hot Stories
Приєднуйтеся до нашої розсилки.
Останні новини

Від Ripple до The Big Green DAO: як криптовалютні проекти сприяють благодійності

Давайте розглянемо ініціативи, які використовують потенціал цифрових валют для благодійних цілей.

Дізнайтеся більше

AlphaFold 3, Med-Gemini та інші: як AI трансформує охорону здоров’я у 2024 році

ШІ проявляється різними способами в охороні здоров’я, від виявлення нових генетичних кореляцій до розширення можливостей роботизованих хірургічних систем...

Дізнайтеся більше
Приєднуйтесь до нашої спільноти інноваційних технологій
Детальніше
Читати далі
Ethena інтегрується зі Scroll і вводить USDe у ​​свою екосистему
Звіт про новини Технологія
Ethena інтегрується зі Scroll і вводить USDe у ​​свою екосистему
Липень 23, 2024
KiloEx запускає нове гібридне сховище в мережі Manta з понад 2 млн депозитів MANTA
Звіт про новини Технологія
KiloEx запускає нове гібридне сховище в мережі Manta з понад 2 млн депозитів MANTA
Липень 23, 2024
ExSat об’єднує зусилля з HashKey Cloud, вітаючи його як провідний засіб перевірки даних
Business Звіт про новини Технологія
ExSat об’єднує зусилля з HashKey Cloud, вітаючи його як провідний засіб перевірки даних
Липень 23, 2024
Віталік Бутерін представляє нове рішення для ефективного ZK-EVM у своїй останній статті
Звіт про новини Технологія
Віталік Бутерін представляє нове рішення для ефективного ZK-EVM у своїй останній статті
Липень 23, 2024
CRYPTOMERIA LABS PTE. LTD.