Технологічні тенденції 2024 року: лідери галузі використовують ШІ для протидії загрозам Deepfake
Коротко
У боротьбі з технологією deepfake промисловість використовує інструменти та рішення ШІ для боротьби з розповсюдженням маніпульованого контенту.
Під час російсько-української війни, яка триває, з’явилося відео, на якому президент України Володимир Зеленський просить війська здатися в розпал війни. Пізніше виявилося, що це а deepfake відео.
У постійній боротьбі проти технологія глибоких фейків, індустрії все частіше звертаються до арсеналу складних технологій для боротьби з розповсюдженням маніпульованого контенту. Від ініціатив щодо перевірки автентичності вмісту до методів невидимого водяного знака, інструментів алгоритмічного виявлення, спільних проектів і змін у політиці платформи — боротьба з глибокими фейками стає багатогранною та динамічною.
Автентичність вмісту та походження вмісту
Ініціатива автентичності вмісту, очолювана гравцями галузі, спрямована на криптографічне закріплення інформації про авторство вмісту, що дозволяє перевіряти його від створення до споживання. Одночасно Коаліція з питань походження та автентифікації вмісту (C2PA) випустила технічну специфікацію відкритого стандарту, зосереджену на наданні даних про походження вмісту, зміни та учасників.
Корпорація Майкрософт зробила крок далі, оголосивши «Облікові дані вмісту як послугу», використовуючи облікові дані цифрових водяних знаків C2PA, щоб допомогти кандидатам на виборах і кампаніям зберігати контроль над своїм вмістом.
Техніка нанесення водяних знаків
Meta представила Stable Signature, техніку невидимого водяного знака, призначену для розрізнення вмісту, створеного з відкритим кодом генеративні моделі ШІ. Цей невидимий водяний знак, який неможливо помітити неозброєним оком, але який можна відстежити за допомогою алгоритмів, допомагає ідентифікувати підроблені зображення. Google DeepMind також вступив у боротьбу з SynthID, дозволяючи користувачам вставляти цифровий водяний знак безпосередньо в зображення або аудіо, створені ШІ.
Ця технологія дозволяє користувачам сканувати вміст на наявність водяних знаків, надаючи інформацію про те, чи був вміст створений або змінений за допомогою моделей штучного інтелекту Google.
Алгоритмічне виявлення
Галузь розгортає програмне забезпечення для автоматичного виявлення дипфейків, покладаючись на різні стратегії на основі штучного інтелекту, такі як розпізнавання мовців, виявлення живості голосу, розпізнавання осіб, і часовий аналіз. Примітними прикладами є Video Authenticator від Microsoft і FakeCatcher, що підтримується Intel.
Однак проблема полягає в тимчасовому характері інструментів виявлення, оскільки нові методи виробництва глибоких фейків постійно ставлять під сумнів їхню надійність. А вчитися виявили різні рівні точності (30-97%) у наборах даних, що вказує на необхідність постійних інновацій, щоб йти в ногу з появою технологій deepfake.
Походження проекту
Медіа-організації, зокрема BBC і Microsoft, співпрацював над Project Origin. Ця ініціатива спрямована на створення інженерного підходу до синтетичних носіїв, надаючи посилання з цифровим підписом для перевіреного відстеження медіаконтенту до видавця. Проект також спрямований на реалізацію перевірок валідації, щоб гарантувати, що вміст залишається незмінним під час розповсюдження.
Зміни політики платформи
У відповідь на високий ризик політичної реклами основні платформи, як Meta і Google оголосили про зміни політики для підвищення прозорості. Оновлена політика Meta щодо розголошення політичної реклами зобов’язує рекламодавців розкривати цифрово змінений вміст у виборчій або політичній рекламі.
YouTube вимагає від творців повідомляти про використання синтетичного медіа-вмісту, і недотримання цього правила може призвести до штрафних санкцій, зокрема видалення вмісту або призупинення участі в Партнерській програмі YouTube. Google Play Store також запровадив політику щодо контенту, створеного штучним інтелектом, зосереджуючись на запобіганні створенню та розповсюдженню шкідливого або оманливого контенту за допомогою генеративних програм ШІ.
Оскільки боротьба з дипфейками посилюється, індустріальні втручання та технологічні рішення виявляються важливими для збереження автентичності та надійності цифрового контенту. Спільні зусилля основних гравців у різних секторах відображають прагнення випереджати розвиток синтетичних носіїв.
відмова
Відповідно до Правила проекту Trust, будь ласка, зверніть увагу, що інформація, надана на цій сторінці, не призначена і не повинна тлумачитися як юридична, податкова, інвестиційна, фінансова або будь-яка інша форма консультації. Важливо інвестувати лише те, що ви можете дозволити собі втратити, і звернутися за незалежною фінансовою порадою, якщо у вас виникнуть сумніви. Щоб отримати додаткову інформацію, ми пропонуємо звернутися до положень та умов, а також до сторінок довідки та підтримки, наданих емітентом або рекламодавцем. MetaversePost прагне до точного, неупередженого звітування, але ринкові умови можуть змінюватися без попередження.
про автора
Кумар є досвідченим технічним журналістом, який спеціалізується на динамічному перетині ШІ/ML, маркетингових технологій і нових галузей, таких як криптовалюта, блокчейн і NFTс. Завдяки більш ніж 3-річному досвіду роботи в галузі Кумар має досвід створення переконливих оповідей, проведення проникливих інтерв’ю та надання вичерпної інформації. Досвід Кумара полягає у створенні вражаючого контенту, зокрема статей, звітів і дослідницьких публікацій для відомих галузевих платформ. Володіючи унікальним набором навичок, який поєднує в собі технічні знання та розповідь, Кумар чудово вміє доносити складні технологічні концепції до різноманітної аудиторії в чіткій та привабливій формі.
інші статті
Кумар є досвідченим технічним журналістом, який спеціалізується на динамічному перетині ШІ/ML, маркетингових технологій і нових галузей, таких як криптовалюта, блокчейн і NFTс. Завдяки більш ніж 3-річному досвіду роботи в галузі Кумар має досвід створення переконливих оповідей, проведення проникливих інтерв’ю та надання вичерпної інформації. Досвід Кумара полягає у створенні вражаючого контенту, зокрема статей, звітів і дослідницьких публікацій для відомих галузевих платформ. Володіючи унікальним набором навичок, який поєднує в собі технічні знання та розповідь, Кумар чудово вміє доносити складні технологічні концепції до різноманітної аудиторії в чіткій та привабливій формі.
