Темна сторона Deepfakes: як зловмисники використовують синтетичні медіа для маніпулювання та обману
Коротко
Deepfakes, технологія, яка дозволяє створювати реалістичні зображення облич, голосів та інших рис, може бути корисною для мистецтва, розваг та освіти.
Що таке Deepfake?
Термін «deepfake» — це технологічний процес, який створює дуже реалістичне синтетичне медіа, зазвичай у формі звуків, фотографій або відео, використовуючи штучний інтелект (ШІ), зокрема алгоритми глибокого навчання та генеративні змагальні мережі (GAN). Deepfakes здатні створювати абсолютно нову та часто оманливу інформацію шляхом маніпулювання або накладення існуючого візуального та аудіоконтенту завдяки навчанню цих алгоритмів на великих наборах даних.
За допомогою цієї технології обличчя, голоси та інші відмінні риси можуть бути плавно змінені для створення реалістичних зображень, які важко розрізнити з оригінального матеріалу. Дипфейки корисні для мистецтва, розваг та освіти, але вони також становлять серйозний ризик для поширення неправдивої інформації, порушення конфіденційності та, можливо, використання для дискредитації людей.
Фото: Vimeo
Із зростанням популярності технології deepfake з’являється більше платформ для створення змінених відео та зображень. Нижче наведено список популярних платформ дипфейків, які демонструють діапазон цієї технології, від простої заміни обличчя в GIF-файлах до вдосконаленої обробки відео, що відображає універсальність і потенційне використання дипфейків.
FaceApp
Відомий своїми функціями трансформації обличчя, FaceApp дозволяє користувачам застосовувати різноманітні фільтри, щоб змінити свою зовнішність, наприклад, старіння або зміну статі, пропонуючи зручний інтерфейс.
ЗАТ
Китайська програма deepfake, яка привернула увагу своєю здатністю швидко й з високою точністю замінювати обличчя у відеороликах. ZAO надає користувачам прості інструменти для створення персоналізованих дипфейків.
Повернення
Мобільна програма, призначена для зміни обличчя в коротких відеороликах і GIF-файлах. Reface пропонує широкий спектр контенту, включаючи сцени з популярних фільмів і зображення знаменитостей, що полегшує створення розважального контенту.
DeepFaceLab
Більш просунута платформа для створення дипфейків, DeepFaceLab з відкритим вихідним кодом призначена для досвідчених користувачів, які хочуть створювати складні дипфейкові проекти. Це дозволяє детально маніпулювати обличчями у відео.
Вомбо
Спеціалізуючись на синхронізації губ, Wombo дозволяє користувачам створювати відео, де обличчя анімовані, щоб співати або говорити. Ця платформа широко використовується для створення гумористичного та розважального контенту.
Deepfakes Web
Веб-служба Deepfakes Web створена для простоти використання. Користувачі можуть завантажувати відео та зображення для генерування контенту deepfake, не потребуючи передових технічних навичок.
Студія Deepfake
Deepfake Studio — комплексна платформа для створення глибоких фейкових відео, яка пропонує різноманітні інструменти для зміни обличчя та маніпулювання відеовмістом. Він призначений як для початківців, так і для більш досвідчених користувачів.
Чи становлять Deepfakes ризик?
Дійсно, отримати технологію, необхідну для генерації глибоких фейків, досить легко, і існує велика ймовірність того, що нею зловживатимуть для дезінформації, політичної дезінформації, імітації соціальних медіа та злочинності. Зловмисники та інші злочинці можуть використовувати цей неправдивий матеріал, серед іншого, щоб вигадувати історії, погрожувати людям або видавати себе за відомих людей, щоб вчиняти шахрайство чи завдавати шкоди репутації людей.
Практичні випадки зловмисних дипфейків
Том Круз Deepfake
Deepfake-відео Тома Круза в TikTok є одними з найвідоміших і захоплюючих випадків штучного створення ЗМІ. Мільйони людей переглянули ці відео, на яких образ Круза точно розміщено на тілі іншої людини, створюючи тривожно реалістичний вміст.
PSA Обами з Джорданом Пілом
Режисер і комік Джордан Піл співпрацював з BuzzFeed для створення відео, в якому він озвучив колишнього президента Барака Обаму. Дипфейк підкреслив можливі ризики в політичній сфері, продемонструвавши, наскільки просто створювати неправдиві матеріали за допомогою штучних медіа.
Марк Цукерберг Deepfake як соціальний коментар
Відео генерального директора Facebook Марка Цукерберга було знято художником Біллом Постерсом, щоб продемонструвати, як легко можна використовувати соціальні мережі. У діпфейку Цукерберг розповів про право власності Facebook на дані користувачів, привернувши увагу до суперечки щодо управління компанією оманливими матеріалами.
Криптовані афери
Deepfakes також широко використовуються в криптопросторі. Наприклад, 7 лютого 2024 року на Twitter-сторінці CertiKSkynetAlert було опубліковано сповіщення про шахрайство з діпфейком Віталіка Бутеріна:
Чи існують способи припинити використання Deepfakes?
Технології, які можуть ідентифікувати дипфейки або дозволяють перевіряти реальні матеріали, можна використовувати для протидії зловмисним дипфейкам. Фальшиві носії можна розпізнати за допомогою технології виявлення без необхідності порівнювати з оригінальним, незміненим матеріалом. Машинне навчання — це тип ШІ, який часто використовується цими технологіями. Для навчання алгоритмів використовуються дані з авторитетних фактичних і шахрайських джерел. Серед технік – нерівності обличчя чи голосу, ознаки процесу створення deepfake та варіації кольору.
відмова
Відповідно до Правила проекту Trust, будь ласка, зверніть увагу, що інформація, надана на цій сторінці, не призначена і не повинна тлумачитися як юридична, податкова, інвестиційна, фінансова або будь-яка інша форма консультації. Важливо інвестувати лише те, що ви можете дозволити собі втратити, і звернутися за незалежною фінансовою порадою, якщо у вас виникнуть сумніви. Щоб отримати додаткову інформацію, ми пропонуємо звернутися до положень та умов, а також до сторінок довідки та підтримки, наданих емітентом або рекламодавцем. MetaversePost прагне до точного, неупередженого звітування, але ринкові умови можуть змінюватися без попередження.
про автора
Вікторія пише про різноманітні технологічні теми, зокрема Web3.0, ШІ та криптовалюти. Її великий досвід дозволяє їй писати проникливі статті для широкої аудиторії.
інші статті
Вікторія пише про різноманітні технологічні теми, зокрема Web3.0, ШІ та криптовалюти. Її великий досвід дозволяє їй писати проникливі статті для широкої аудиторії.
