Тъмната страна на Deepfakes: Как злонамерени актьори използват синтетични медии за манипулиране и измама
Накратко
Deepfakes, технология, която позволява създаването на реалистични изображения на лица, гласове и други характеристики, може да бъде от полза за изкуството, забавлението и образованието.
Какво е Deepfake?
Терминът „deepfake“ е технологичен процес, който създава много реалистична синтетична медия, обикновено под формата на звуци, снимки или видеоклипове, използвайки изкуствен интелект (AI), по-специално алгоритми за дълбоко обучение и генериращи състезателни мрежи (GAN). Deepfakes са в състояние да произвеждат изцяло нова и често подвеждаща информация чрез манипулиране или наслагване на съществуващо визуално и аудио съдържание, благодарение на обучението на тези алгоритми върху големи набори от данни.
С използването на тази технология лица, гласове и други отличителни черти могат да бъдат безпроблемно променени, за да се създадат реалистични изображения, които могат да бъдат трудни за разпознаване от оригинален материал. Deepfakes са полезни за изкуството, забавлението и образованието, но също така представляват сериозен риск за разпространение на невярна информация, нарушаване на поверителността и може би да бъдат използвани за дискредитиране на хора.
Снимка: Vimeo
С нарастващата популярност на технологията deepfake се появяват повече платформи за създаване на тези променени видеоклипове и изображения. По-долу е даден списък с популярни платформи за deepfake, които демонстрират обхвата на тази технология, от проста смяна на лица в GIF файлове до усъвършенствана видео манипулация, отразявайки гъвкавостта и потенциалните употреби на deepfake.
FaceApp
Известно със своите функции за трансформация на лицето, FaceApp позволява на потребителите да прилагат различни филтри, за да променят външния си вид, като например стареене или смяна на пола, предлагайки удобен за потребителя интерфейс.
ZAO
Китайско приложение за deepfake, което привлече вниманието със способността си да заменя лица във видеоклипове бързо и с висока точност. ZAO предоставя на потребителите прости инструменти за създаване на персонализирани deepfakes.
Прегледайте
Мобилно приложение, създадено за размяна на лица в кратки видеоклипове и GIF файлове. Reface предлага широка гама от съдържание, включително популярни филмови сцени и изображения на знаменитости, което улеснява създаването на забавно съдържание.
DeepFaceLab
По-усъвършенствана платформа за създаване на deepfake, DeepFaceLab е с отворен код и е предназначена за опитни потребители, които искат да създават сложни deepfake проекти. Позволява детайлно манипулиране на лица във видеоклипове.
Умбо
Специализиран в синхронизирането на устни, Wombo позволява на потребителите да създават видеоклипове, в които лицата са анимирани да пеят или говорят. Тази платформа се използва широко за създаване на хумористично и забавно съдържание.
Deepfakes Web
Уеб базирана услуга, Deepfakes Web е проектирана за лесна употреба. Потребителите могат да качват видеоклипове и изображения, за да генерират дълбоко фалшиво съдържание, без да се нуждаят от напреднали технически умения.
Студио Deepfake
Изчерпателна платформа за създаване на deepfake видеоклипове, Deepfake Studio предлага разнообразие от инструменти за размяна на лица и манипулиране на видео съдържание. Обслужва както начинаещи, така и по-опитни потребители.
Представляват ли Deepfakes риск?
Наистина е доста лесно да се получи технологията, необходима за генериране на дълбоки фалшификати, и има голям шанс тя да бъде злоупотребена за дезинформация, политическа дезинформация, имитация на социални медии и престъпност. Заплашващите лица и други престъпници могат да използват този неверен материал, наред с други неща, за да изфабрикуват истории, да заплашват хора или да се представят за добре познати хора, за да извършат измама или да навредят на репутацията на хората.
Практически случаи на злонамерени Deepfakes
Том Круз Deepfake
Deepfake видеоклиповете на Том Круз в TikTok са сред най-известните и завладяващи случаи на изкуствено произведени медии. Милиони хора гледаха тези видеоклипове, които показват визата на Круз, прецизно поставена върху тялото на друг човек, за да създадат обезпокоително реалистично съдържание.
PSA на Обама с Джордан Пийл
Режисьорът и комик Джордан Пийл си сътрудничи с BuzzFeed, за да продуцира видео, в което озвучава бившия президент Барак Обама. Deepfake подчерта възможните рискове в политическата сфера, като демонстрира колко лесно е да се произвеждат фалшиви материали с помощта на изкуствени медии.
Марк Зукърбърг Deepfake като социален коментар
Видеото на изпълнителния директор на Facebook Марк Зукърбърг е направено от художника Бил Постърс, за да демонстрира колко лесно могат да бъдат експлоатирани социалните медии. В deepfake Зукърбърг говори за собствеността на Facebook върху потребителските данни, като насочи вниманието към спора относно управлението на подвеждащи материали от компанията.
Крипто измами
Deepfakes също се използват широко в крипто пространството. Например на 7 февруари 2024 г. страницата CertiKSkynetAlert в Twitter публикува предупреждение за измама с deepfake на Виталик Бутерин:
Има ли някакви начини да спрете използването на Deepfakes?
Технологии, които могат да идентифицират deepfakes или да позволят проверка на реални материали, могат да се използват за противодействие на злонамерени deepfakes. Фалшивите медии могат да бъдат разпознати чрез технология за откриване, без да е необходимо сравнение с оригиналния, непроменен материал. Машинното обучение е вид AI, който често се използва от тези технологии. За обучение на алгоритмите се използват данни от реномирани действителни и измамни медийни източници. Сред техниките са нередности в лицето или гласа, признаци на процеса на създаване на deepfake и вариации в цвета.
Отказ от отговорност
В съответствие с Доверете се насоките на проекта, моля, имайте предвид, че предоставената на тази страница информация не е предназначена да бъде и не трябва да се тълкува като правен, данъчен, инвестиционен, финансов или каквато и да е друга форма на съвет. Важно е да инвестирате само това, което можете да си позволите да загубите, и да потърсите независим финансов съвет, ако имате някакви съмнения. За допълнителна информация предлагаме да се обърнете към правилата и условията, както и към страниците за помощ и поддръжка, предоставени от издателя или рекламодателя. MetaversePost се ангажира с точно, безпристрастно отчитане, но пазарните условия подлежат на промяна без предизвестие.
За автора
Виктория е писател по различни технологични теми, включително Web3.0, AI и криптовалути. Нейният богат опит й позволява да пише проницателни статии за по-широка аудитория.
Още статииВиктория е писател по различни технологични теми, включително Web3.0, AI и криптовалути. Нейният богат опит й позволява да пише проницателни статии за по-широка аудитория.