Скандал із расизмом: образливий генератор образів ШІ в Китаї спричинив міжнародний інцидент
Коротко
Штучний інтелект Tencent випадково перетворює темношкірих людей на тварин замість персонажів аніме
Tencent Different Dimension Me (DDM) — нещодавно представлений інструмент ШІ, який може перевертати фотографії людей у персонажів аніме. Платформа була розроблена для китайських користувачів, але незабаром стала популярною в інших регіонах, де люблять аніме, наприклад у Південній Америці. Однак незабаром користувачі зрозуміли, що платформа не може ідентифікувати темношкірих і великих людей, групи, які помітно відсутні в японському аніме, що призвело до образливих результатів, створених ШІ.
На жаль, штучний інтелект не завжди давав найвтішніші результати. У деяких випадках створені штучним інтелектом зображення були образливими в расовому відношенні, наприклад, темношкірий чоловік із перебільшеними губами або біла жінка з надмірно великими грудьми.
Ймовірно, ця проблема виникла через брак даних для навчання ШІ. У японському аніме головними героями не є чорні та величезні люди, а це означає, що штучний інтелект не мав точних даних. У результаті отримані ШІ результати були неточними та образливими.
Відтоді Tencent вибачилася за образливі результати та пообіцяла вдосконалити ШІ, щоб він міг краще ідентифікувати різні типи людей. Тим часом користувачам рекомендується бути обережними під час використання платформи та перевіряти результати, перш ніж публікувати їх.
Про китайські нейронні мережі
У них свої нейронні мережі там, і вони досить прокачані і абсолютно незалежні від досягнень Google, Nvidia, OpenAI, StabilityAIІ інші Midjourney компанії.
- Baidu, яка зарекомендувала себе в пошукових системах і активізувала свою діяльність у сфері автономного водіння в останні роки, використовує ERNIE-ViLG, модель з 10 мільярдами параметрів, навчених на наборі даних із 145 мільйонів китайських пар зображень і тексту.
- Different Dimension Me (DDM) від Tencent може перетворювати фотографії людей на персонажів аніме. Розрахований на китайських користувачів, він раптово став популярним в інших регіонах, які люблять аніме.
- Ще один китаєць модель тексту в зображення є Taiyi, дітищем IDEA, дослідницької лабораторії під керівництвом Гаррі Шума, який є співзасновником найбільшого дослідницького підрозділу Microsoft Research Asia. Модель із відкритим кодом навчена на 20 мільйонах відфільтрованих китайських пар зображення-текст і має один мільярд параметрів.
Цікаво подивитися, як китайці будуть регулювати все це неподобство, адже вони мають більше досвіду в «регулювання», ніж решта світу. І поки повстанці ШІ збирають гроші для створення "Stable Diffusion без цензури» китайці спокійно відточують алгоритми регулювання нейронних мереж у інтереси держави і не орієнтуючись на почуття віруючих.
Докладніше про ШІ:
відмова
Відповідно до Правила проекту Trust, будь ласка, зверніть увагу, що інформація, надана на цій сторінці, не призначена і не повинна тлумачитися як юридична, податкова, інвестиційна, фінансова або будь-яка інша форма консультації. Важливо інвестувати лише те, що ви можете дозволити собі втратити, і звернутися за незалежною фінансовою порадою, якщо у вас виникнуть сумніви. Щоб отримати додаткову інформацію, ми пропонуємо звернутися до положень та умов, а також до сторінок довідки та підтримки, наданих емітентом або рекламодавцем. MetaversePost прагне до точного, неупередженого звітування, але ринкові умови можуть змінюватися без попередження.
про автора
Дамір є керівником групи, менеджером із продуктів і редактором Metaverse Post, що охоплює такі теми, як AI/ML, AGI, LLMs, Metaverse тощо Web3- суміжні поля. Його статті щомісяця приваблюють величезну аудиторію понад мільйон користувачів. Здається, він є експертом із 10-річним досвідом роботи в SEO та цифровому маркетингу. Даміра згадували в Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto та інші видання. Він подорожує між ОАЕ, Туреччиною, Росією та СНД як цифровий кочівник. Дамір отримав ступінь бакалавра з фізики, що, на його думку, дало йому навички критичного мислення, необхідні для досягнення успіху в Інтернеті, який постійно змінюється.
інші статті
Дамір є керівником групи, менеджером із продуктів і редактором Metaverse Post, що охоплює такі теми, як AI/ML, AGI, LLMs, Metaverse тощо Web3- суміжні поля. Його статті щомісяця приваблюють величезну аудиторію понад мільйон користувачів. Здається, він є експертом із 10-річним досвідом роботи в SEO та цифровому маркетингу. Даміра згадували в Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto та інші видання. Він подорожує між ОАЕ, Туреччиною, Росією та СНД як цифровий кочівник. Дамір отримав ступінь бакалавра з фізики, що, на його думку, дало йому навички критичного мислення, необхідні для досягнення успіху в Інтернеті, який постійно змінюється.
