Скандал с расизмом: генератор агрессивных изображений искусственного интеллекта в Китае вызывает международный инцидент
Коротко
ИИ Tencent случайно превращает чернокожих в животных вместо аниме-персонажей
Компания Tencent Another Dimension Me (DDM) — это недавно представленный инструмент искусственного интеллекта, который может перевернуть фотографии людей в персонажей аниме. Платформа была разработана для китайских пользователей, но вскоре стала популярной и в других регионах, где любят аниме, например в Южной Америке. Однако вскоре пользователи поняли, что платформа не может идентифицировать чернокожих и людей больших размеров, групп, которые явно отсутствуют в японском аниме, что привело к оскорбительным результатам, сгенерированным ИИ.
К сожалению, ИИ не всегда давал самые лестные результаты. В некоторых случаях изображения, сгенерированные ИИ, были расово оскорбительными, например, чернокожий мужчина с преувеличенными губами или белая женщина с чрезмерно большой грудью.
Эта проблема, вероятно, была связана с отсутствием данных для обучения ИИ. В японском аниме главными героями обычно не являются чернокожие и огромные люди, а это означает, что у ИИ не было точных данных, на которых можно было бы учиться. В результате результаты, сгенерированные ИИ, были неточными и оскорбительными.
С тех пор Tencent извинилась за оскорбительные результаты и пообещала улучшить ИИ, чтобы он мог лучше идентифицировать разные типы людей. А пока пользователям рекомендуется быть осторожными при использовании платформы и проверять результаты, прежде чем публиковать их публично.
О китайских нейронных сетях
У них есть свои нейронные сети там, и они вполне прокачаны и совершенно независимы от достижений Google, Nvidia, OpenAI, StabilityAIИ других Midjourney компании.
- Baidu, зарекомендовавшая себя в поисковых системах и активизировавшая в последние годы свою деятельность в области автономного вождения, использует ERNIE-ViLG — модель с 10 миллиардами параметров, обученную на наборе данных из 145 миллионов китайских пар изображений и текста.
- Другое измерение меня (DDM) от Tencent может превращать фотографии людей в персонажей аниме. Нацеленный на китайских пользователей, он внезапно стал популярным в других регионах, где любят аниме.
- Другой китаец модель преобразования текста в изображение — это Taiyi, детище IDEA, исследовательской лаборатории, возглавляемой Гарри Шамом, соучредителем крупнейшего исследовательского подразделения Microsoft Research Asia. Модель с открытым исходным кодом обучена на 20 миллионах отфильтрованных китайских пар изображение-текст и имеет один миллиард параметров.
Любопытно посмотреть, как китайцы будут регулировать все это безобразие, потому что у них больше опыта в «регулированиечем остальной мир. И пока повстанцы искусственного интеллекта собирают деньги на создание «Stable Diffusion без цензуры», китайцы спокойно оттачивают алгоритмы регулирования нейросетей в интересы государства и не ориентируясь на чувства верующих.
Подробнее об ИИ:
Отказ от ответственности
В соответствии с Руководство трастового проектаОбратите внимание, что информация, представленная на этой странице, не предназначена и не должна интерпретироваться как юридическая, налоговая, инвестиционная, финансовая или любая другая форма консультации. Важно инвестировать только то, что вы можете позволить себе потерять, и обращаться за независимой финансовой консультацией, если у вас есть какие-либо сомнения. Для получения дополнительной информации мы предлагаем обратиться к положениям и условиям, а также к страницам справки и поддержки, предоставленным эмитентом или рекламодателем. MetaversePost стремится предоставлять точную и объективную отчетность, однако рыночные условия могут быть изменены без предварительного уведомления.
Об авторе
Дамир — руководитель группы, менеджер по продукту и редактор в Metaverse Post, охватывающие такие темы, как AI/ML, AGI, LLM, Metaverse и Web3-связанные поля. Его статьи ежемесячно привлекают огромную аудиторию, насчитывающую более миллиона пользователей. Похоже, он эксперт с 10-летним опытом работы в области SEO и цифрового маркетинга. Дамир упоминается в Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto и другие издания. Он путешествует между ОАЭ, Турцией, Россией и СНГ в качестве цифрового кочевника. Дамир получил степень бакалавра в области физики, что, по его мнению, дало ему навыки критического мышления, необходимые для достижения успеха в постоянно меняющемся мире Интернета.
Другие статьи
Дамир — руководитель группы, менеджер по продукту и редактор в Metaverse Post, охватывающие такие темы, как AI/ML, AGI, LLM, Metaverse и Web3-связанные поля. Его статьи ежемесячно привлекают огромную аудиторию, насчитывающую более миллиона пользователей. Похоже, он эксперт с 10-летним опытом работы в области SEO и цифрового маркетинга. Дамир упоминается в Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto и другие издания. Он путешествует между ОАЭ, Турцией, Россией и СНГ в качестве цифрового кочевника. Дамир получил степень бакалавра в области физики, что, по его мнению, дало ему навыки критического мышления, необходимые для достижения успеха в постоянно меняющемся мире Интернета.
