Стэнфорд утверждает, что модели искусственного интеллекта, генерирующие изображения, обучаются на явных дочерних изображениях
Коротко
Популярные инструменты искусственного интеллекта для преобразования текста в изображения, в том числе Stable Diffusion, проходят обучение на тысячах изображений сексуального насилия над детьми.
Популярное преобразование текста в изображение генеративный ИИ инструменты, в том числе Stable Diffusion от Stability AI Согласно отчету Стэнфордской интернет-обсерватории, их обучают на тысячах изображений сексуального насилия над детьми.
В отчете добавлено, что эти изображения способствуют созданию реалистичного откровенного контента с участием фальшивых детей и превращению одетых подростков в обнаженные изображения, что призывает к немедленным действиям со стороны компаний, стоящих за такими инструментами.
Расследование Стэнфордской интернет-обсерватории сосредоточилось на База данных ЛАИОН, огромный репозиторий онлайн-изображений и подписей, используемых ведущими Имиджмейкеры с искусственным интеллектом такое как Stable Diffusion, для обучения моделей ИИ.
Прежде чем проверить инструменты искусственного интеллекта, генерирующие изображения, исследователи считали, что инструменты искусственного интеллекта создают оскорбительные изображения детей, комбинируя информацию из порнографии для взрослых и безобидных детских фотографий. Однако выводы Обсерватории представляют собой тревожный поворот: в наборе данных LAION обнаружено более 3,200 изображений предполагаемого сексуального насилия над детьми.
Хотя LAION быстро отреагировал на сообщение, временно удалив свои наборы данных, последствия этих изображений имеют далеко идущие последствия. Хотя они составляют лишь небольшую часть обширного индекса LAION, состоящего из 5.8 миллиардов изображений, Стэнфордская группа утверждает, что они, вероятно, влияют на способность Инструменты AI генерировать вредные результаты.
Важным игроком в разработке базы данных LAION является Stability AI, лондонский стартап, ответственный за формирование набора данных. В отчете подчеркивается, что более старая версия их Stable Diffusion Модель, представленная в прошлом году, до сих пор присутствует в различных приложениях в качестве основного источника для создания явных изображений.
Несмотря на то, что Stability AI утверждает, что размещает только отфильтрованные версии и предпринял шаги по предотвращению злоупотреблений, проблема заключается в повсеместном распространении старой модели.
Генеративное развертывание ИИ требует тщательной проверки
По мнению Дэвида Тиля, главного технолога Стэнфордской интернет-обсерватории, суть проблемы кроется в быстром внедрении на рынок многих проектов генеративного ИИ.
Тиль отмечает, что эти проекты часто становились широко доступными из-за острой конкуренции в этой области без необходимого пристального внимания на этапе разработки.
Исследователи из Стэнфорда выступают за решительные меры для эффективного решения этой проблемы. Рекомендации включают удаление или очистку обучающих наборов, полученных из LAION-5B, и создание более старой версии. Stable Diffusion менее доступны.
Однако сложность ретроактивной очистки данных представляет собой серьезную проблему, что побуждает к сотрудничеству с экспертами по безопасности детей во время разработки Базы данных ИИ.
Школы и правоохранительные органы по всему миру выражают тревогу по поводу потенциальных последствий этих выводов. Индустрия искусственного интеллекта срочно обратить внимание и исправить вредные недостатки в их технологии.
Отказ от ответственности
В соответствии с Руководство трастового проектаОбратите внимание, что информация, представленная на этой странице, не предназначена и не должна интерпретироваться как юридическая, налоговая, инвестиционная, финансовая или любая другая форма консультации. Важно инвестировать только то, что вы можете позволить себе потерять, и обращаться за независимой финансовой консультацией, если у вас есть какие-либо сомнения. Для получения дополнительной информации мы предлагаем обратиться к положениям и условиям, а также к страницам справки и поддержки, предоставленным эмитентом или рекламодателем. MetaversePost стремится предоставлять точную и объективную отчетность, однако рыночные условия могут быть изменены без предварительного уведомления.
Об авторе
Кумар — опытный технический журналист, специализирующийся на динамических пересечениях искусственного интеллекта и машинного обучения, маркетинговых технологий и новых областях, таких как криптография, блокчейн и NFTс. Имея более чем трехлетний опыт работы в отрасли, Кумар зарекомендовал себя в создании убедительных повествований, проведении содержательных интервью и предоставлении всеобъемлющей информации. Опыт Кумара заключается в создании эффективного контента, включая статьи, отчеты и исследовательские публикации для известных отраслевых платформ. Обладая уникальным набором навыков, сочетающим в себе технические знания и умение рассказывать истории, Кумар преуспевает в ясной и увлекательной передаче сложных технологических концепций разнообразной аудитории.
Другие статьи
Кумар — опытный технический журналист, специализирующийся на динамических пересечениях искусственного интеллекта и машинного обучения, маркетинговых технологий и новых областях, таких как криптография, блокчейн и NFTс. Имея более чем трехлетний опыт работы в отрасли, Кумар зарекомендовал себя в создании убедительных повествований, проведении содержательных интервью и предоставлении всеобъемлющей информации. Опыт Кумара заключается в создании эффективного контента, включая статьи, отчеты и исследовательские публикации для известных отраслевых платформ. Обладая уникальным набором навыков, сочетающим в себе технические знания и умение рассказывать истории, Кумар преуспевает в ясной и увлекательной передаче сложных технологических концепций разнообразной аудитории.
