DALL-E 3: санация искусства и культуры посредством цензуры контента
Эволюция DALL-E 3 указывает на тщательная тонкая настройка этой генеративной модели ИИ. Хотя мы видели подобные изменения в прошлом, такие как Midjourneyтщательная подготовка, изменения, происходящие внутри DALL-E заметно более глубокие.
DALL-E 3, кажется, отклоняется от определенных тем. Он уклоняется от создания контента, связанного с гендером, и при упоминании «крови» пытается творчески превратиться в яркую радугу. Любой намек на насилие вызывает полную перерисовку изображения, предполагающую глубокий анализ его вывода. Похоже, что модель даже заменяет контент для взрослых изображениями древнего искусства, сохраняя при этом цензурный подход.
В чем-то это напоминает нам классический анекдот, в котором предмет существует, но его имя остается невыразимым. DALL-E 3, похоже, совершает аналогичный подвиг, творчески уклоняясь от деликатных тем.
Команда OpenAI сталкивается с огромной проблемой — сыграть роль фактических богов в сфере ИИ. Их задача сродни попытке сформировать и контролировать саму суть культуры, сложного и глубоко укоренившегося аспекта человеческого существования, охватывающего столетия и часто переплетающегося с религией.
Тема культуры обширна и многогранна, и сейчас мы сосредоточимся на современном культурном ландшафте. Стоит задуматься о распространенных темах в нашей существующей культуре, которые часто включают элементы насилия, наготы, сексуальности и черного юмора. Фильмы, искусство и литература часто погружаются в эти сферы, отражая богатое разнообразие человеческого самовыражения.
OpenAIОднако, судя по всему, он идет другим путем — так сказать, закрывая глаза, пытаясь заблокировать определенные аспекты культуры. Как будто они пытаются действовать так, как будто этих элементов не существует. Похоже, они создают ИИ, который воспринимает изображения и текст довольно очищенным образом, лишенным глубины и сложности человеческой культуры.
На первый взгляд можно было бы предположить, что OpenAI стремится создать новую, очищенную культуру. Однако, если мы углубимся в эту тему, станет ясно, что их цель – не перекроить культуру, а скорее отрицать его существование. Как будто они хотят, чтобы эти изображения и тексты были простыми визуальными стимулами, лишенными какого-либо существенного эмоционального или заставляющего задуматься содержания.
Обоснование этого подхода, вероятно, связано с проблемой управления эмоциями в контенте, создаваемом ИИ. Эмоции требуют признания, прогнозирования, а иногда и ограничений. Это сложная и этически чреватая попытка ориентироваться в спектре человеческих эмоций, особенно когда речь идет о таких деликатных темах, как нагота или насилие.
Жуткие предсказания Станислава Лема
Станислав Лем, дальновидный автор «Возвращение со звезд», похоже, предвидел этическую загадку, которая сегодня поражает область ИИ. В своем романе Лем изобразил мир, в котором агрессия была искоренена с помощью прививок, что привело к непредвиденным последствиям. Вот пара цитат из книга изучить, как они резонируют с текущим дискурсом о «согласовании» генеративных моделей ИИ.
В одном из отрывков Лем пишет: «Посмотрите пару мелодрам, и вы поймете, каковы нынешние критерии эротического выбора. Самое главное – молодость». Это устрашающе отражает одержимость современного общества молодостью и красотой. В мире искусственного интеллекта модели часто стремятся к очищенному и нестареющему контенту, избегая всего, что может вызвать сильные эмоции. Устранение риска, как упомянуто в цитате, отражает осторожный подход, используемый при разработке ИИ, чтобы гарантировать, что модели не будут давать оскорбительные или противоречивые результаты.
Лем продолжает: «Теперь трагедий больше нет. Нет даже шанса на их существование. Мы устранили ад страстей, и тогда оказалось, что вместе с ним исчез и рай». Это заявление проводит параллели с этическими проблемами, с которыми сталкиваются создатели ИИ. Стремясь устранить вредные или нежелательные результаты, они рискуют гомогенизировать контент до такой степени, что ему не хватает глубины и эмоционального резонанса.
В другом отрывке Лем затрагивает упадок атлетизма в своем воображаемом будущем. Он описывает, как исчезли такие виды спорта, как бокс и классическая борьба, их заменили более мягкие формы физической активности. Эта трансформация отражает очистку контента в моделях ИИ. Точно так же, как интенсивные виды спорта были заменены менее конфронтационной деятельностью, модели ИИ могут отдавать предпочтение созданию безобидного контента над творческими и заставляющими задуматься продуктами.
Слова Лема звучат как предостерегающая история для сообщества ИИ. Желание привести системы искусственного интеллекта в соответствие с общественными ценностями имеет важное значение, но оно также поднимает вопросы о потенциальной потере художественного выражения, риска и эмоциональной глубины в контенте, создаваемом искусственным интеллектом. Преодолевая сложности согласования ИИ с человеческими ценностями, мы должны найти баланс, который сохранит богатство человеческой культуры и творчества.
Отказ от ответственности
В соответствии с Руководство трастового проектаОбратите внимание, что информация, представленная на этой странице, не предназначена и не должна интерпретироваться как юридическая, налоговая, инвестиционная, финансовая или любая другая форма консультации. Важно инвестировать только то, что вы можете позволить себе потерять, и обращаться за независимой финансовой консультацией, если у вас есть какие-либо сомнения. Для получения дополнительной информации мы предлагаем обратиться к положениям и условиям, а также к страницам справки и поддержки, предоставленным эмитентом или рекламодателем. MetaversePost стремится предоставлять точную и объективную отчетность, однако рыночные условия могут быть изменены без предварительного уведомления.
Об авторе
Дамир — руководитель группы, менеджер по продукту и редактор в Metaverse Post, охватывающие такие темы, как AI/ML, AGI, LLM, Metaverse и Web3-связанные поля. Его статьи ежемесячно привлекают огромную аудиторию, насчитывающую более миллиона пользователей. Похоже, он эксперт с 10-летним опытом работы в области SEO и цифрового маркетинга. Дамир упоминается в Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto и другие издания. Он путешествует между ОАЭ, Турцией, Россией и СНГ в качестве цифрового кочевника. Дамир получил степень бакалавра в области физики, что, по его мнению, дало ему навыки критического мышления, необходимые для достижения успеха в постоянно меняющемся мире Интернета.
Другие статьи
Дамир — руководитель группы, менеджер по продукту и редактор в Metaverse Post, охватывающие такие темы, как AI/ML, AGI, LLM, Metaverse и Web3-связанные поля. Его статьи ежемесячно привлекают огромную аудиторию, насчитывающую более миллиона пользователей. Похоже, он эксперт с 10-летним опытом работы в области SEO и цифрового маркетинга. Дамир упоминается в Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto и другие издания. Он путешествует между ОАЭ, Турцией, Россией и СНГ в качестве цифрового кочевника. Дамир получил степень бакалавра в области физики, что, по его мнению, дало ему навыки критического мышления, необходимые для достижения успеха в постоянно меняющемся мире Интернета.
