OpenAI По слухам, разрабатывается джейлбрейк-GAN для нейтрализации оперативных хакеров
Коротко
OpenAI разрабатывает новую систему на основе искусственного интеллекта для защиты от «быстрых хакеров» с многоступенчатой стратегия джейлбрейка.
Jailbreak GAN может обнаруживать угрозы и противостоять им до того, как они станут серьезной проблемой, и может использоваться для создания эффективных систем безопасности.
OpenAI реализует новый проект, который может произвести революцию в мире безопасности данных. Научно-исследовательская компания разрабатывает новую систему на основе искусственного интеллекта для защиты от «быстрых хакеров» — хакеров, которые используют интеллектуальный анализ данных и другие методы для использования слабых мест различных онлайн-систем, таких как ChatGPT. Система, получившая название «Jailbreak GAN», использует генеративно-состязательную сеть (GAN) для создания новых мер противодействия потенциальным атакам.
GAN — это форма техники искусственного интеллекта, которая противопоставляет две сети друг другу: «генератор», который создает данные, которые «дискриминатор» пытается идентифицировать. Благодаря этому соревнованию GAN могут моделировать невероятно сложные среды, которые можно использовать для изучения широкого спектра явлений.
В случае Jailbreak GAN дискриминатор использует различные методы для обнаружения попыток взлома и запуска контрмер. Генератор обучается на ряде различных наборов данных, чатов, баз данных и облачных журналов, чтобы разработать различные меры противодействия переадресации. потенциальная подсказка хакеры.
Команда OpenAI пытается решить задачу быстрого взлома с помощью многоэтапного стратегия джейлбрейка. Этот подход использует комбинацию обработки естественного языка, алгоритмов машинного обучения и методов обучения с подкреплением для выявления потенциальных уязвимостей и разработки упреждающих решений. Затем компонент GAN отвечает за оценку мер противодействия и их постоянное обновление при каждой новой атаке.
Jailbreak GAN может обнаруживать существующие и будущие угрозы до того, как они станут серьезные проблемы. По мере развития технологии ее можно будет использовать для формирования основы эффективных систем безопасности в онлайн-системах, подобно антивирусу или другому защитному программному обеспечению.
Команда еще не сообщила, что она успешно протестировала способность системы обнаруживать и противодействовать конкретным попыткам взлома, и в настоящее время изучает способы ее развертывания в реальных условиях. Также неизвестно, OpenAI сотрудничает с фирмами по обеспечению безопасности и корпоративными партнерами для развертывания системы GAN для взлома в безопасной среде.
Недавно исследователи из Гонконгского университета науки и технологий опубликовали статью «Многоступенчатые джейлбрейк-атаки на конфиденциальность ChatGPT», в котором систематически описывали все возможные атаки. И это не просто банальное режим ДАН но и режим разработчика: способы вывода модели через цепочку рассуждений и т. д.
- Два месяца назад пользователи Reddit общие подсказки о побеге из тюрьмы для разблокировки ChatGPT Режим разработчика и активация на 100% полностью featured обход фильтров.
Подробнее об ИИ:
Отказ от ответственности
В соответствии с Руководство трастового проектаОбратите внимание, что информация, представленная на этой странице, не предназначена и не должна интерпретироваться как юридическая, налоговая, инвестиционная, финансовая или любая другая форма консультации. Важно инвестировать только то, что вы можете позволить себе потерять, и обращаться за независимой финансовой консультацией, если у вас есть какие-либо сомнения. Для получения дополнительной информации мы предлагаем обратиться к положениям и условиям, а также к страницам справки и поддержки, предоставленным эмитентом или рекламодателем. MetaversePost стремится предоставлять точную и объективную отчетность, однако рыночные условия могут быть изменены без предварительного уведомления.
Об авторе
Дамир — руководитель группы, менеджер по продукту и редактор в Metaverse Post, охватывающие такие темы, как AI/ML, AGI, LLM, Metaverse и Web3-связанные поля. Его статьи ежемесячно привлекают огромную аудиторию, насчитывающую более миллиона пользователей. Похоже, он эксперт с 10-летним опытом работы в области SEO и цифрового маркетинга. Дамир упоминается в Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto и другие издания. Он путешествует между ОАЭ, Турцией, Россией и СНГ в качестве цифрового кочевника. Дамир получил степень бакалавра в области физики, что, по его мнению, дало ему навыки критического мышления, необходимые для достижения успеха в постоянно меняющемся мире Интернета.
Другие статьи
Дамир — руководитель группы, менеджер по продукту и редактор в Metaverse Post, охватывающие такие темы, как AI/ML, AGI, LLM, Metaverse и Web3-связанные поля. Его статьи ежемесячно привлекают огромную аудиторию, насчитывающую более миллиона пользователей. Похоже, он эксперт с 10-летним опытом работы в области SEO и цифрового маркетинга. Дамир упоминается в Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto и другие издания. Он путешествует между ОАЭ, Турцией, Россией и СНГ в качестве цифрового кочевника. Дамир получил степень бакалавра в области физики, что, по его мнению, дало ему навыки критического мышления, необходимые для достижения успеха в постоянно меняющемся мире Интернета.
