Protect AI сообщает о критических уязвимостях в существующих системах искусственного интеллекта и машинного обучения и призывает обеспечить безопасность проектов с открытым исходным кодом
Коротко
Отчет Protect AI выявляет уязвимости в инструментах, используемых в цепочке поставок AI/ML, часто с открытым исходным кодом, с уникальными угрозами безопасности.
Согласно отчету Protect AI, в инструментах, используемых в цепочке поставок искусственного интеллекта и машинного обучения (часто с открытым исходным кодом), существуют уязвимости, которые несут уникальные угрозы безопасности, и эти уязвимости создают риски неаутентифицированного удаленного выполнения кода и включения локальных файлов. информационной безопасности компания, специализирующаяся на системах искусственного интеллекта и машинного обучения.
Это может привести к самым разным последствиям: от захвата серверов до кражи конфиденциальной информации, говорится в отчете.
В отчете также подчеркивается необходимость активного подхода к выявлению и устранению этих уязвимостей для защиты данных, моделей и учетных данных.
В авангарде усилий Protect AI находится Hunter, первая в мире программа вознаграждения за ошибки AI/ML, в которой участвует сообщество из более чем 13,000 XNUMX участников, активно ищущих уязвимости. Эта инициатива направлена на предоставление важной информации о потенциальных угрозах и содействие быстрому реагированию на безопасность систем искусственного интеллекта.
В августе 2023 года компания объявила о запуске Hunter — платформы для поиска ошибок AI/ML, ориентированной исключительно на защиту программного обеспечения AI/ML с открытым исходным кодом (OSS). фундаментальные моделии системы машинного обучения. Запуск платформы по поиску ошибок Hunter AI/ML стал результатом приобретения Hunter.dev компанией Protect AI.
«Насчитывая сейчас более 15,000 XNUMX участников, Protect AI’s Hunter представляет собой крупнейшую и наиболее концентрированную группу исследователей угроз и хакеров, специализирующихся исключительно на безопасности AI/ML», — Дариан Дехганпише, президент и соучредитель Protect AI.
«Операционная модель Huntr ориентирована на простоту, прозрачность и вознаграждение. Автоматизированные функции и опыт Protect AI в сортировке угроз для сопровождающих помогают всем разработчикам программного обеспечения с открытым исходным кодом в сфере ИИ создавать более безопасные программные пакеты. В конечном итоге это принесет пользу всем пользователям, поскольку системы искусственного интеллекта станут более безопасными и устойчивыми», — добавил Дехганпише.
В отчете указаны критические уязвимости
Подчеркивая выводы сообщества охотников за последний месяц, в отчете указаны три критические уязвимости, в том числе удаленное выполнение кода MLflow, перезапись произвольного файла MLflow и включение локального файла MLflow.
- Удаленное выполнение кода MLflow. Уязвимость приводит к захвату сервера и потере конфиденциальной информации. MLflow, инструмент для хранения и отслеживания моделей, имел уязвимость удаленного выполнения кода в коде, используемом для отключения удаленного хранилища данных. Пользователей можно обмануть, заставив использовать вредоносные удаленные источники данных, которые могут выполнять команды от имени пользователя.
- Произвольная перезапись файла MLflow: уязвимость может привести к захвату системы, отказу в обслуживании и уничтожению данных. Обнаружен обходной путь в функции MLflow, который проверяет безопасность пути к файлу, что позволяет злоумышленнику удаленно перезаписывать файлы на сервере MLflow. Это может привести к удаленному выполнению кода с дополнительными действиями, такими как перезапись ключей SSH в системе или редактирование файла .bashrc для запуска произвольных команд при следующем входе пользователя в систему.
- Включение локального файла MLflow. Ошибка приводит к потере конфиденциальной информации и потенциальному захвату системы. MLflow, размещенный в определенных операционных системах, можно манипулировать для отображения содержимого конфиденциальных файлов, что создает потенциальную возможность для захвата системы, если важные учетные данные хранятся на сервере.
Об этом рассказал сооснователь Protect AI Дарьян Дехганпише. Metaverse Post«Срочность устранения уязвимостей систем искусственного интеллекта и машинного обучения зависит от их влияния на бизнес. Учитывая решающую роль искусственного интеллекта и машинного обучения в современном бизнесе, а также серьезный характер потенциальных атак, большинство организаций сочтут эту актуальность очень важной. Основная задача в обеспечении безопасности систем AI/ML заключается в понимании рисков на протяжении всего жизненного цикла MLOps».
«Чтобы снизить эти риски, компании должны провести моделирование угроз для своих систем искусственного интеллекта и машинного обучения, определить окна риска и внедрить подходящие средства контроля в рамках интегрированной и комплексной программы MLSecOps», — добавил он.
В своем отчете Protect AI подчеркивает безотлагательность решения этих проблем. уязвимости оперативно и предоставляет список рекомендаций для пользователей, чьи затронутые проекты находятся в производстве, подчеркивая важность активной позиции в снижении потенциальных рисков. Пользователям, сталкивающимся с проблемами устранения этих уязвимостей, рекомендуется обратиться к сообществу Protect AI.
По мере развития технологий искусственного интеллекта Protect AI работает над защитой сложной сети систем искусственного интеллекта и машинного обучения, чтобы обеспечить ответственное и безопасное использование преимуществ искусственного интеллекта.
Отказ от ответственности
В соответствии с Руководство трастового проектаОбратите внимание, что информация, представленная на этой странице, не предназначена и не должна интерпретироваться как юридическая, налоговая, инвестиционная, финансовая или любая другая форма консультации. Важно инвестировать только то, что вы можете позволить себе потерять, и обращаться за независимой финансовой консультацией, если у вас есть какие-либо сомнения. Для получения дополнительной информации мы предлагаем обратиться к положениям и условиям, а также к страницам справки и поддержки, предоставленным эмитентом или рекламодателем. MetaversePost стремится предоставлять точную и объективную отчетность, однако рыночные условия могут быть изменены без предварительного уведомления.
Об авторе
Кумар — опытный технический журналист, специализирующийся на динамических пересечениях искусственного интеллекта и машинного обучения, маркетинговых технологий и новых областях, таких как криптография, блокчейн и NFTс. Имея более чем трехлетний опыт работы в отрасли, Кумар зарекомендовал себя в создании убедительных повествований, проведении содержательных интервью и предоставлении всеобъемлющей информации. Опыт Кумара заключается в создании эффективного контента, включая статьи, отчеты и исследовательские публикации для известных отраслевых платформ. Обладая уникальным набором навыков, сочетающим в себе технические знания и умение рассказывать истории, Кумар преуспевает в ясной и увлекательной передаче сложных технологических концепций разнообразной аудитории.
Другие статьи
Кумар — опытный технический журналист, специализирующийся на динамических пересечениях искусственного интеллекта и машинного обучения, маркетинговых технологий и новых областях, таких как криптография, блокчейн и NFTс. Имея более чем трехлетний опыт работы в отрасли, Кумар зарекомендовал себя в создании убедительных повествований, проведении содержательных интервью и предоставлении всеобъемлющей информации. Опыт Кумара заключается в создании эффективного контента, включая статьи, отчеты и исследовательские публикации для известных отраслевых платформ. Обладая уникальным набором навыков, сочетающим в себе технические знания и умение рассказывать истории, Кумар преуспевает в ясной и увлекательной передаче сложных технологических концепций разнообразной аудитории.
