OpenAI представляет новейший подход к обеспечению безопасности ИИ
Коротко
OpenAI опубликовала сообщение в блоге, в котором излагает свой улучшенный подход к безопасности после недавних опасений относительно безопасности и конфиденциальности, а также расследований.
Компания обязуется провести тщательное тестирование, привлечь внешних экспертов для получения отзывов и работать с правительствами, чтобы определить наилучшие решения. подход к правилам ИИ.
Столкнувшись с опасениями относительно безопасности и конфиденциальности и следуя недавние исследования в некоторых европейских странах, OpenAI и выпустил сообщение в блоге, в котором рассказывается об улучшенном подходе компании к безопасности.
OpenAI обязуется проводить тщательное тестирование, привлекать внешних экспертов для получения отзывов перед выпуском любой новой системы и работать с правительствами над определением наилучшего подхода к регулированию ИИ.
Ранее компания потратила более шести месяцев на работу над безопасностью и регулировкой своей последней модели. GPT-4, прежде чем опубликовать его публично. Чтобы обеспечить безопасность своей новейшей языковой модели, GPT-4, OpenAI наемный команда из более чем 50 экспертов: специалисты по безопасности, этике и политике ИИ, включая исследователей и инженеров.
«Важно то, что мы считаем, что у общества должно быть время, чтобы обновиться и приспособиться к все более мощным ИИ, и что каждый, кто затронут этой технологией, должен иметь существенное влияние на дальнейшее развитие ИИ».
OpenAI написал.
OpenAIАкцент на безопасности и конфиденциальности детей
Италия запрещена ChatGPT, цитируя OpenAIОдной из причин является неспособность компании проверить возраст своих пользователей, несмотря на то, что она предназначена для лиц от 13 лет и старше. Критический фокус усилий компании по обеспечению безопасности сместился на защиту детей путем внедрения опций проверки возраста, которые OpenAI сейчас изучается, тем более что инструменты искусственного интеллекта предназначены для лиц в возрасте 18 лет и старше или 13 лет и старше с одобрения родителей.
Компания строго запрещает создание разжигающего ненависть, оскорбительного, жестокого или контента для взрослых. GPT-4 уже имеет на 82% меньшую вероятность ответить на запросы о запрещенном контенте по сравнению с GPT-3.5.
OpenAI создала надежную систему для мониторинга злоупотреблений и надеется добиться GPT-4 со временем станет доступен большему количеству людей. Компания работает с разработчиками над индивидуальными мерами по снижению безопасности, такими как некоммерческая организация «Академия Хана», и работает над функциями, обеспечивающими более строгие стандарты для выходных данных моделей.
Улучшение конфиденциальности — еще один аспект безопасности. OpenAI уделяет особое внимание, особенно после недавнего нарушения данных. Большие языковые модели компании AI обучаются на огромном количестве текста, включая общедоступный контент, лицензионный контент и контент, созданный людьми-рецензентами; он использует данные, чтобы сделать модели ИИ более полезными для людей.
OpenAI предпринимает шаги для защиты конфиденциальности отдельных лиц, удаляя личную информацию из своих обучающих данных, настраивая модели для отклонения запросов на личную информацию и удаляя личную информацию из своих систем по запросу. Это снижает вероятность того, что модели ИИ генерируют ответы, содержащие личную информацию.
OpenAIподход для решения проблем безопасности ИИ — это поиск эффективных способов смягчения последствий и методы выравнивания и проверить их на предмет злоупотреблений в реальном мире. Он также обязуется проявлять все большую осторожность при создании и развертывании более эффективных моделей и усиливать меры предосторожности. Эффективное управление разработкой и внедрением ИИ необходимо для обеспечения безопасности, что требует технических и институциональных инноваций.
Прочитайте больше:
Отказ от ответственности
В соответствии с Руководство трастового проектаОбратите внимание, что информация, представленная на этой странице, не предназначена и не должна интерпретироваться как юридическая, налоговая, инвестиционная, финансовая или любая другая форма консультации. Важно инвестировать только то, что вы можете позволить себе потерять, и обращаться за независимой финансовой консультацией, если у вас есть какие-либо сомнения. Для получения дополнительной информации мы предлагаем обратиться к положениям и условиям, а также к страницам справки и поддержки, предоставленным эмитентом или рекламодателем. MetaversePost стремится предоставлять точную и объективную отчетность, однако рыночные условия могут быть изменены без предварительного уведомления.
Об авторе
Агне — журналист, освещающий последние тенденции и разработки в области метавселенной, искусственного интеллекта и Web3 отрасли для Metaverse Post. Ее страсть к рассказыванию историй побудила ее проводить многочисленные интервью с экспертами в этих областях, всегда стремясь раскрыть захватывающие и увлекательные истории. Агне имеет степень бакалавра литературы и имеет обширный опыт написания статей на самые разные темы, включая путешествия, искусство и культуру. Она также работала волонтером в качестве редактора организации по защите прав животных, где помогала повышать осведомленность о проблемах защиты животных. Свяжитесь с ней по [электронная почта защищена].
Другие статьи
Агне — журналист, освещающий последние тенденции и разработки в области метавселенной, искусственного интеллекта и Web3 отрасли для Metaverse Post. Ее страсть к рассказыванию историй побудила ее проводить многочисленные интервью с экспертами в этих областях, всегда стремясь раскрыть захватывающие и увлекательные истории. Агне имеет степень бакалавра литературы и имеет обширный опыт написания статей на самые разные темы, включая путешествия, искусство и культуру. Она также работала волонтером в качестве редактора организации по защите прав животных, где помогала повышать осведомленность о проблемах защиты животных. Свяжитесь с ней по [электронная почта защищена].
