OpenAI Представляет «Систему готовности» к устранению рисков развития ИИ
Коротко
OpenAI развернула свою «Систему готовности» — набор инструментов и процессов для решения проблем, связанных с безопасностью разработки моделей ИИ.
ИИ-компания, поддерживаемая Microsoft OpenAI, развернула свою «Систему готовности» — набор инструментов и процессов для решения растущей обеспокоенности по поводу последствий для безопасности разработки передовых моделей искусственного интеллекта (ИИ).
Ассоциация Сэм Альтман-управляемая компания объявила об этом в подробном плане, опубликованном на ее веб-сайте, целью которого является демонстрация OpenAIприверженность компании управлению потенциальными рисками, связанными с ее передовыми технологиями. Компания также предоставила дополнительную информацию о системе в социальных сетях. платформа Х .
OpenAIСтруктура компании дает совету директоров возможность отменить решения по безопасности, принятые руководителями, вводя уровень надзора за внедрением новейших технологий. Более того, компания изложила строгие условия для развертывания, уделив особое внимание оценке безопасности в таких критических областях, как кибербезопасность и ядерные угрозы.
Одним из важных элементов стратегии компании является создание консультативной группы, которой будет поручено рассмотрение отчетов по безопасности. Выводы этой группы будут доведены до сведения руководителей и совета директоров компании, что подчеркнет совместный подход к решению проблем. проблемы безопасности.
Ответственный подход к проблемам отрасли
Перемещение по OpenAI Это происходит на фоне растущей обеспокоенности сообщества ИИ относительно потенциальных рисков, связанных со все более мощными моделями. В апреле коалиция лидеров и экспертов отрасли искусственного интеллекта выступила за шестимесячную паузу в разработке систем, более мощных, чем OpenAIАвтора GPT-4, ссылаясь на потенциальные социальные риски.
Под руководством Сэма Альтмана OpenAI укрепляет свои внутренние процессы безопасности, чтобы активно бороться с растущими угрозами, исходящими от вредоносного ИИ. Специальная группа будет контролировать техническую работу и принятие решений по безопасности, а оперативная структура будет способствовать эффективному реагированию на возникающие риски.
Эта система включает в себя разработку «оценочных карт» рисков для отслеживания различных показателей потенциального вреда, инициирование проверок и вмешательств при достижении конкретных пороговых значений риска.
«Мы будем проводить оценки и постоянно обновлять «системы показателей» для наших моделей. Мы оценим все наши пограничные модели, в том числе при каждом двукратном эффективном увеличении вычислительных ресурсов во время обучающих запусков. Мы будем доводить модели до предела», — сказал ChatGPT мейкера.
«В наших базовых показателях безопасности могут быть развернуты только модели с оценкой после устранения последствий средний или ниже, и только модели с оценкой после устранения последствий высокий или ниже могут развиваться дальше. Мы также повышаем уровень защиты соразмерно риску модели», — добавили в компании.
Кроме того, компания подчеркивает динамичный характер своей структуры, стремясь к постоянному совершенствованию на основе новых данных, отзывов и исследований. Он также обязуется тесно сотрудничать с внешними сторонами и внутренними командами для отслеживания реальных злоупотреблений, демонстрируя приверженность подотчетности и ответственный ИИ развития.
As OpenAI предпринимает активные шаги для решения проблем безопасности, компаниям необходимо создать прецедент для этичной и безопасной разработки ИИ в эпоху, когда возможности генеративных технологий ИИ продолжают привлекать внимание и одновременно поднимать важные вопросы об их потенциальном влиянии на общество.
Отказ от ответственности
В соответствии с Руководство трастового проектаОбратите внимание, что информация, представленная на этой странице, не предназначена и не должна интерпретироваться как юридическая, налоговая, инвестиционная, финансовая или любая другая форма консультации. Важно инвестировать только то, что вы можете позволить себе потерять, и обращаться за независимой финансовой консультацией, если у вас есть какие-либо сомнения. Для получения дополнительной информации мы предлагаем обратиться к положениям и условиям, а также к страницам справки и поддержки, предоставленным эмитентом или рекламодателем. MetaversePost стремится предоставлять точную и объективную отчетность, однако рыночные условия могут быть изменены без предварительного уведомления.
Об авторе
Кумар — опытный технический журналист, специализирующийся на динамических пересечениях искусственного интеллекта и машинного обучения, маркетинговых технологий и новых областях, таких как криптография, блокчейн и NFTс. Имея более чем трехлетний опыт работы в отрасли, Кумар зарекомендовал себя в создании убедительных повествований, проведении содержательных интервью и предоставлении всеобъемлющей информации. Опыт Кумара заключается в создании эффективного контента, включая статьи, отчеты и исследовательские публикации для известных отраслевых платформ. Обладая уникальным набором навыков, сочетающим в себе технические знания и умение рассказывать истории, Кумар преуспевает в ясной и увлекательной передаче сложных технологических концепций разнообразной аудитории.
Другие статьи
Кумар — опытный технический журналист, специализирующийся на динамических пересечениях искусственного интеллекта и машинного обучения, маркетинговых технологий и новых областях, таких как криптография, блокчейн и NFTс. Имея более чем трехлетний опыт работы в отрасли, Кумар зарекомендовал себя в создании убедительных повествований, проведении содержательных интервью и предоставлении всеобъемлющей информации. Опыт Кумара заключается в создании эффективного контента, включая статьи, отчеты и исследовательские публикации для известных отраслевых платформ. Обладая уникальным набором навыков, сочетающим в себе технические знания и умение рассказывать истории, Кумар преуспевает в ясной и увлекательной передаче сложных технологических концепций разнообразной аудитории.
