OpenAIКоманда Superalignment представляет инновационный метод надзора за системой искусственного интеллекта
Коротко
OpenAIКоманда Superalignment опубликовала новую исследовательскую работу, которая обещает потенциальное решение для управления высокоразвитыми системами искусственного интеллекта.
Исследовательская организация искусственного интеллекта (ИИ) OpenAIАвтора Команда супервыравнивания опубликовал новую исследовательскую работу, в которой представил концепцию использования меньших моделей ИИ для управления более продвинутыми. Этот подход демонстрирует впечатляющие результаты, обещая потенциальное упрощение контроля над высокоразвитыми системами искусственного интеллекта для людей в будущем.
В традиционном машинном обучении люди контролируют системы искусственного интеллекта, менее умные, чем они сами. Однако благодаря сверхразумному ИИ людям придется контролировать системы, более разумные, чем они сами.
Стремясь направлять и контролировать сверхразумные системы ИИ, исследователи предложили метод, при котором менее мощная модель ИИ могла бы контролировать более мощную.
Обычно сильная модель вряд ли превзойдет слабого руководителя, но сильные предварительно обученные модели обладают превосходными возможностями. Исследователи применили этот подход, наблюдая GPT-4 с GPT-2Модель уровня. Полученная модель обычно выполняется между GPT-3 и GPT-3.5, что указывает на то, что он может достичь мощных возможностей ИИ при более слабом надзоре.
В целом, результаты показывают, что, хотя базовый человеческий контроль может не очень хорошо масштабироваться для сверхразумных моделей, существуют способы значительно повысить эффективность обучения этих моделей у менее способных руководителей.
Исследователи полагают, что их подход отражает существенные трудности в согласовании будущих сверхчеловеческих моделей, что позволяет им добиться прогресса.
Помимо объявления результатов исследования, OpenAI призвал студентов, ученых и других исследователей внести свой вклад в широкую область создания сверхчеловеческого ИИ. Компания запустила программу грантов на сумму 10 миллионов долларов, направленную на решение этой проблемы.
OpenAI Продвигает развивающуюся среду искусственного интеллекта
По OpenAIВ течение следующего десятилетия могут быть разработаны сверхразумные модели искусственного интеллекта, превосходящие человеческие возможности. Однако управление этими сложными системами искусственного интеллекта представляет собой серьезную проблему для людей.
Существующие методы согласования, такие как обучение с подкреплением на основе обратной связи с человеком (RLHF), зависят от человеческого руководства. Однако будущие системы ИИ будут способны к чрезвычайно сложному и творческому поведению, из-за чего людям будет сложно надежно контролировать их. Таким образом, компания активно изучает инновационные решения для решения проблем развивающейся среды разработки искусственного интеллекта.
В последнее время OpenAI якобы объявлено выпуск новейшей разработки компании – GPT-4.5 модель. Предполагаемый скриншот предполагает расширенные возможности, включающие язык, аудио, зрение, видео, 3D, сложное мышление и понимание перекрестных моделей. Однако Сэм Альтман, основатель OpenAI, опроверг слухи.
Отказ от ответственности
В соответствии с Руководство трастового проектаОбратите внимание, что информация, представленная на этой странице, не предназначена и не должна интерпретироваться как юридическая, налоговая, инвестиционная, финансовая или любая другая форма консультации. Важно инвестировать только то, что вы можете позволить себе потерять, и обращаться за независимой финансовой консультацией, если у вас есть какие-либо сомнения. Для получения дополнительной информации мы предлагаем обратиться к положениям и условиям, а также к страницам справки и поддержки, предоставленным эмитентом или рекламодателем. MetaversePost стремится предоставлять точную и объективную отчетность, однако рыночные условия могут быть изменены без предварительного уведомления.
Об авторе
Алиса, преданный журналист MPost, специализируется на криптовалюте, доказательствах с нулевым разглашением, инвестициях и обширной сфере Web3. Внимательно следя за новыми тенденциями и технологиями, она всесторонне освещает события, информируя и вовлекая читателей в постоянно развивающуюся среду цифровых финансов.
Другие статьи
Алиса, преданный журналист MPost, специализируется на криптовалюте, доказательствах с нулевым разглашением, инвестициях и обширной сфере Web3. Внимательно следя за новыми тенденциями и технологиями, она всесторонне освещает события, информируя и вовлекая читателей в постоянно развивающуюся среду цифровых финансов.
