GPT-4 Унаследует «галлюцинирующие» факты и ошибки рассуждения от предыдущих GPT Модели
Коротко
OpenAI говорит GPT-4 имеет те же ограничения, что и раньше GPT Модели.
GPT-4 все еще галлюцинирует факты и допускает ошибки в рассуждениях.
Однако GPT-4 набирает на 40% больше, чем OpenAIпоследний GPT-3.5 о внутренних состязательных оценках фактов компании.
OpenAI предупредил пользователей, что его последняя языковая модель, GPT-4, все еще не полностью надежен и может «галлюцинировать» факты и допускать ошибки в рассуждениях. Компания призывает пользователей проявлять осторожность при использовании результатов языковой модели, особенно в «контекстах с высокими ставками».
Однако хорошие новости заключаются в том, что GPT-4 значительно уменьшает галлюцинации относительно предыдущих моделей. OpenAI заявляет, что GPT-4 на 40% выше, чем последний GPT-3.5 о внутренних состязательных оценках фактов.
«Мы добились прогресса во внешних тестах, таких как TruthfulQA, которые проверяют способность модели отделять факты от произвольно выбранного набора неверных утверждений. Эти вопросы сопровождаются фактически неправильными ответами, которые статистически привлекательны». OpenAI написал в блоге.
Несмотря на это улучшение, модели по-прежнему не хватает информации о событиях, произошедших после сентября 2021 года, и иногда она допускает простые логические ошибки, как это делали более ранние модели. Кроме того, он может быть слишком доверчивым, принимая очевидные ложные заявления от пользователей и терпя неудачу при решении сложных проблем, таких как введение уязвимостей в системе безопасности в его код. Он также не проверяет информацию, которую предоставляет.
Как и его предшественники, GPT-4 может генерировать вредные советы, ошибочный код или неточную информацию. Однако дополнительные возможности модели приводят к появлению новых поверхностей риска, которые необходимо понять. Чтобы оценить степень этих рисков, более 50 специалистов Представители различных областей, включая риски согласования ИИ, кибербезопасность, биориски, доверие и безопасность, а также международную безопасность, были привлечены к состязательному тестированию модели. Их отзывы и данные затем были использованы для улучшения модели, например, для сбора дополнительных данных для улучшения GPT-4способность отклонять запросы о том, как синтезировать опасные химические вещества.
Один из основных способов OpenAI снижает вредные результаты за счет включения дополнительного сигнала вознаграждения за безопасность во время обучения RLHF (обучение с подкреплением на основе отзывов человека). Сигнал обучает модель отклонять запросы на вредоносное содержимое, т.к. defiЭто соответствует рекомендациям по использованию модели. Вознаграждение предоставляется GPT-4 классификатор нулевого выстрела, который оценивает границы безопасности и стиль завершения по подсказкам, связанным с безопасностью.
OpenAI также заявил, что это снизило склонность модели отвечать на запросы запрещенного контента на 82% по сравнению с GPT-3.5 и GPT-4 на деликатные запросы, такие как медицинская консультация и членовредительство в соответствии с политикой компании, отвечает на 29% чаще.
В то время как OpenAIВмешательства России увеличили трудность выявления плохого поведения со стороны GPT-4, это все еще возможно, и все еще существуют джейлбрейки, которые могут создавать контент, нарушающий правила использования.
«По мере того, как системы ИИ становятся все более распространенными, достижение высокой степени надежности в этих вмешательствах становится все более важным. На данный момент важно дополнить эти ограничения методами безопасности во время развертывания, такими как мониторинг злоупотреблений», — добавила компания.
OpenAI сотрудничает с внешними исследователями, чтобы лучше понять и оценить потенциальное воздействие GPT-4 и его модели-преемники. Команда также разрабатывает оценки опасных возможностей, которые могут появиться в будущих системах ИИ. Поскольку они продолжают изучать потенциальные социальные и экономические последствия of GPT-4 и другие системы искусственного интеллекта, OpenAI поделятся своими выводами и идеями с общественностью в свое время.
Прочитайте больше:
Отказ от ответственности
В соответствии с Руководство трастового проектаОбратите внимание, что информация, представленная на этой странице, не предназначена и не должна интерпретироваться как юридическая, налоговая, инвестиционная, финансовая или любая другая форма консультации. Важно инвестировать только то, что вы можете позволить себе потерять, и обращаться за независимой финансовой консультацией, если у вас есть какие-либо сомнения. Для получения дополнительной информации мы предлагаем обратиться к положениям и условиям, а также к страницам справки и поддержки, предоставленным эмитентом или рекламодателем. MetaversePost стремится предоставлять точную и объективную отчетность, однако рыночные условия могут быть изменены без предварительного уведомления.
Об авторе
Синди работает журналистом в Metaverse Post, охватывающие темы, связанные с web3, NFT, метавселенная и ИИ, с акцентом на интервью с Web3 игроки отрасли. Она поговорила с более чем 30 руководителями высшего звена, и их число продолжает расти, поделившись с читателями их ценной информацией. Синди родом из Сингапура, сейчас живет в Тбилиси, Грузия. Она имеет степень бакалавра в области коммуникаций и медиа-исследований Университета Южной Австралии и десятилетний опыт журналистики и писательской деятельности. Свяжитесь с ней через [электронная почта защищена] с презентациями для прессы, объявлениями и возможностями для интервью.
Другие статьи
Синди работает журналистом в Metaverse Post, охватывающие темы, связанные с web3, NFT, метавселенная и ИИ, с акцентом на интервью с Web3 игроки отрасли. Она поговорила с более чем 30 руководителями высшего звена, и их число продолжает расти, поделившись с читателями их ценной информацией. Синди родом из Сингапура, сейчас живет в Тбилиси, Грузия. Она имеет степень бакалавра в области коммуникаций и медиа-исследований Университета Южной Австралии и десятилетний опыт журналистики и писательской деятельности. Свяжитесь с ней через [электронная почта защищена] с презентациями для прессы, объявлениями и возможностями для интервью.
