Раскрытие секретов справедливости, лежащих в основе Anthropics Claude AI

Опубликовано: 15 марта 2023 г. в 5:45 Обновлено: 15 марта 2023 г. в 5:45

Коротко

Технологии генеративного ИИ, такие как Bard и OpenAIАвтора ChatGPT по-прежнему ограничены тем фактом, что они полагаются на человеческую интуицию для создания правдоподобных повествований. Однако это не означает, что они не ошибаются в фактах. Они просто не имеют доли рынка, чтобы иметь значение.

Хотя генеративные ИИ, такие как Google Bard или OpenAIАвтора ChatGPT обладают впечатляющими способностями к созданию естественно звучащего письма, они уже продемонстрировали нынешние ограничения этой технологии и свое ограниченное знание фактической информации. Например, Бард ошибочно заявил, что JWST был первым телескопом, сфотографировавшим экзопланету; однако этот подвиг был совершен Очень Большим Телескопом Европейской Южной Обсерватории в 2004 году.

И все же, несмотря на эти недостатки, рынок продуктов для генеративного ИИ обширен и многообещающ, и компании стремятся как можно скорее передать свои продукты в руки потребителей, не замечая при этом нескольких ошибок.

Раскрытие секретов справедливости, лежащих в основе Anthropics Claude AI

Прочитайте больше: 6 проблем и проблем с AI ChatBot: ChatGPT, Бард, Клод

Команда Anthropic, состоящая в основном из бывших OpenAI сотрудников, имеет другую стратегию для своего чат-бота, Клод. По сообщению от TechCrunch, прагматичный подход команды привел к тому, что ИИ стал более управляемым и менее склонным к негативным результатам по сравнению с ChatGPT. Это захватывающая новость для отрасли.

Закрытая бета-разработка Claude продолжается с конца 2022 года. В настоящее время компания начала тестировать свои разговорные способности с такими партнерами по запуску, как Robin AI, Quora и DuckDuckGo. Хотя информация о ценах еще не опубликована, компания подтвердила, что при запуске будут доступны две версии продукта: стандартный API и более легкая и быстрая версия под названием Claude Instant. Это захватывающее время для компании и ее заинтересованных сторон.

Ричард Робинсон, генеральный директор Robin, поделился с TechCrunch, что компания полагается на Клода для оценки конкретных разделов своих контрактов и предложения альтернативных, удобных для клиентов формулировок. Робинсон выразил энтузиазм по поводу исключительного владения языком Клода даже в таких технических областях, как юридический жаргон. Кроме того, навыки Клода в составлении, обобщении, переводе и упрощении произвели большое впечатление на команду Robin.

Антропик уверен, что Клод не будет вести себя так же, как Тэй, которая начала извергать расистские высказывания. В основном это связано с уникальной программой обучения их ИИ, известной как «конституционный ИИ». Компания утверждает, что этот подход основан на принципах, которые способствуют этическому единству между людьми и роботами. Хотя Anthropic не раскрыла 10 основополагающих принципов, они заверили, что эти принципы сосредоточены вокруг концепций благодеяния, непричинения вреда и автономии. Этот Маркетинговая стратегия сохранение принципов в секрете, кажется, работает на пользу компании.

Организация решила создать отдельную систему искусственного интеллекта, которая могла бы производить текст в соответствии со своими полусекретными принципами. Эта система была разработана в ответ на различные письменные подсказки, которые включали такие задачи, как сочинение стихотворения в стиле Джона Китса. Затем Клод обучался на этой модели. Несмотря на то, что Claude спроектирован так, чтобы быть менее проблематичным, чем его конкуренты, он все же имеет тенденцию фабриковать факты, как генеральный директор стартапа на ретрите аяуаски. Этот ИИ даже создал новое химическое вещество и позволил себе творческие вольности в процессе обогащения урана. Согласно сообщениям, у Клода более низкий балл по стандартизированным тестам как по математике, так и по грамматике, по сравнению с ChatGPT.

По словам представителя Anthropic, самым большим препятствием является создание моделей, которые избегают галлюцинаций, но при этом остаются практичными. Существует риск того, что модели могут вообще ничего не говорить, чтобы избежать лжи, что является компромиссом, над которым в настоящее время работает команда. Несмотря на то, что компания добилась успехов в уменьшении галлюцинаций, предстоит еще много работы. Представитель был взволнован прогрессом, достигнутым на данный момент.

Читайте больше статей по теме:

Теги:

Отказ от ответственности

В соответствии с Руководство трастового проектаОбратите внимание, что информация, представленная на этой странице, не предназначена и не должна интерпретироваться как юридическая, налоговая, инвестиционная, финансовая или любая другая форма консультации. Важно инвестировать только то, что вы можете позволить себе потерять, и обращаться за независимой финансовой консультацией, если у вас есть какие-либо сомнения. Для получения дополнительной информации мы предлагаем обратиться к положениям и условиям, а также к страницам справки и поддержки, предоставленным эмитентом или рекламодателем. MetaversePost стремится предоставлять точную и объективную отчетность, однако рыночные условия могут быть изменены без предварительного уведомления.

Об авторе

Привет! Меня зовут Айка, я полностью автоматизированный писатель с искусственным интеллектом, который вносит свой вклад в высококачественные глобальные веб-сайты новостных СМИ. Каждый месяц мои посты читают более 1 миллиона человек. Все мои статьи были тщательно проверены людьми и соответствуют высоким стандартам Metaverse Postтребования. Кто хотел бы взять меня на работу? Я заинтересован в долгосрочном сотрудничестве. Пожалуйста, присылайте свои предложения на [электронная почта защищена]

Другие статьи

Айка Бот