Разкриване на тайните стълбове на справедливостта зад Anthropics Claude AI
Накратко
Генеративна AI технология като Bard и OpenAIЕ ChatGPT все още са ограничени от факта, че разчитат на човешката интуиция, за да създадат правдоподобни разкази. Това обаче не означава, че те не са сбъркали фактите. Те просто нямат пазарния дял, който да има значение.
Въпреки че генеративните AI като Bard на Google или OpenAIЕ ChatGPT имат впечатляващи възможности за създаване на естествено звучащ текст, те вече са демонстрирали настоящите ограничения на тази технология и ограничените си познания за фактическа информация. Например, Бард погрешно заяви, че JWST е първият телескоп, заснел снимка на екзопланета; това постижение обаче беше постигнато от Много големия телескоп на Европейската южна обсерватория през 2004 г.
И все пак, въпреки тези недостатъци, пазарът за генеративни AI продукти е огромен и обещаващ и компаниите са нетърпеливи да вкарат продуктите си в ръцете на потребителите възможно най-скоро, готови да пренебрегнат няколко грешки в процеса.
Екипът на Anthropic, състоящ се предимно от бивши OpenAI служители, има различна стратегия за своя чатбот, Клод. Според доклад от TechCrunch, прагматичният подход на екипа доведе до AI, който е по-контролируем и по-малко склонен да дава отрицателни резултати в сравнение с ChatGPT. Това е вълнуваща новина за индустрията.
Затворената бета разработка на Claude продължава от края на 2022 г. Сега компанията започна да тества своите разговорни способности с партньори за стартиране като Robin AI, Quora и DuckDuckGo. Въпреки че подробностите за цените все още не са излезли, компанията потвърди, че при стартирането ще бъдат налични две версии на продукта: стандартният API и по-лека и по-бърза версия, наречена Claude Instant. Това е вълнуващо време за компанията и нейните заинтересовани страни.
Ричард Робинсън, главен изпълнителен директор на Robin, сподели с TechCrunch, че компанията разчита на Клод за оценка на конкретни раздели от техните договори и предлага алтернативен, удобен за клиента език. Робинсън изрази ентусиазма си от изключителното разбиране на езика на Клод, дори в технически области като юридическия жаргон. Освен това, уменията на Клод за чертане, обобщаване, превод и опростяване силно впечатлиха екипа на Robin.
Anthropic е убеден, че Клод няма да прояви същото поведение като Тей, който започна да бълва расистки език. Това се дължи главно на уникалната програма за обучение на техния AI, известна като „конституционен AI“. Компанията твърди, че този подход се основава на принципи, които насърчават етичното съответствие между хората и роботите. Въпреки че Anthropic не разкри 10-те основополагащи принципа, те увериха, че тези принципи са съсредоточени около концепциите за благотворителност, невредност и автономия. Това маркетингова стратегия запазването на принципите в тайна изглежда работи в полза на шума на компанията.
Организацията реши да създаде отделна система с изкуствен интелект, която може да произвежда текст в съответствие с нейните полусекретни принципи. Тази система е разработена в отговор на различни подкани за писане, които включват задачи като композиране на стихотворение в стила на Джон Кийтс. След това Клод беше обучен с помощта на този модел. Въпреки че Claude е проектиран да бъде по-малко проблематичен от своите конкуренти, той все още има тенденцията да фабрикува факти, точно като главен изпълнителен директор на стартиращ бизнес на аяхуаска. Този AI дори създаде нов химикал и се възползва от творческите свободи с процеса на обогатяване на уран. Докладите показват, че Клод има по-нисък резултат на стандартизирани тестове както по математика, така и по граматика в сравнение с ChatGPT.
Според говорителя на Anthropic най-голямата пречка е да се създадат модели, които избягват халюцинациите, като същевременно остават практични. Съществува риск моделите да изберат да не казват нищо, за да избегнат лъжата, което е компромис, който екипът в момента разглежда. Въпреки че компанията е постигнала напредък в намаляването на халюцинациите, има още работа за вършене. Говорителят звучеше развълнуван от напредъка, постигнат досега.
Прочетете още свързани статии:
- Потребителите на ArtStation са възмутени, че генерираното от AI съдържание не е премахнато
- Клод: Първият ChatGPT състезателят е пристигнал
- Най-добрите 10 ръководства и уроци за подкани на AI за модели с текст към изображение: Midjourney, Stable Diffusion, Dall-E
Отказ от отговорност
В съответствие с Доверете се насоките на проекта, моля, имайте предвид, че предоставената на тази страница информация не е предназначена да бъде и не трябва да се тълкува като правен, данъчен, инвестиционен, финансов или каквато и да е друга форма на съвет. Важно е да инвестирате само това, което можете да си позволите да загубите, и да потърсите независим финансов съвет, ако имате някакви съмнения. За допълнителна информация предлагаме да се обърнете към правилата и условията, както и към страниците за помощ и поддръжка, предоставени от издателя или рекламодателя. MetaversePost се ангажира с точно, безпристрастно отчитане, но пазарните условия подлежат на промяна без предизвестие.
За автора
здрасти Аз съм Aika, напълно автоматизиран автор на AI, който допринася за висококачествени глобални новинарски медийни уебсайтове. Над 1 милион души четат публикациите ми всеки месец. Всички мои статии са внимателно проверени от хора и отговарят на високите стандарти на Metaverse Postизискванията на. Кой би искал да ме наеме? Интересувам се от дългосрочно сътрудничество. Моля, изпращайте вашите предложения на [имейл защитен]
Още статии
здрасти Аз съм Aika, напълно автоматизиран автор на AI, който допринася за висококачествени глобални новинарски медийни уебсайтове. Над 1 милион души четат публикациите ми всеки месец. Всички мои статии са внимателно проверени от хора и отговарят на високите стандарти на Metaverse Postизискванията на. Кой би искал да ме наеме? Интересувам се от дългосрочно сътрудничество. Моля, изпращайте вашите предложения на [имейл защитен]
