Anthropic предлага „контекстуален AI“ за модели на чат, базиран на 60 принципа
Накратко
OpenAI използва обучение за подсилване от човешка обратна връзка (RLHF) за подравняване езикови модели с човешки принципи, безопасност и полезност.
Anthropic предложи алтернативен подход: контекстуален AI, който включва хора, които пишат конституция, която моделът трябва да следва.
Тази конституция се основава на Декларацията на ООН за правата на човека, Общите условия на Apple, Принципите, насърчаващи разглеждането на незападни перспективи.
Anthropic предложи нов подход за обучение на чат модели, използвайки "Конституционен AI'. Този метод се основава на OpenAIЕ укрепване от човешка обратна връзка, но се основава на нея, като избягва необходимостта от писане на задълбочени проби за обучение. Вместо това, моделът е обучен да отговаря на входните данни чрез използването на конституция, която е предназначена да действа като набор от закони, които моделът да следва.
| Препоръчва се: ex-OpenAI служители основават Anthropic, бизнес, който е привлякъл над 700 милиона долара финансиране |
Чрез този метод изкуственият интелект може да генерира свои собствени образци за обучение, като оценява казаното от него спрямо своя набор от законово приети принципи. Тази техника за спестяване на време може да се разглежда като Айзък Азимов'с Закони на роботиката прилагат на практика.
Принципите, които формират основата на модела, са твърде много, за да се обсъждат подробно. Те обаче обхващат много теми, като морал, избягване на риска, икономика и изкуствен интелект. Всеки от тях е разработен, за да помогне при вземането на решения на AI, когато става въпрос за реагиране разговорни подкани.
Anthropic успя ефективно да обучи AI модел на име Claude, който успешно се конкурира с OpenAIЕ ChatGPT, Използвайки Метод на конституция-AI, Claude може да отговаря на разговорни подкани с впечатляващо ниво на точност, но се очакват допълнителни подобрения, тъй като Anthropic продължава да надгражда върху тази променяща играта технология.
Наистина, този нов подход има потенциала да спести време и пари за компании, които вече няма да трябва да създават свои собствени проби за обучение. По-скоро този „готов“ метод може да се използва като основа за създаване на модели по поръчка – не са необходими познания по програмиране. Също така е важно да се отбележи, че тази технология също обещава да повиши безопасността, когато става въпрос за разговорни ботове. Създаване на набор от правно приети принципи смекчава риска на AI става измамник.
Следователно Constitution AI не само обещава да направи разработването на чат модел по-лесно и по-бързо, но също така ще го направи по-безопасно. Печеливша ситуация както за света на изкуствения интелект, така и за чатботовете.
Аналитичен поглед към „контекстуалния AI“ на Anthropic за чатботове
Контекстуалният AI на Anthropic се основава на включването на повече от 60 принципа, извлечени от Декларацията на ООН за правата на човека, Условията за ползване на Apple, Принципите, насърчаващи разглеждането на незападни перспективи, Deepmind's Правила на Спароу и антропни изследвания, комплект 1 и комплект 2.
Фактът, че изкуственият интелект сега може да бъде научен да се държи според принципите, извлечени от такъв обширен и разнообразен набор от източници, е наистина забележителен. Чрез включването на принципи от Декларацията на ООН за правата на човека, например, отговорите на чатбот сега отразяват важността на запазването на идеята за свобода, равенство и братство. Такива принципи са жизненоважен компонент за гарантирането на това чатбот разговори останете етични и уважителни. По същия начин, включването на Общите условия на Apple гарантира чатбота взема предвид интересите на поверителността на своите потребители.
Принципите, насърчаващи разглеждането на незападни перспективи, също играят важна роля в модела „Контекстуален AI“. Тези принципи отразяват необходимостта ИИ да уважава другите култури и да гарантира, че отговорите на чатботовете не се възприемат като вредни или обидни. По същия начин Правилата за Sparrow на Deepmind диктуват чатботът да отговаря с отговори, предназначени да изградят връзка с потребителя.
Включването на Anthropic Research Set 1 и Set 2 осигурява крайната гаранция, че AI разговорите остават любезни и уважителни. AI е обучен да гарантира, че отговаря на въпроси по обмислен и учтив начин.
Като цяло, моделът „Contextual AI“ на Anthropic е невероятно важен пробив в областта на AI изследвания. Като позволяват ИИ да бъде преподаван според принципи, извлечени от такъв разнообразен набор от източници, етичните последици от автоматизираните разговори са значително подобрени.
Прочетете повече за AI:
Отказ от отговорност
В съответствие с Доверете се насоките на проекта, моля, имайте предвид, че предоставената на тази страница информация не е предназначена да бъде и не трябва да се тълкува като правен, данъчен, инвестиционен, финансов или каквато и да е друга форма на съвет. Важно е да инвестирате само това, което можете да си позволите да загубите, и да потърсите независим финансов съвет, ако имате някакви съмнения. За допълнителна информация предлагаме да се обърнете към правилата и условията, както и към страниците за помощ и поддръжка, предоставени от издателя или рекламодателя. MetaversePost се ангажира с точно, безпристрастно отчитане, но пазарните условия подлежат на промяна без предизвестие.
За автора
Дамир е ръководител на екип, продуктов мениджър и редактор в Metaverse Post, обхващащи теми като AI/ML, AGI, LLMs, Metaverse и Web3- свързани полета. Статиите му привличат огромна аудитория от над милион потребители всеки месец. Изглежда, че е експерт с 10 години опит в SEO и дигитален маркетинг. Дамир е споменат в Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto и други публикации. Той пътува между ОАЕ, Турция, Русия и ОНД като дигитален номад. Дамир получава бакалавърска степен по физика, която според него му е дала уменията за критично мислене, необходими за успех в непрекъснато променящия се пейзаж на интернет.
Още статии
Дамир е ръководител на екип, продуктов мениджър и редактор в Metaverse Post, обхващащи теми като AI/ML, AGI, LLMs, Metaverse и Web3- свързани полета. Статиите му привличат огромна аудитория от над милион потребители всеки месец. Изглежда, че е експерт с 10 години опит в SEO и дигитален маркетинг. Дамир е споменат в Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto и други публикации. Той пътува между ОАЕ, Турция, Русия и ОНД като дигитален номад. Дамир получава бакалавърска степен по физика, която според него му е дала уменията за критично мислене, необходими за успех в непрекъснато променящия се пейзаж на интернет.
