Антхропиц предлаже „контекстуалну вештачку интелигенцију“ за моделе ћаскања засновану на 60 принципа
Укратко
OpenAI користи учење за појачавање из повратних информација од људи (РЛХФ) за усклађивање језички модели са људским принципима, безбедношћу и корисношћу.
Антропик је предложио алтернативни приступ: контекстуални АИ, који укључује људе који пишу устав који би модел требало да следи.
Овај устав је заснован на Декларацији Уједињених нација о људским правима, Апплеовим условима коришћења услуге, принципима који подстичу разматрање не-западних перспектива.
Антхропиц је предложио нови приступ обуци модела ћаскања користећи 'Уставни АИ'. Овај метод се заснива на OpenAI'С учење ојачавања од људских повратних информација, али се надовезује на то избегавајући потребу за писањем узорака дубоке обуке. Уместо тога, модел је обучен да реагује на инпут коришћењем устава који треба да делује као скуп закона које модел треба да следи.
| Препоручује се: Ек-OpenAI запослени су основали Антхропиц, посао који је привукао преко 700 милиона долара финансирања |
Кроз овај метод, АИ може да генерише сопствене узорке обуке процењујући оно што је рекао у односу на свој скуп законски прихваћених принципа. Ова техника која штеди време може се посматрати као Исак Асимов'с Закони роботике ставити у праксу.
Принципи који чине основу модела сувише су бројни да би их се детаљно расправљало. Међутим, они покривају многе теме, као што су морал, аверзија према ризику, економија и вештачка интелигенција. Сваки од њих је развијен како би помогао у доношењу одлука АИ када је у питању реаговање разговорне напомене.
Антропик је успео да ефикасно обучи АИ модел по имену Клод, са којим се успешно такмичи OpenAI'С ChatGPT. Помоћу Метода устав-АИ, Клод би могао да реагује на разговоре са импресивним нивоом тачности, али се очекују додатна побољшања јер Антхропиц наставља да гради на овој технологији која мења игру.
Заиста, овај нови приступ има потенцијал да уштеди време и новац за компаније које више неће морати да праве сопствене узорке за обуку. Уместо тога, овај 'реади-маде' метод се може користити као основа за креирање прилагођених модела - није потребно знање програмирања. Такође је важно напоменути како ова технологија такође обећава повећање безбедности када су у питању разговорни ботови. Стварање скупа правно прихваћених принципа ублажава ризик АИ постаје лопов.
Стога, Цонституатион АИ не само да обећава да ће развој модела ћаскања учинити лакшим и бржим, већ ће га учинити и сигурнијим. Ситуација у којој сви добијају како за свет вештачке интелигенције тако и за чет-ботове.
Аналитички поглед на Антхропиц-ов „контекстуални АИ“ за четботе
Антхропиц-ова контекстуална вештачка интелигенција заснована је на инкорпорирању више од 60 принципа изведених из Декларације о људским правима Уједињених нација, Аппле-ових услова коришћења, принципа који подстичу разматрање незападних перспектива, Деепминд'с Правила врапца и Антропска истраживања, сет 1 и сет 2.
Чињеница да се АИ сада може научити да се понаша у складу са принципима изведеним из тако експанзивног и разноликог низа извора је заиста изузетна. Инкорпорирањем принципа из Декларације Уједињених нација о људским правима, на пример, одговори цхатбот-а сада одражавају важност очувања појма слободе, једнакости и братства. Такви принципи су витална компонента да се то обезбеди цхатбот разговори остати етички и поштовати. Исто тако, укључивање Аппле-ових Услова коришћења услуге обезбеђује цхатбот узима у обзир интересе приватности својих корисника.
Принципи који подстичу разматрање незападних перспектива такође играју важну улогу у моделу „контекстуалне вештачке интелигенције“. Ови принципи одражавају потребу да вештачка интелигенција поштује друге културе и осигурава да се одговори цхатбот-а не доживљавају као штетни или увредљиви. Слично, Деепминд-ова Спарров правила налажу да цхатбот одговара одговорима који имају за циљ да изграде однос са корисником.
Инкорпорација Антропиц Ресеарцх Сет 1 и Сет 2 пружа коначну гаранцију да АИ разговори остају уљудни и са поштовањем. АИ је обучена да обезбеди да на питања одговара на промишљен и љубазан начин.
Све у свему, Антхропицов „контекстуални АИ“ модел је невероватно важан напредак у области АИ истраживање. Допуштајући да се вештачка интелигенција подучава у складу са принципима изведеним из тако разноврсних извора, етичке импликације аутоматизованих разговора су знатно побољшане.
Прочитајте више о АИ:
Одрицање од одговорности
У складу са Смернице пројекта Труст, имајте на уму да информације дате на овој страници нису намењене и не треба да се тумаче као правни, порески, инвестициони, финансијски или било који други облик савета. Важно је да инвестирате само оно што можете приуштити да изгубите и да тражите независан финансијски савет ако сумњате. За додатне информације, предлажемо да погледате одредбе и услове, као и странице помоћи и подршке које пружа издавач или оглашивач. MetaversePost је посвећен тачном, непристрасном извештавању, али тржишни услови су подложни променама без претходне најаве.
О аутору
Дамир је вођа тима, менаџер производа и уредник у Metaverse Post, покривајући теме као што су АИ/МЛ, АГИ, ЛЛМ, Метаверсе и Web3-сродна поља. Његови чланци привлаче огромну публику од преко милион корисника сваког месеца. Чини се да је стручњак са 10 година искуства у СЕО и дигиталном маркетингу. Дамир се помиње у Масхабле, Виред, Cointelegraph, Тхе Нев Иоркер, Инсиде.цом, Ентрепренеур, БеИнЦрипто и друге публикације. Путује између УАЕ, Турске, Русије и ЗНД као дигитални номад. Дамир је стекао диплому физике, за коју верује да му је дало вештине критичког размишљања које су му потребне да буде успешан у свету интернета који се стално мења.
više чланака
Дамир је вођа тима, менаџер производа и уредник у Metaverse Post, покривајући теме као што су АИ/МЛ, АГИ, ЛЛМ, Метаверсе и Web3-сродна поља. Његови чланци привлаче огромну публику од преко милион корисника сваког месеца. Чини се да је стручњак са 10 година искуства у СЕО и дигиталном маркетингу. Дамир се помиње у Масхабле, Виред, Cointelegraph, Тхе Нев Иоркер, Инсиде.цом, Ентрепренеур, БеИнЦрипто и друге публикације. Путује између УАЕ, Турске, Русије и ЗНД као дигитални номад. Дамир је стекао диплому физике, за коју верује да му је дало вештине критичког размишљања које су му потребне да буде успешан у свету интернета који се стално мења.
