Anthropic navrhuje „kontextovú AI“ pre modely chatu založenú na 60 princípoch
Stručne
OpenAI na zosúladenie využíva učenie sa zosilnením z ľudskej spätnej väzby (RLHF). jazykové modely s ľudskými princípmi, bezpečnosťou a užitočnosťou.
Antropic navrhol alternatívny prístup: kontextovú AI, ktorá zahŕňa ľudí, ktorí píšu ústavu, ktorú by mal model nasledovať.
Táto ústava je založená na Deklarácii ľudských práv Organizácie Spojených národov, zmluvných podmienkach spoločnosti Apple a zásadách povzbudzujúcich zohľadňovanie nezápadných perspektív.
Antropic navrhol nový prístup k trénovaniu modelov chatu pomocou 'Ústavná AI'. Táto metóda stavia na OpenAI'S posilňovanie učenia od ľudskej spätnej väzby, ale stavia na nej tým, že sa vyhýba potrebe písať hlboké tréningové vzorky. Namiesto toho je model trénovaný tak, aby reagoval na vstupy prostredníctvom použitia ústavy, ktorá má pôsobiť ako súbor zákonov, ktoré má model nasledovať.
Prostredníctvom tejto metódy môže AI generovať svoje vlastné tréningové vzorky vyhodnotením toho, čo povedala, v porovnaní so súborom právne akceptovaných princípov. Táto technika šetriaca čas môže byť videná ako Isaac Asimov, s Zákony robotiky uviesť do praxe.
Princípov, ktoré tvoria základ modelu, je príliš veľa na to, aby sme ich mohli podrobne rozobrať. Zaoberajú sa však mnohými témami, ako je morálka, averzia k riziku, ekonomika a umelá inteligencia. Každý z nich bol vyvinutý s cieľom pomôcť pri rozhodovaní AI, pokiaľ ide o reakciu konverzačné výzvy.
Anthropicu sa podarilo efektívne vycvičiť model AI menom Claude, ktorý úspešne konkuruje OpenAI'S ChatGPT, Pomocou Metóda Constitution-AI, Claude mohol reagovať na konverzačné výzvy s pôsobivou úrovňou presnosti, ale očakávajú sa ďalšie vylepšenia, pretože Anthropic pokračuje v budovaní tejto technológie, ktorá mení hru.
Tento nový prístup má skutočne potenciál ušetriť čas a peniaze spoločnostiam, ktoré už nebudú musieť vytvárať svoje vlastné školiace vzorky. Túto „pripravenú“ metódu možno skôr použiť ako základ na vytváranie modelov prispôsobených na mieru – nie sú potrebné žiadne znalosti programovania. Je tiež dôležité poznamenať, že táto technológia tiež sľubuje zvýšenie bezpečnosti, pokiaľ ide o konverzačné roboty. Vytvorenie súboru právne akceptovaných princípov zmierňuje riziko umelej inteligencie.
Preto Constituation AI nielen sľubuje, že vývoj modelu chatu bude jednoduchší a rýchlejší, ale bude tiež bezpečnejší. Obojstranne výhodná situácia pre svet umelej inteligencie a chatbotov.
Analytický pohľad na „kontextovú AI“ spoločnosti Anthropic pre chatboty
Kontextová umelá inteligencia Antropic je založená na začlenení viac ako 60 princípov odvodených z Deklarácie ľudských práv Organizácie Spojených národov, zmluvných podmienok spoločnosti Apple, princípov povzbudzujúcich zohľadňovanie nezápadných perspektív, Deepmind's Vrabčie pravidlá a antropický výskum Set 1 a Set 2.
Skutočnosť, že AI sa teraz dá naučiť správať sa podľa princípov odvodených z tak rozsiahleho a rozmanitého množstva zdrojov, je skutočne pozoruhodná. Začlenením princípov z Deklarácie ľudských práv Organizácie Spojených národov, napríklad, odpovede chatbotov teraz odrážajú dôležitosť zachovania pojmu slobody, rovnosti a bratstva. Takéto zásady sú dôležitou súčasťou zabezpečenia toho konverzácie chatbotov zostať etický a rešpektujúci. Podobne začlenenie zmluvných podmienok spoločnosti Apple zabezpečuje Chatbot zohľadňuje záujmy svojich používateľov v oblasti súkromia.
Princípy podporujúce zohľadňovanie nezápadných perspektív tiež zohrávajú dôležitú úlohu v modeli „kontextovej AI“. Tieto princípy odrážajú potrebu, aby AI rešpektovala iné kultúry a zabezpečili, že odpovede chatbotov nebudú vnímané ako škodlivé alebo urážlivé. Podobne pravidlá Deepmind Sparrow diktujú, že chatbot reaguje odpoveďami určenými na vybudovanie vzťahu s používateľom.
Začlenenie Anthropic Research Set 1 a Set 2 poskytuje konečnú záruku, že konverzácie AI zostanú civilné a úctivé. Umelá inteligencia je vyškolená, aby zaistila, že na otázky odpovedá premysleným a zdvorilým spôsobom.
Celkovo možno povedať, že model „kontextovej AI“ spoločnosti Anthropic je neuveriteľne dôležitým prielomom v oblasti výskum AI. Umožnením vyučovania AI podľa princípov odvodených z tak rozmanitej škály zdrojov sa výrazne zlepšili etické dôsledky automatizovaných konverzácií.
Prečítajte si viac o AI:
Vylúčenie zodpovednosti
V súlade s Pokyny k projektu Trust, uvedomte si, že informácie uvedené na tejto stránke nie sú zamýšľané a nemali by byť interpretované ako právne, daňové, investičné, finančné alebo iné formy poradenstva. Je dôležité investovať len toľko, koľko si môžete dovoliť stratiť a v prípade akýchkoľvek pochybností vyhľadať nezávislé finančné poradenstvo. Ak chcete získať ďalšie informácie, odporúčame vám pozrieť si zmluvné podmienky, ako aj stránky pomoci a podpory poskytnuté vydavateľom alebo inzerentom. MetaversePost sa zaviazala poskytovať presné a nezaujaté správy, ale podmienky na trhu sa môžu zmeniť bez upozornenia.
O autorovi
Damir je vedúci tímu, produktový manažér a redaktor v Metaverse Post, pokrývajúce témy ako AI/ML, AGI, LLM, Metaverse a Web3- súvisiace oblasti. Jeho články priťahujú každý mesiac obrovské publikum s viac ako miliónom používateľov. Zdá sa, že je odborníkom s 10-ročnými skúsenosťami v oblasti SEO a digitálneho marketingu. Damir bol spomenutý v Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto a ďalšie publikácie. Ako digitálny nomád cestuje medzi SAE, Tureckom, Ruskom a SNŠ. Damir získal bakalársky titul z fyziky, o ktorom sa domnieva, že mu dal schopnosti kritického myslenia potrebné na to, aby bol úspešný v neustále sa meniacom prostredí internetu.
Ďalšie články
Damir je vedúci tímu, produktový manažér a redaktor v Metaverse Post, pokrývajúce témy ako AI/ML, AGI, LLM, Metaverse a Web3- súvisiace oblasti. Jeho články priťahujú každý mesiac obrovské publikum s viac ako miliónom používateľov. Zdá sa, že je odborníkom s 10-ročnými skúsenosťami v oblasti SEO a digitálneho marketingu. Damir bol spomenutý v Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto a ďalšie publikácie. Ako digitálny nomád cestuje medzi SAE, Tureckom, Ruskom a SNŠ. Damir získal bakalársky titul z fyziky, o ktorom sa domnieva, že mu dal schopnosti kritického myslenia potrebné na to, aby bol úspešný v neustále sa meniacom prostredí internetu.
