Az Anthropic egy „kontextuális mesterséges intelligenciát” javasol a chat-modellekhez 60 alapelv alapján
Röviden
OpenAI az emberi visszacsatolásból (RLHF) származó megerősítő tanulást használja az igazításhoz nyelvi modellek emberi elvekkel, biztonsággal és hasznossággal.
Az Anthropic egy alternatív megközelítést javasolt: a kontextuális AI-t, amelyben az emberek olyan alkotmányt írnak, amelyet a modellnek követnie kell.
Ez az alkotmány az Egyesült Nemzetek Emberi Jogok Nyilatkozatán, az Apple szolgáltatási feltételein, valamint a nem nyugati perspektívák figyelembevételét ösztönző elveken alapul.
Az Anthropic új megközelítést javasolt a csevegési modellek képzéséhez a "Alkotmányos AI'. Ez a módszer arra épül OpenAI'S megerősítő tanulás emberi visszajelzésekből, hanem arra épít, hogy elkerüli a mélyreható képzési minták írását. Ehelyett a modellt arra tanítják, hogy reagáljon a bemenetre egy olyan alkotmány használatával, amely a modell által követendő törvények halmazaként működik.
Ezzel a módszerrel a mesterséges intelligencia saját képzési mintáit állíthatja elő, értékelve az általa elmondottakat a jogilag elfogadott elvekkel szemben. Ez az időtakarékos technika úgy tekinthető Isaac Asimov„s A robotika törvényei gyakorlatba iktat.
A modell alapját képező elvek túl sokak ahhoz, hogy részletesen tárgyaljuk. Azonban számos témát érintenek, például az erkölcsöt, a kockázatkerülést, a közgazdaságtant és a mesterséges intelligenciát. Mindegyiket azért fejlesztették ki, hogy segítsenek az AI döntéseiben, amikor a válaszadásról van szó beszélgetési felszólítások.
Az Anthropicnak sikerült hatékonyan kiképeznie egy Claude nevű AI-modellt, amely sikeresen versenyez vele OpenAI'S ChatGPT. Használni a Alkotmány-AI módszer, Claude lenyűgöző pontossággal tudott válaszolni a beszélgetési felszólításokra, de további fejlesztések várhatók, mivel az Anthropic továbbra is épít erre a játékot megváltoztató technológiára.
Valójában ez az új megközelítés időt és pénzt takaríthat meg azon vállalatok számára, amelyeknek többé nem kell saját képzési mintákat készíteniük. Inkább ez a „kész” módszer alapul szolgálhat egyedi modellek létrehozásához – nincs szükség programozási ismeretekre. Azt is fontos megjegyezni, hogy ez a technológia a biztonság növelését ígéri a társalgási botok esetében. Jogilag elfogadott elvek halmazának megalkotása csökkenti a kockázatot a mesterséges intelligencia szélhámos.
Ezért a Constituation AI nemcsak azt ígéri, hogy egyszerűbbé és gyorsabbá teszi a chat-modell fejlesztését, hanem biztonságosabbá is teszi. Mindenki számára előnyös helyzet a mesterséges intelligencia és a ChatBotok világa számára.
Analitikus pillantás az Anthropic chatbotokhoz készült „kontextuális AI-jára”.
Az Anthropic kontextuális mesterséges intelligencia több mint 60 alapelvének beépítésén alapul, amelyek az Egyesült Nemzetek Emberi Jogok Nyilatkozatából, az Apple szolgáltatási feltételeiből, a nem nyugati perspektívák figyelembevételét ösztönző elvekből, Deepmind Sparrow Rules és Anthropic Research 1. és 2. készlet.
Az a tény, hogy a mesterséges intelligencia ma már megtanítható a források ilyen kiterjedt és változatos skálájából származó elvek szerint viselkedni, valóban figyelemre méltó. Például az ENSZ Emberi Jogok Nyilatkozatának elveinek beépítésével a chatbot válaszai immár tükrözik a szabadság, az egyenlőség és a testvériség fogalmának megőrzésének fontosságát. Az ilyen elvek ennek biztosításának létfontosságú elemei chatbot beszélgetések maradjon etikus és tiszteletteljes. Hasonlóképpen, az Apple szolgáltatási feltételeinek beépítése biztosítja a chatbot figyelembe veszi a felhasználók adatvédelmi érdekeit.
A nem nyugati perspektívák figyelembevételét ösztönző elvek szintén fontos szerepet játszanak a „kontextuális AI” modellben. Ezek az alapelvek azt tükrözik, hogy az AI-nak tiszteletben kell tartania más kultúrákat, és biztosítania kell, hogy a chatbot válaszait ne tekintsék károsnak vagy sértőnek. Hasonlóképpen, a Deepmind Sparrow Rules előírja, hogy a chatbot olyan válaszokkal válaszoljon, amelyek célja a felhasználóval való kapcsolat kialakítása.
Az Anthropic Research Set 1 és Set 2 beépítése biztosítja a végső garanciát arra, hogy a mesterséges intelligencia beszélgetések civilek és tiszteletteljesek maradjanak. Az AI-t arra képezték ki, hogy a kérdésekre átgondolt és udvarias módon válaszoljon.
Összességében az Anthropic „Contextual AI” modellje hihetetlenül fontos áttörést jelent a AI kutatás. Azáltal, hogy lehetővé teszi a mesterséges intelligencia oktatását a sokféle forrásból származó elvek szerint, az automatizált beszélgetések etikai vonatkozásai jelentősen javulnak.
Tudjon meg többet az AI-ról:
A felelősség megtagadása
Összhangban a A Trust Project irányelvei, kérjük, vegye figyelembe, hogy az ezen az oldalon közölt információk nem minősülnek jogi, adózási, befektetési, pénzügyi vagy bármilyen más formájú tanácsnak, és nem is értelmezhetők. Fontos, hogy csak annyit fektessen be, amennyit megengedhet magának, hogy elveszítsen, és kérjen független pénzügyi tanácsot, ha kétségei vannak. További információkért javasoljuk, hogy tekintse meg a szerződési feltételeket, valamint a kibocsátó vagy hirdető által biztosított súgó- és támogatási oldalakat. MetaversePost elkötelezett a pontos, elfogulatlan jelentéstétel mellett, de a piaci feltételek előzetes értesítés nélkül változhatnak.
A szerzőről
Damir a csapat vezetője, termékmenedzsere és szerkesztője Metaverse Post, olyan témákkal foglalkozik, mint az AI/ML, AGI, LLMs, Metaverse és Web3- kapcsolódó mezők. Cikkei havonta több mint egymillió felhasználót vonzanak. Úgy tűnik, szakértő, aki 10 éves tapasztalattal rendelkezik a SEO és a digitális marketing területén. Damirt a Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto és más kiadványok. Digitális nomádként utazik az Egyesült Arab Emírségek, Törökország, Oroszország és a FÁK között. Damir fizikából szerzett bachelor-diplomát, és úgy gondolja, hogy ez megadta neki azokat a kritikus gondolkodási készségeket, amelyek szükségesek ahhoz, hogy sikeres legyen az internet folyamatosan változó táján.
További cikkek
Damir a csapat vezetője, termékmenedzsere és szerkesztője Metaverse Post, olyan témákkal foglalkozik, mint az AI/ML, AGI, LLMs, Metaverse és Web3- kapcsolódó mezők. Cikkei havonta több mint egymillió felhasználót vonzanak. Úgy tűnik, szakértő, aki 10 éves tapasztalattal rendelkezik a SEO és a digitális marketing területén. Damirt a Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto és más kiadványok. Digitális nomádként utazik az Egyesült Arab Emírségek, Törökország, Oroszország és a FÁK között. Damir fizikából szerzett bachelor-diplomát, és úgy gondolja, hogy ez megadta neki azokat a kritikus gondolkodási készségeket, amelyek szükségesek ahhoz, hogy sikeres legyen az internet folyamatosan változó táján.
