Anthropic predlaže 'kontekstualnu umjetnu inteligenciju' za modele chata temeljene na 60 principa
Ukratko
OpenAI koristi učenje pojačanja iz ljudske povratne informacije (RLHF) za usklađivanje jezični modeli ljudskim načelima, sigurnošću i korisnošću.
Anthropic je predložio alternativni pristup: kontekstualni AI, koji uključuje ljude koji pišu ustav koji bi model trebao slijediti.
Ovaj se ustav temelji na Deklaraciji Ujedinjenih naroda o ljudskim pravima, Appleovim uvjetima pružanja usluge, načelima koja potiču razmatranje nezapadnih perspektiva.
Anthropic je predložio novi pristup obuci modela chata pomoću 'Ustavna AI'. Ova se metoda nadograđuje OpenAI'S učenje učvršćivanja iz ljudskih povratnih informacija, ali se nadovezuje na njih izbjegavajući potrebu za pisanjem detaljnih uzoraka obuke. Umjesto toga, model je osposobljen da odgovori na unos pomoću ustava koji bi trebao djelovati kao skup zakona koje model treba slijediti.
| Preporučena: exOpenAI zaposlenici su osnovali Anthropic, tvrtku koja je privukla preko 700 milijuna dolara financiranja |
Putem ove metode, umjetna inteligencija može generirati vlastite uzorke obuke procjenjujući ono što je rekla u odnosu na svoj skup zakonski prihvaćenih načela. Ova tehnika koja štedi vrijeme može se promatrati kao Isaac Asimov„s Zakoni robotike staviti u praksu.
Načela koja čine osnovu modela su previše brojna da bi se o njima detaljno raspravljalo. Međutim, oni pokrivaju mnoge teme, kao što su moral, nesklonost riziku, ekonomija i umjetna inteligencija. Svaki je razvijen kako bi pomogao pri donošenju odluka umjetne inteligencije kada treba reagirati razgovorne upute.
Anthropic je uspio učinkovito istrenirati AI model po imenu Claude, koji mu se uspješno natječe OpenAI'S ChatGPT, Koristiti Constitution-AI metoda, Claude bi mogao odgovoriti na razgovorne upite s impresivnom razinom točnosti, ali očekuju se dodatna poboljšanja jer Anthropic nastavlja graditi na ovoj tehnologiji koja mijenja igru.
Doista, ovaj novi pristup ima potencijal uštedjeti vrijeme i novac tvrtkama koje više neće trebati konstruirati vlastite uzorke obuke. Umjesto toga, ova 'gotova' metoda može se koristiti kao osnova za stvaranje prilagođenih modela - nije potrebno znanje programiranja. Također je važno napomenuti kako ova tehnologija također obećava povećanje sigurnosti kada su u pitanju razgovorni botovi. Stvaranje skupa pravno prihvaćenih načela umanjuje rizik od AI-a koji postaje skitnica.
Stoga Constitution AI ne samo da obećava da će razvoj modela chata učiniti lakšim i bržim, već će ga učiniti i sigurnijim. Situacija u kojoj svi dobivaju za svijet umjetne inteligencije i Chatbotova.
Analitički pogled na Anthropicov “kontekstualni AI” za chatbotove
Kontekstualna umjetna inteligencija tvrtke Anthropic temelji se na uključivanju više od 60 načela izvedenih iz Deklaracije Ujedinjenih naroda o ljudskim pravima, Appleovih uvjeta pružanja usluge, načela koja potiču razmatranje nezapadnih perspektiva, Deepmindova Sparrow pravila, i antropičko istraživanje Set 1 i Set 2.
Činjenica da se umjetna inteligencija sada može naučiti da se ponaša u skladu s načelima koja proizlaze iz tako širokog i raznolikog niza izvora doista je izvanredna. Uključujući načela iz Deklaracije Ujedinjenih naroda o ljudskim pravima, primjerice, odgovori chatbota sada odražavaju važnost očuvanja pojma slobode, jednakosti i bratstva. Takva su načela vitalna komponenta za osiguranje toga chatbot razgovori ostati etičan i pun poštovanja. Isto tako, uključivanje Appleovih Uvjeta pružanja usluge osigurava chatbot uzima u obzir interese privatnosti svojih korisnika.
Načela koja potiču razmatranje nezapadnih perspektiva također igraju važnu ulogu u modelu "kontekstualne umjetne inteligencije". Ova načela odražavaju potrebu da umjetna inteligencija poštuje druge kulture i osigurava da se odgovori chatbota ne doživljavaju kao štetni ili uvredljivi. Slično tome, Deepmindova Sparrow pravila nalažu da chatbot odgovara odgovorima namijenjenim izgradnji odnosa s korisnikom.
Uključivanje Anthropic Research Set 1 i Set 2 daje konačno jamstvo da AI razgovori ostaju uljuđeni i puni poštovanja. AI je obučen kako bi osigurao da na pitanja odgovara na promišljen i ljubazan način.
Sve u svemu, Anthropicov model “Contextual AI” nevjerojatno je važan napredak u polju istraživanje umjetne inteligencije. Dopuštajući da se umjetna inteligencija podučava u skladu s načelima koja proizlaze iz tako raznolikog raspona izvora, etičke implikacije automatiziranih razgovora znatno su poboljšane.
Pročitajte više o AI:
Izjava o odricanju od odgovornosti
U skladu s Smjernice projekta povjerenja, imajte na umu da informacije navedene na ovoj stranici nemaju namjeru i ne smiju se tumačiti kao pravni, porezni, investicijski, financijski ili bilo koji drugi oblik savjeta. Važno je ulagati samo ono što si možete priuštiti izgubiti i potražiti neovisni financijski savjet ako imate bilo kakvih nedoumica. Za dodatne informacije predlažemo da pogledate odredbe i uvjete, kao i stranice za pomoć i podršku koje pruža izdavatelj ili oglašivač. MetaversePost je predan točnom, nepristranom izvješćivanju, ali tržišni uvjeti podložni su promjenama bez prethodne najave.
O autoru
Damir je voditelj tima, product manager i urednik u Metaverse Post, koji pokriva teme kao što su AI/ML, AGI, LLMs, Metaverse i Web3- srodna polja. Njegovi članci privlače ogromnu publiku od preko milijun korisnika svakog mjeseca. Čini se da je stručnjak s 10 godina iskustva u SEO-u i digitalnom marketingu. Damir je spomenut u Mashableu, Wiredu, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto i druge publikacije. Putuje između UAE, Turske, Rusije i CIS-a kao digitalni nomad. Damir je stekao diplomu prvostupnika fizike, za koju vjeruje da mu je dala vještine kritičkog razmišljanja potrebne za uspjeh u stalno promjenjivom okruženju interneta.
Više članaka
Damir je voditelj tima, product manager i urednik u Metaverse Post, koji pokriva teme kao što su AI/ML, AGI, LLMs, Metaverse i Web3- srodna polja. Njegovi članci privlače ogromnu publiku od preko milijun korisnika svakog mjeseca. Čini se da je stručnjak s 10 godina iskustva u SEO-u i digitalnom marketingu. Damir je spomenut u Mashableu, Wiredu, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto i druge publikacije. Putuje između UAE, Turske, Rusije i CIS-a kao digitalni nomad. Damir je stekao diplomu prvostupnika fizike, za koju vjeruje da mu je dala vještine kritičkog razmišljanja potrebne za uspjeh u stalno promjenjivom okruženju interneta.
