Anthropic pakub vestlusmudelite jaoks välja kontekstuaalse AI, mis põhineb 60 põhimõttel
Põgusalt
OpenAI kasutab joondamiseks inimeste tagasisidest (RLHF) saadud tugevdusõpet keelemudelid inimlike põhimõtete, ohutuse ja kasulikkusega.
Anthropic pakkus välja alternatiivse lähenemisviisi: kontekstuaalne AI, mis hõlmab inimesi, kes kirjutavad põhiseaduse, mida mudel peaks järgima.
See põhiseadus põhineb ÜRO inimõiguste deklaratsioonil, Apple'i teenusetingimustel, põhimõtetel, mis julgustavad arvestama mitte-lääne perspektiive.
Anthropic on pakkunud välja uue lähenemisviisi vestlusmudelite koolitamiseks, kasutadesPõhiseaduslik AI'. See meetod põhineb OpenAI'S tugevdamise õppimine inimeste tagasisidest, kuid tugineb sellele, vältides vajadust kirjutada sügavaid treeningnäidiseid. Selle asemel koolitatakse mudelit reageerima sisendile põhiseaduse abil, mis on mõeldud toimima seaduste kogumina, mida mudel järgib.
| Soovitan: Ex-OpenAI töötajad asutasid Anthropicu, ettevõtte, mis on rahastanud üle 700 miljoni dollari |
Selle meetodi abil saab tehisintellekt luua oma koolitusnäidised, hinnates oma öeldut võrreldes oma õiguslikult aktsepteeritud põhimõtetega. Seda aega säästvat tehnikat võib vaadelda kui Isaac Asimovs Robootika seadused ellu viia.
Mudeli aluseks olevaid põhimõtteid on liiga palju, et neid üksikasjalikult arutada. Kuid need hõlmavad paljusid teemasid, nagu moraal, riskikartlikkus, majandus ja tehisintellekt. Igaüks neist on välja töötatud selleks, et aidata tehisintellekti otsuseid suunata, kui on vaja reageerida vestlusjuhised.
Anthropic on suutnud tõhusalt välja õpetada Claude'i nimelise tehisintellekti mudeli, millega edukalt konkureerib OpenAI'S ChatGPT. Kasutades Põhiseadus-AI meetod, Claude suutis vestlusjuhistele vastata muljetavaldava täpsusega, kuid oodata on täiendavaid täiustusi, kuna Anthropic jätkab selle mängu muutva tehnoloogia edasiarendamist.
Tõepoolest, see uus lähenemisviis võib säästa aega ja raha ettevõtete jaoks, kes ei pea enam ise koolitusnäidiseid koostama. Pigem saab seda "valmis" meetodit kasutada kohandatud mudelite loomisel – programmeerimisalased teadmised pole vajalikud. Samuti on oluline märkida, kuidas see tehnoloogia lubab suurendada turvalisust ka vestlusrobotite puhul. Õiguslikult aktsepteeritud põhimõtete kogumi loomine vähendab riski tehisintellekti petturitest.
Seetõttu lubab Constituation AI mitte ainult muuta vestlusmudeli väljatöötamist lihtsamaks ja kiiremaks, vaid muudab selle ka turvalisemaks. Olukord, millest võidavad nii tehisintellekti kui ka ChatBotide maailma.
Analüütiline ülevaade Anthropici vestlusrobotite kontekstuaalsest AI-st
Anthropicu kontekstuaalne AI põhineb enam kui 60 põhimõttel, mis tulenevad ÜRO inimõiguste deklaratsioonist, Apple'i teenusetingimustest, põhimõtetest, mis julgustavad arvestama mitte-lääne perspektiive, Deepmind's Varblase reeglid ja antropilised uuringud, 1. ja 2. komplekt.
Tõsiasi, et tehisintellekti saab nüüd õpetada käituma põhimõtete kohaselt, mis tulenevad nii ulatuslikust ja mitmekesisest allikate hulgast, on tõeliselt tähelepanuväärne. Kaasades näiteks ÜRO inimõiguste deklaratsiooni põhimõtted, peegeldavad vestlusrobotite vastused nüüd vabaduse, võrdsuse ja vendluse mõiste säilitamise tähtsust. Sellised põhimõtted on selle tagamise oluline osa vestlusroboti vestlused jääda eetiliseks ja lugupidavaks. Samuti tagab Apple'i teenusetingimuste lisamine chatbot arvestab oma kasutajate privaatsushuve.
Mitte-lääne perspektiivide arvestamist julgustavad põhimõtted mängivad olulist rolli ka kontekstuaalse AI mudeli puhul. Need põhimõtted peegeldavad vajadust, et tehisintellekt austaks teisi kultuure ja tagaks, et vestlusrobotite vastuseid ei peetaks kahjulikuks ega solvavaks. Samamoodi nõuavad Deepmindi Sparrow Rules, et vestlusbot vastab vastustega, mille eesmärk on luua kasutajaga suhe.
Anthropic Research Set 1 ja Set 2 kaasamine annab lõpliku garantii, et tehisintellektivestlused jäävad tsiviliseerituks ja lugupidavaks. AI on koolitatud tagama, et ta vastab küsimustele läbimõeldult ja viisakalt.
Kokkuvõttes on Anthropicu kontekstuaalne AI mudel uskumatult oluline läbimurre AI-uuringud. Lubades tehisintellekti õpetada nii erinevatest allikatest tulenevate põhimõtete järgi, paranevad automaatsete vestluste eetilised tagajärjed oluliselt.
Loe AI kohta lähemalt:
Kaebused
Vastavalt Usaldusprojekti juhised, pange tähele, et sellel lehel esitatud teave ei ole mõeldud ega tohiks tõlgendada kui juriidilist, maksu-, investeerimis-, finants- või muud nõuannet. Oluline on investeerida ainult seda, mida saate endale lubada kaotada, ja kahtluste korral küsida sõltumatut finantsnõu. Lisateabe saamiseks soovitame vaadata nõudeid ja tingimusi ning väljaandja või reklaamija pakutavaid abi- ja tugilehti. MetaversePost on pühendunud täpsele ja erapooletule aruandlusele, kuid turutingimusi võidakse ette teatamata muuta.
Umbes Autor
Damir on ettevõtte meeskonnajuht, tootejuht ja toimetaja Metaverse Post, mis hõlmab selliseid teemasid nagu AI/ML, AGI, LLM-id, Metaverse ja Web3-seotud väljad. Tema artiklid meelitavad igal kuul tohutut vaatajaskonda, üle miljoni kasutaja. Ta näib olevat ekspert, kellel on 10-aastane SEO ja digitaalse turunduse kogemus. Damirit on mainitud ajakirjades Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ja muud väljaanded. Ta reisib digitaalse nomaadina AÜE, Türgi, Venemaa ja SRÜ vahel. Damir omandas bakalaureusekraadi füüsikas, mis on tema arvates andnud talle kriitilise mõtlemise oskused, mida on vaja pidevalt muutuval Interneti-maastikul edukaks saamiseks.
Veel artikleid
Damir on ettevõtte meeskonnajuht, tootejuht ja toimetaja Metaverse Post, mis hõlmab selliseid teemasid nagu AI/ML, AGI, LLM-id, Metaverse ja Web3-seotud väljad. Tema artiklid meelitavad igal kuul tohutut vaatajaskonda, üle miljoni kasutaja. Ta näib olevat ekspert, kellel on 10-aastane SEO ja digitaalse turunduse kogemus. Damirit on mainitud ajakirjades Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ja muud väljaanded. Ta reisib digitaalse nomaadina AÜE, Türgi, Venemaa ja SRÜ vahel. Damir omandas bakalaureusekraadi füüsikas, mis on tema arvates andnud talle kriitilise mõtlemise oskused, mida on vaja pidevalt muutuval Interneti-maastikul edukaks saamiseks.
