Anthropic ehdottaa "kontekstuaalista tekoälyä" chat-malleille, joka perustuu 60 periaatteeseen
Lyhyesti
OpenAI kohdistamiseen käyttää vahvistusoppimista ihmisen palautteen perusteella (RLHF). kielimalleja inhimillisillä periaatteilla, turvallisuudella ja hyödyllisyydellä.
Anthropic ehdotti vaihtoehtoista lähestymistapaa: kontekstuaalista tekoälyä, jossa ihmiset kirjoittavat perustuslain, jota mallin tulisi noudattaa.
Tämä perustuslaki perustuu Yhdistyneiden Kansakuntien ihmisoikeuksien julistukseen, Applen palveluehtoihin, periaatteisiin, jotka kannustavat huomioimaan ei-länsiläiset.
Anthropic on ehdottanut uutta lähestymistapaa chat-mallien kouluttamiseen käyttämällä "Perustuslaillinen AI'. Tämä menetelmä perustuu OpenAI'S vahvistaminen oppiminen ihmispalautteesta, mutta perustuu siihen välttämällä tarvetta kirjoittaa syvällisiä harjoitusnäytteitä. Sen sijaan mallia opetetaan vastaamaan panokseen käyttämällä perustuslakia, jonka on tarkoitus toimia mallin noudattamana lakikokoelmana.
Tämän menetelmän avulla tekoäly voi luoda omia harjoitusnäytteitään arvioimalla, mitä se on sanonut verrattuna laillisesti hyväksyttyihin periaatteisiinsa. Tämä aikaa säästävä tekniikka voidaan nähdä mm Isaac Asimovn Robotiikan lait laittaa käytäntöön.
Periaatteet, jotka muodostavat mallin perustan, ovat liian lukuisia, jotta niitä voitaisiin käsitellä yksityiskohtaisesti. Ne kattavat kuitenkin monia aiheita, kuten moraalin, riskin välttämisen, talouden ja tekoälyn. Jokainen niistä on kehitetty ohjaamaan tekoälyn päätöksiä, kun se tulee vastaamaan keskustelun kehotteet.
Anthropic on onnistunut kouluttamaan tehokkaasti tekoälymallin nimeltä Claude, joka kilpailee menestyksekkäästi OpenAI'S ChatGPT. Käyttämällä Constitution-AI-menetelmä, Claude pystyi vastaamaan keskustelukehotuksiin vaikuttavalla tarkkuudella, mutta lisäparannuksia odotetaan, kun Anthropic jatkaa rakentamista tähän peliä muuttavaan tekniikkaan.
Tämä uusi lähestymistapa voi todellakin säästää aikaa ja rahaa yrityksille, joiden ei enää tarvitse rakentaa omia koulutusnäytteitään. Pikemminkin tätä "valmis" menetelmää voidaan käyttää perustana räätälöityjen mallien luomiseen - ohjelmointiosaamista ei tarvita. On myös tärkeää huomata, kuinka tämä tekniikka lupaa myös lisätä turvallisuutta keskustelubottien suhteen. Luodaan joukko laillisesti hyväksyttyjä periaatteita vähentää riskiä tekoälyn roistosta.
Siksi Constituation AI ei vain lupaa tehdä chat-mallin kehittämisestä helpompaa ja nopeampaa, vaan se tekee siitä myös turvallisemman. Win-win-tilanne sekä tekoälyn että chatbottien maailmalle.
Analyyttinen katsaus Anthropicin "kontekstuaaliseen tekoälyyn" chatboteille
Anthropicin kontekstuaalinen tekoäly perustuu yli 60 periaatteeseen, jotka on johdettu Yhdistyneiden Kansakuntien ihmisoikeusjulistuksesta, Applen palveluehdoista, periaatteista, jotka kannustavat huomioimaan ei-länsimaisia näkökulmia, Deepmindin Sparrow Rules ja Anthropic Research Set 1 and Set 2.
Se tosiasia, että tekoäly voidaan nyt opettaa toimimaan näin laajasta ja monipuolisesta lähteiden valikoimasta johdettujen periaatteiden mukaisesti, on todella merkittävää. Sisällyttämällä esimerkiksi Yhdistyneiden Kansakuntien ihmisoikeuksien julistuksen periaatteet chatbot-vastaukset heijastavat nyt vapauden, tasa-arvon ja veljeyden käsitteiden säilyttämisen tärkeyttä. Tällaiset periaatteet ovat olennainen osa sen varmistamista chatbot-keskusteluja pysyä eettisenä ja kunnioittavana. Samoin Applen käyttöehtojen sisällyttäminen takaa chatbot ottaa huomioon käyttäjiensä yksityisyyden edut.
Periaatteet, jotka kannustavat huomioimaan ei-länsimaisia näkökulmia, ovat myös tärkeässä roolissa "Contextual AI" -mallissa. Nämä periaatteet kuvastavat tekoälyn tarvetta kunnioittaa muita kulttuureja ja varmistaa, että chatbotin vastauksia ei pidetä haitallisina tai loukkaavina. Samoin Deepmindin Sparrow Rules määrää, että chatbot vastaa vastauksilla, joiden tarkoituksena on rakentaa suhdetta käyttäjään.
Anthropic Research Set 1:n ja Set 2:n yhdistäminen antaa lopullisen takuun siitä, että tekoälykeskustelut pysyvät sivistyneenä ja kunnioittavasti. Tekoäly on koulutettu varmistamaan, että se vastaa kysymyksiin harkiten ja kohteliaasti.
Kaiken kaikkiaan Anthropicin "Contextual AI" -malli on uskomattoman tärkeä läpimurto AI tutkimus. Kun tekoäly voidaan opettaa niin monista eri lähteistä peräisin olevien periaatteiden mukaisesti, automatisoitujen keskustelujen eettiset vaikutukset paranevat huomattavasti.
Lue lisää tekoälystä:
Vastuun kieltäminen
Mukaisesti Luottamusprojektin ohjeetHuomaa, että tällä sivulla annettuja tietoja ei ole tarkoitettu eikä niitä tule tulkita oikeudellisiksi, verotukselliseksi, sijoitus-, rahoitus- tai minkään muun muodon neuvoiksi. On tärkeää sijoittaa vain sen verran, mitä sinulla on varaa menettää, ja pyytää riippumatonta talousneuvontaa, jos sinulla on epäilyksiä. Lisätietoja saat käyttöehdoista sekä myöntäjän tai mainostajan tarjoamista ohje- ja tukisivuista. MetaversePost on sitoutunut tarkkaan, puolueettomaan raportointiin, mutta markkinaolosuhteet voivat muuttua ilman erillistä ilmoitusta.
Author
Damir on tiimin johtaja, tuotepäällikkö ja toimittaja osoitteessa Metaverse Post, kattaa aiheita, kuten AI/ML, AGI, LLMs, Metaverse ja Web3- liittyvät kentät. Hänen artikkelinsa houkuttelevat yli miljoonan käyttäjän massiivisen yleisön joka kuukausi. Hän näyttää olevan asiantuntija, jolla on 10 vuoden kokemus hakukoneoptimoinnista ja digitaalisesta markkinoinnista. Damir on mainittu Mashablessa, Wiredissä, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ja muut julkaisut. Hän matkustaa Arabiemiirikuntien, Turkin, Venäjän ja IVY-maiden välillä digitaalisena nomadina. Damir suoritti kandidaatin tutkinnon fysiikasta, jonka hän uskoo antaneen hänelle kriittisen ajattelun taidot menestyäkseen jatkuvasti muuttuvassa internetin maisemassa.
lisää artikkeleita
Damir on tiimin johtaja, tuotepäällikkö ja toimittaja osoitteessa Metaverse Post, kattaa aiheita, kuten AI/ML, AGI, LLMs, Metaverse ja Web3- liittyvät kentät. Hänen artikkelinsa houkuttelevat yli miljoonan käyttäjän massiivisen yleisön joka kuukausi. Hän näyttää olevan asiantuntija, jolla on 10 vuoden kokemus hakukoneoptimoinnista ja digitaalisesta markkinoinnista. Damir on mainittu Mashablessa, Wiredissä, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ja muut julkaisut. Hän matkustaa Arabiemiirikuntien, Turkin, Venäjän ja IVY-maiden välillä digitaalisena nomadina. Damir suoritti kandidaatin tutkinnon fysiikasta, jonka hän uskoo antaneen hänelle kriittisen ajattelun taidot menestyäkseen jatkuvasti muuttuvassa internetin maisemassa.
