OpenAI: AI võib inimestele palju kahju teha, kuid edusamme peatada pole võimalik
Põgusalt
OpenAIDokumendis “Planning for AGI and Beyond” soovitatakse keerukamate ja “nutikamate” mudelite järkjärgulist ja aeglast kasutuselevõttu, suurte süsteemide sõltumatute auditite korraldamist ja arvutusressursside piiramist.
OpenAI soovib, et tehisintellekt oleks kõigile võrdselt avatud ja looks ühtsema ja juhitavad mudelid eelarvamuste ja soovimatu käitumise vähendamiseks.
OpenAI avaldas hiljuti dokumendi pealkirjaga "Planning for AGI and Beyond". See toob välja laialdased ideed, mis juhivad ettevõtte tegevust, kui maailm läheneb AGI (tehisintellekti) arengule.
OpenAI usub, et kuigi tehisintellekt võib inimestele olulist kahju tekitada, ei ole katsed edusamme peatada. Selle tulemusena peame õppima, kuidas seda täiustust säilitada, et see oluliselt ei halveneks.
Dokument on leitav siin. Toome välja mõned olulised elemendid:
- OpenAI soovib, et AGI aitaks inimestel areneda kõigis oma eluvaldkondades, nii majanduslikult kui ka teaduslikult.
Selle asemel, et luua ülilahe suur tehisintellekt ja see kohe maailma vabastada, OpenAI hakkab järk-järgult juurutama keerukamaid ja “nutikamaid” mudeleid. Eelduseks on, et järk-järgult suurenevad AI-võimalused ei šokeeri maailma, andes inimestele aega kohanemiseks, majanduse kohandamiseks ja tehisintellektiga suhtlemise protseduuride väljatöötamiseks. - OpenAI kutsub kõiki organisatsioone üles eelnimetatud põhimõtet ametlikult kasutusele võtma (võimas AI järk-järgult kasutusele võtma). Altman soovitab ka piirata mudelite koolitamiseks kasutatavate arvutusressursside hulka ja korraldada suuremate süsteemide erapooletuid auditeid enne nende avalikkusele kättesaadavaks tegemist. Selle asemel, et osaleda sellistes võistlustes nagu "kes on esimene, kes laseb välja lahedama ja suurema mudeli?" OpenAI palub ettevõtetel seda teha koos töötama tehisintellekti ohutuse parandamiseks.
- OpenAI usub, et valitsuste teavitamine teatud ulatust ületavatest koolitustest on ülioluline. See on intrigeeriv kontseptsioon ja me tahaksime selle kohta rohkem teada saada plaanid OpenAI on sellega seoses. See ettepanek ei tundu mulle alguses kuigi hea.
- OpenAI püüab välja töötada mudeleid, mis on töökindlamad ja paremini juhitavad, mis tõenäoliselt piiravad AI-s eelarvamusi ja ebasoodsat käitumist. Kasutatud lähenemine OpenAI antud juhul on mudel teha üldsusele kättesaadavaks väga piiratud kujul, andes samas kasutajatele võimaluse seda isikupärastada. Kuna tarbijad ei saa seal midagi isikupärastada, pole ma kindel, kuidas see aitab mudelil tervikuna vähem kallutatud olla. Kui see just ei vabasta firmat vastutusest modelli tegude eest.
Üldiselt osutab dokument õigele teele. Küll aga tekkis väike konflikt “me ei näita kohe avalikkusele lahedaid mudeleid, vaid räägime neist osariikidele” ja "Inimesed peaksid teadma AI edenemise kohta." Lühidalt, me ootame üksikasjalikke selgitusi OpenAI kõigil teemadel.
Loe AI kohta lähemalt:
Kaebused
Vastavalt Usaldusprojekti juhised, pange tähele, et sellel lehel esitatud teave ei ole mõeldud ega tohiks tõlgendada kui juriidilist, maksu-, investeerimis-, finants- või muud nõuannet. Oluline on investeerida ainult seda, mida saate endale lubada kaotada, ja kahtluste korral küsida sõltumatut finantsnõu. Lisateabe saamiseks soovitame vaadata nõudeid ja tingimusi ning väljaandja või reklaamija pakutavaid abi- ja tugilehti. MetaversePost on pühendunud täpsele ja erapooletule aruandlusele, kuid turutingimusi võidakse ette teatamata muuta.
Umbes Autor
Damir on ettevõtte meeskonnajuht, tootejuht ja toimetaja Metaverse Post, mis hõlmab selliseid teemasid nagu AI/ML, AGI, LLM-id, Metaverse ja Web3-seotud väljad. Tema artiklid meelitavad igal kuul tohutut vaatajaskonda, üle miljoni kasutaja. Ta näib olevat ekspert, kellel on 10-aastane SEO ja digitaalse turunduse kogemus. Damirit on mainitud ajakirjades Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ja muud väljaanded. Ta reisib digitaalse nomaadina AÜE, Türgi, Venemaa ja SRÜ vahel. Damir omandas bakalaureusekraadi füüsikas, mis on tema arvates andnud talle kriitilise mõtlemise oskused, mida on vaja pidevalt muutuval Interneti-maastikul edukaks saamiseks.
Veel artikleid
Damir on ettevõtte meeskonnajuht, tootejuht ja toimetaja Metaverse Post, mis hõlmab selliseid teemasid nagu AI/ML, AGI, LLM-id, Metaverse ja Web3-seotud väljad. Tema artiklid meelitavad igal kuul tohutut vaatajaskonda, üle miljoni kasutaja. Ta näib olevat ekspert, kellel on 10-aastane SEO ja digitaalse turunduse kogemus. Damirit on mainitud ajakirjades Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ja muud väljaanded. Ta reisib digitaalse nomaadina AÜE, Türgi, Venemaa ja SRÜ vahel. Damir omandas bakalaureusekraadi füüsikas, mis on tema arvates andnud talle kriitilise mõtlemise oskused, mida on vaja pidevalt muutuval Interneti-maastikul edukaks saamiseks.
