OpenAI: AI gali padaryti daug žalos žmonėms, tačiau bandymas sustabdyti pažangą nėra išeitis
Trumpai
OpenAIDokumente „Planning for AGI and Beyond“ siūloma palaipsniui, lėtai diegti sudėtingesnius ir „protingesnius“ modelius, organizuoti nepriklausomą didelių sistemų auditą ir apriboti skaičiavimo išteklius.
OpenAI nori, kad dirbtinis intelektas būtų atviras visiems vienodai ir sukurtų nuoseklesnius ir valdomi modeliai sumažinti šališkumą ir nepageidaujamą elgesį.
OpenAI neseniai paskelbė dokumentą pavadinimu „Planavimas AGI ir ne tik“. Jame išdėstytos plačios idėjos, kuriomis vadovaujasi įmonės veiksmai, pasauliui artėjant prie AGI (dirbtinio bendro intelekto) plėtros.
| Rekomenduojama: Kaip padaryti ChatGPT ir AI turinys neaptinkamas 2023 m |
OpenAI su mano, kad nors AI gali padaryti didelę žalą žmonėms, bandymas sustabdyti pažangą nėra išeitis. Dėl to turime išmokti išlaikyti šį patobulinimą, kad jis labai nepablogėtų.
Dokumentą galima rasti čia. Išskirkime kelis esminius jo elementus:
- OpenAI nori, kad AGI padėtų žmonėms klestėti visais gyvenimo aspektais – tiek ekonomiškai, tiek moksliškai.
Užuot sukūrę super šaunų didelį AI ir iš karto paleidę jį į pasaulį, OpenAI palaipsniui pristatys sudėtingesnius ir „protingesnius“ modelius. Daroma prielaida, kad laipsniškai didėjančios AI galimybės nesukels šokiravimo pasaulio, o žmonėms bus suteikta laiko prisitaikyti, pritaikyti ekonomiką ir sukurti sąveikos su AI procedūras. - OpenAI kviečia visas organizacijas oficialiai taikyti pirmiau minėtą principą (palaipsniui diegti galingą AI). Altmanas taip pat rekomenduoja apriboti skaičiavimo išteklių, kurie gali būti naudojami modeliams apmokyti, kiekį ir nustatyti nešališką pagrindinių sistemų auditą, kol jie bus prieinami plačiajai visuomenei. Užuot dalyvavę konkursuose, pavyzdžiui, „kas pirmasis išleis šaunesnį ir didesnį modelį? OpenAI prašo įmonių dirbti kartu pagerinti AI saugą.
- OpenAI mano, kad labai svarbu, kad vyriausybės būtų informuotos apie mokymus, kurie viršija tam tikrą mastą. Tai intriguojanti koncepcija, ir mes norėtume sužinoti daugiau apie planai OpenAI turi šiuo klausimu. Šis pasiūlymas iš pradžių man neatrodo toks puikus.
- OpenAI stengsis sukurti modelius, kurie būtų patikimesni ir labiau kontroliuojami, kad būtų apribotas šališkumas ir nepalankus DI elgesys. Taikomas požiūris OpenAI Šiuo atveju modelis turi būti prieinamas plačiajai visuomenei labai ribota forma, kartu suteikiant vartotojams galimybę jį individualizuoti. Kadangi vartotojai ten negalės nieko „suasmeninti“, nesu tikras, kaip tai padės visam modeliui tapti mažiau šališku. Nebent tai atleidžia firmą nuo atsakomybės už modelio veiksmus.
Apskritai dokumentas rodo teisingą kelią. Tačiau kilo nedidelis konfliktas tarp „visuomenei iš karto neparodysime šaunių modelių, bet kalbėsime apie juos valstybėms“ ir „Žmonės turėtų žinoti apie AI pažangą“. Trumpai tariant, lauksime išsamių paaiškinimų OpenAI visomis temomis.
Skaitykite daugiau apie AI:
Atsakomybės neigimas
Remdamasi tuo, Pasitikėjimo projekto gairės, atkreipkite dėmesį, kad šiame puslapyje pateikta informacija nėra skirta ir neturėtų būti aiškinama kaip teisinė, mokesčių, investicinė, finansinė ar bet kokia kita konsultacija. Svarbu investuoti tik tai, ką galite sau leisti prarasti, ir, jei turite kokių nors abejonių, kreiptis į nepriklausomą finansinę konsultaciją. Norėdami gauti daugiau informacijos, siūlome peržiūrėti taisykles ir nuostatas bei pagalbos ir palaikymo puslapius, kuriuos pateikia išdavėjas arba reklamuotojas. MetaversePost yra įsipareigojusi teikti tikslias, nešališkas ataskaitas, tačiau rinkos sąlygos gali keistis be įspėjimo.
Apie autorių
Damiras yra komandos vadovas, produktų vadovas ir redaktorius Metaverse Post, apimantis tokias temas kaip AI/ML, AGI, LLM, Metaverse ir Web3– susijusiose srityse. Jo straipsniai kas mėnesį pritraukia didžiulę daugiau nei milijono vartotojų auditoriją. Atrodo, kad jis yra ekspertas, turintis 10 metų SEO ir skaitmeninės rinkodaros patirtį. Damiras buvo paminėtas Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ir kiti leidiniai. Jis keliauja tarp JAE, Turkijos, Rusijos ir NVS kaip skaitmeninis klajoklis. Damiras įgijo fizikos bakalauro laipsnį, kuris, jo manymu, suteikė jam kritinio mąstymo įgūdžių, reikalingų sėkmingam nuolat besikeičiančiame interneto peizaže.
Daugiau straipsnių
Damiras yra komandos vadovas, produktų vadovas ir redaktorius Metaverse Post, apimantis tokias temas kaip AI/ML, AGI, LLM, Metaverse ir Web3– susijusiose srityse. Jo straipsniai kas mėnesį pritraukia didžiulę daugiau nei milijono vartotojų auditoriją. Atrodo, kad jis yra ekspertas, turintis 10 metų SEO ir skaitmeninės rinkodaros patirtį. Damiras buvo paminėtas Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ir kiti leidiniai. Jis keliauja tarp JAE, Turkijos, Rusijos ir NVS kaip skaitmeninis klajoklis. Damiras įgijo fizikos bakalauro laipsnį, kuris, jo manymu, suteikė jam kritinio mąstymo įgūdžių, reikalingų sėkmingam nuolat besikeičiančiame interneto peizaže.
