OpenAI Tõstab häiret superintelligentsuse ja tehisintellekti potentsiaali üle inimvõimete ületamiseks järgmisel kümnendil
Põgusalt
OpenAI esitab üleskutse superintelligentsuse reguleerimiseks, rõhutades juhtimisvajadust tehisintellekti kiire arengu valguses.
Prognooside kohaselt ületavad AI-süsteemid inimeste oskusteadmisi ja ettevõtte tootlikkust kümne aasta jooksulJärgi OpenAI.
OpenAI rõhutab võimsate tehisintellektisüsteemide avaliku järelevalve ja demokraatliku kontrolli tähtsust.
OpenAI, looja ChatGPT, on esitanud mõtlemapaneva üleskutse määrus superintelligentsusest, tuues paralleele tuumaenergia määrusega. Ühes hiljutises blogi postitus, OpenAI tõi esile tehisintellekti kiire arengu võimalikud tagajärjed ja rõhutas tungivat vajadust valitsemise järele sellel areneval maastikul. Ettevõte väitis, et tehisintellektisüsteemid edestavad tootlikkuse ja oskuste poolest eksperte ja suurimaid ettevõtteid kümne aastaga.
"Me peame maandama ka tänapäeva tehisintellekti tehnoloogia riske, kuid superintellekt nõuab erilist kohtlemist ja koordineerimist," ütles Sam Altman, Greg Brockman ja Ilya Sutskever. OpenAI rõhutas.
Superintelligentsus kirjeldab olemit, mis ületab inimese üldist intelligentsust või mõningaid intelligentsuse spetsiifilisi aspekte. Autorite sõnul on AI superintellektil enneolematu jõud, mis hõlmab nii positiivseid kui ka negatiivseid aspekte.
Vältimatu superintelligentsuse areng ja riskid
OpenAI on tuvastanud kolm olulist ideed, mis mängivad üliintelligentsuse edukas arengus navigeerimisel keskset rolli. Need hõlmavad juhtivate arendustegevuste koordineerimist, Rahvusvahelise Aatomienergiaagentuuriga (IAEA) sarnase rahvusvahelise asutuse loomist ja ohutusega seotud tehniliste võimete arendamist.
Kui OpenAI tunnistab, et tehisintellektisüsteemidega kaasnevad riskid, on need riskid võrreldavad muude Internetiga seotud tehnoloogiatega seotud riskidega. Altman, Brockman ja Sutskever väljendavad samuti kindlustunnet, et ühiskonna praegused lähenemisviisid nende riskide maandamiseks on sobivad. Peamine mure on aga tulevaste süsteemide pärast, millel on enneolematu jõud.
"Seevastu süsteemidel, mille pärast oleme mures, on võimsus, mis ületab mis tahes seni loodud tehnoloogiat, ja me peaksime olema ettevaatlikud, et mitte vähendada neile keskendumist, rakendades sarnaseid standardeid tehnoloogiale, mis on palju allpool seda riba," seisis ajaveebi postituses.
Autorid väidavad, et võimsad AI-süsteemid vajavad avalikku järelevalvet ja demokraatlikku kontrolli. Samuti selgitavad nad, miks nad seda tehnoloogiat ehitavad OpenAI: luua parem maailm ja vältida selle peatamise riske. AI aitab erinevates valdkondades, sealhulgas hariduses, loovuses ja tootlikkuses, aga ka üldises majanduskasvus.
OpenAI arvab, et see on raske ja riskantne lõpeta superintellekt loomisest. Superintellektil on märkimisväärseid eeliseid, see muutub iga aastaga odavamaks, selle kallal töötab rohkem inimesi ja see on osa ettevõtte tehnoloogiateest.
Ilman Šažajev, tehisintellekti valdkonna ettevõtja ja ettevõtte kaasasutaja Farcana laborid, jagas uudise kohta paar kommentaari. Prognoosid näitavad, et kui seda õigesti ei juhita, võib superintelligents olla üks inimese kõigi aegade hävitavamaid leiutisi. Vestlused tehnoloogia kasutuselevõtu üle jäävad aga lahkarvamusele, kuna seda pole veel välja töötatud. Prognooside hirmul põhinev arengu peatamine võib inimkonna ilma jätta uutest tehnoloogiatest tulenevatest võimalustest.
"OpenAIdetsentraliseeritud valitsemise lähenemisviis võib aidata säilitada selle laiaulatuslikku turvalisust. Õigete regulatsioonide korral võidakse programm sulgeda kujutab endast ohtu. Kui need kaitsemeetmed oleksid paigas, võib superintellekt olla uuendus, mida tasub uurida, ”ütles Shazhaev.
Arutades avalikult oma seisukohti tehisintellekti ja kavandatavate regulatiivsete meetmete kohta, OpenAI näib soodustavat teadlikke arutelusid ja kutsuvat esile erinevaid vaatenurki.
Sam Altman usub kindlalt avalikkusele laialdaselt kättesaadavaks teha tehisintellekti. Mööndes, et kõiki probleeme on võimatu ette näha, soovitab ta probleemidega tegeleda võimalikult varajases staadiumis. Siiski rõhutab Altman ka sõltumatute auditite tähtsust selliste süsteemide jaoks nagu ChatGPT enne vabastamist. Lisaks tunnistab ta võimalust rakendada selliseid meetmeid nagu uute mudelite loomise tempo piiramine või komitee loomine hinnata tehisintellekti mudelite ohutust enne turule laskmist. Altman ennustab, et universumi intelligentsuse hulk kahekordistub iga 18 kuu järel.
Loe rohkem:
Kaebused
Vastavalt Usaldusprojekti juhised, pange tähele, et sellel lehel esitatud teave ei ole mõeldud ega tohiks tõlgendada kui juriidilist, maksu-, investeerimis-, finants- või muud nõuannet. Oluline on investeerida ainult seda, mida saate endale lubada kaotada, ja kahtluste korral küsida sõltumatut finantsnõu. Lisateabe saamiseks soovitame vaadata nõudeid ja tingimusi ning väljaandja või reklaamija pakutavaid abi- ja tugilehti. MetaversePost on pühendunud täpsele ja erapooletule aruandlusele, kuid turutingimusi võidakse ette teatamata muuta.
Umbes Autor
Agne on ajakirjanik, kes kajastab uusimaid trende ja arenguid metaversumis, AI-s ja Web3 tööstused Metaverse Post. Tema kirg lugude jutustamise vastu on viinud ta andma arvukalt intervjuusid nende valdkondade ekspertidega, püüdes alati avastada põnevaid ja kaasahaaravaid lugusid. Agnel on bakalaureusekraad kirjanduses ja tal on laialdane taust kirjutamisel väga erinevatel teemadel, sealhulgas reisimine, kunst ja kultuur. Ta on olnud ka vabatahtlik toimetaja loomaõiguste organisatsioonis, kus ta aitas tõsta teadlikkust loomade heaolu küsimustest. Võtke temaga ühendust [meiliga kaitstud].
Veel artikleid
Agne on ajakirjanik, kes kajastab uusimaid trende ja arenguid metaversumis, AI-s ja Web3 tööstused Metaverse Post. Tema kirg lugude jutustamise vastu on viinud ta andma arvukalt intervjuusid nende valdkondade ekspertidega, püüdes alati avastada põnevaid ja kaasahaaravaid lugusid. Agnel on bakalaureusekraad kirjanduses ja tal on laialdane taust kirjutamisel väga erinevatel teemadel, sealhulgas reisimine, kunst ja kultuur. Ta on olnud ka vabatahtlik toimetaja loomaõiguste organisatsioonis, kus ta aitas tõsta teadlikkust loomade heaolu küsimustest. Võtke temaga ühendust [meiliga kaitstud].
