OpenAI Sukelia nerimą dėl superintelekto ir AI potencialo per ateinantį dešimtmetį pranokti žmogaus galimybes
Trumpai
OpenAI skelbia raginimą reguliuoti superintelektą, pabrėždamas valdymo poreikį atsižvelgiant į sparčią AI pažangą.
Prognozuojama, kad dirbtinio intelekto sistemos pranoks žmogaus kompetenciją ir įmonės produktyvumą per dešimtmetįPagal OpenAI.
OpenAI pabrėžia galingų dirbtinio intelekto sistemų viešosios priežiūros ir demokratinės kontrolės svarbą.
OpenAI, kūrėjas ChatGPT, paskatino susimąstyti reguliavimas superintelekto, lygiagrečiai su branduolinės energijos reguliavimu. Neseniai dienoraštyje, OpenAI pabrėžė galimas sparčios AI pažangos pasekmes ir pabrėžė neatidėliotiną valdymo poreikį šioje besikeičiančioje aplinkoje. Bendrovė teigė, kad dirbtinio intelekto sistemos per dešimt metų pralenks ekspertus ir didžiausias korporacijas produktyvumu ir įgūdžiais.
„Mes taip pat turime sumažinti šių dienų dirbtinio intelekto technologijų riziką, tačiau superintelektui reikės ypatingo elgesio ir koordinavimo“, – sakė Samas Altmanas, Gregas Brockmanas ir Ilja Sutskeveris. OpenAI pabrėžė.
Superintelektas apibūdina subjektą, kuris viršija bendrą žmogaus intelektą arba kai kuriuos konkrečius intelekto aspektus. Pasak autorių, AI superintelektas turės neprilygstamą galią, apimančią tiek teigiamus, tiek neigiamus aspektus.
Neišvengiamo superintelekto raida ir rizika
OpenAI nustatė tris svarbias idėjas, kurios atlieka pagrindinį vaidmenį sėkmingai plėtojant superintelektą. Tai apima pirmaujančių plėtros pastangų koordinavimą, tarptautinės institucijos, panašios į Tarptautinę atominės energijos agentūrą (TATENA), sukūrimą ir techninių saugos pajėgumų plėtojimą.
O OpenAI pripažįsta, kad dirbtinio intelekto sistemos yra susijusios su rizika, ši rizika yra panaši į riziką, susijusią su kitomis su internetu susijusiomis technologijomis. Altmanas, Brockmanas ir Sutskeveris taip pat išreiškia pasitikėjimą, kad dabartinis visuomenės požiūris į šių pavojų valdymą yra tinkamas. Tačiau pagrindinis rūpestis yra dėl ateities sistemų, kurios turės precedento neturinčią galią.
„Priešingai, sistemos, dėl kurių nerimaujame, turės galią, viršijančią bet kokią dar sukurtą technologiją, ir turėtume būti atsargūs, kad nesumažintume joms dėmesio, taikydami panašius standartus technologijoms, kurios yra daug žemiau šios juostos“, – rašoma tinklaraščio įraše.
Autoriai teigia, kad galingoms AI sistemoms reikia viešosios priežiūros ir demokratinės kontrolės. Jie taip pat paaiškina, kodėl kuria šią technologiją OpenAI: sukurti geresnį pasaulį ir išvengti rizikos jį sustabdyti. AI padeda įvairiose srityse, įskaitant švietimą, kūrybiškumą ir produktyvumą, taip pat bendrą ekonomikos augimą.
OpenAI mano, kad tai sunku ir rizikinga sustabdyti superintelektą nuo sukūrimo. Superintelektas turi nemažą naudą, kasmet pigėja, prie jo dirba daugiau žmonių ir tai yra įmonės technologijų kelio dalis.
Ilmanas Šažajevas, DI technologijų verslininkas ir vienas iš įkūrėjų Farcana laboratorijos, pasidalino keliais komentarais apie naujienas. Prognozės rodo, kad netinkamai valdomas superintelektas gali būti vienas žalingiausių visų laikų žmogaus išradimų. Tačiau pokalbiai dėl technologijos diegimo tebėra nesutarimų, nes ji dar nebuvo sukurta. Spaudžiant sustabdyti plėtrą, pagrįstą prognozių baime, žmonija gali atimti galimybes, kurias gali turėti naujoji technologija.
"OpenAIdecentralizuoto valdymo metodas gali padėti išlaikyti platų jo saugumą. Laikantis tinkamų taisyklių, programa gali būti išjungta kelia grėsmę. Jei šios apsaugos priemonės bus įdiegtos, superintelektas gali būti naujovė, kurią verta ištirti“, – sakė Shazhaev.
Atvirai aptardamas savo požiūrį į AI superintelektą ir siūlomas reguliavimo priemones, OpenAI atrodo, kad skatina pagrįstas diskusijas ir kviečia pažvelgti į įvairias perspektyvas.
Samas Altmanas tvirtai tiki plačiai paplitęs AI prieinamumas visuomenei. Pripažindamas, kad visų problemų iš anksto numatyti neįmanoma, jis pasisako už tai, kad problemas būtų sprendžiama kuo anksčiau. Tačiau Altmanas taip pat pabrėžia nepriklausomų auditų svarbą tokioms sistemoms kaip ChatGPT prieš išleidimą. Jis taip pat pripažįsta galimybę įgyvendinti priemones, pavyzdžiui, apriboti naujo modelio kūrimo tempą arba įsteigti komitetą įvertinti AI modelių saugumą prieš išleidimą į rinką. Pažymėtina, kad Altmanas prognozuoja, kad intelekto kiekis visatoje padvigubės kas 18 mėnesių.
Plačiau paskaitykite čia:
Atsakomybės neigimas
Remdamasi tuo, Pasitikėjimo projekto gairės, atkreipkite dėmesį, kad šiame puslapyje pateikta informacija nėra skirta ir neturėtų būti aiškinama kaip teisinė, mokesčių, investicinė, finansinė ar bet kokia kita konsultacija. Svarbu investuoti tik tai, ką galite sau leisti prarasti, ir, jei turite kokių nors abejonių, kreiptis į nepriklausomą finansinę konsultaciją. Norėdami gauti daugiau informacijos, siūlome peržiūrėti taisykles ir nuostatas bei pagalbos ir palaikymo puslapius, kuriuos pateikia išdavėjas arba reklamuotojas. MetaversePost yra įsipareigojusi teikti tikslias, nešališkas ataskaitas, tačiau rinkos sąlygos gali keistis be įspėjimo.
Apie autorių
Agnė yra žurnalistė, kuri pasakoja apie naujausias tendencijas ir pokyčius metaverse, AI ir Web3 pramonės šakoms Metaverse Post. Jos aistra pasakojimui paskatino ją vesti daugybę interviu su šių sričių ekspertais, visada siekdama atskleisti įdomių ir įtraukiančių istorijų. Agnė yra įgijusi literatūros bakalauro laipsnį ir daug rašo įvairiomis temomis, įskaitant keliones, meną ir kultūrą. Ji taip pat savanoriavo gyvūnų teisių organizacijos redaktore, kur padėjo didinti informuotumą apie gyvūnų gerovės problemas. Susisiekite su ja [apsaugotas el. paštu].
Daugiau straipsnių
Agnė yra žurnalistė, kuri pasakoja apie naujausias tendencijas ir pokyčius metaverse, AI ir Web3 pramonės šakoms Metaverse Post. Jos aistra pasakojimui paskatino ją vesti daugybę interviu su šių sričių ekspertais, visada siekdama atskleisti įdomių ir įtraukiančių istorijų. Agnė yra įgijusi literatūros bakalauro laipsnį ir daug rašo įvairiomis temomis, įskaitant keliones, meną ir kultūrą. Ji taip pat savanoriavo gyvūnų teisių organizacijos redaktore, kur padėjo didinti informuotumą apie gyvūnų gerovės problemas. Susisiekite su ja [apsaugotas el. paštu].
