Dario Amodei perspėja apie valdymo spragas, dirbtiniam intelektui lenkiant politiką, ir ragina imtis privalomų saugumo bei ekonominių reformų.
Trumpai
„Anthropic“ generalinis direktorius Dario Amodei apibūdina dirbtinio intelekto keliamą riziką ir siūlo griežtesnį reguliavimą, ekonomines apsaugos priemones ir pasaulinį koordinavimą, siekiant valdyti sparčią dirbtinio intelekto pažangą.
Dario Amodei, generalinis direktorius Antropinis, naujame esė teigė, kad dirbtinis intelektas tobulėja daug greičiau, nei politinės sistemos gali reaguoti, ir teigė, kad politikos formuotojai turi greitai prisitaikyti, nes pažangiausi modeliai pradeda keisti saugumą, ekonomiką ir viešąsias institucijas. Jis palygino dirbtinio intelekto kūrimo ir teisėkūros tempo atotrūkį su kontrastu tarp sparčiai besivystančių hobitų ir lėto „Medžiabarzdžio“, teigdamas, kad neatitikimas tampa vis aktualesnis, tobulėjant modeliams programavimo, mokslo ir kitokio žinių darbo srityse.
Verslininkas pabrėžė, kad ankstesnės politikos pastangos daugiausia apsiribojo skaidrumo priemonėmis, eksporto kontrole ir duomenų rinkimu, nes rizika vis dar išryškėjo ir buvo neaiški. Jis teigė, kad dabar situacija pasikeitė, atkreipdamas dėmesį į tai, kad pažangios dirbtinio intelekto sistemos gali paveikti finansinį stabilumą, ypatingos svarbos infrastruktūrą ir nacionalinį saugumą, o ne vien informacijos atskleidimą.
Reguliavimas, ekonominiai sutrikimai ir kylantys politikos prioritetai dirbtinio intelekto eroje
Kalbėdamas apie reguliavimą ir viešąjį saugumą, Dario Amodei pasiūlė panašią į aviacijos priežiūros sistemą, pagal kurią prieš diegiant pažangius modelius būtų privalomai atliekami trečiųjų šalių bandymai. Jis teigė, kad modeliai, viršijantys tam tikrą skaičiavimo ribą, turėtų būti įvertinti dėl kibernetinio saugumo, biologinio netinkamo naudojimo, kontrolės praradimo ir automatizuotų tyrimų rizikos, kuri galėtų sustiprinti šias grėsmes. Jis taip pat teigė, kad vyriausybės turėtų turėti galimybę atidėti arba blokuoti diegimą, jei ši rizika laikoma nepriimtina, kartu reikalaujant griežtų saugumo praktikų, reguliaraus „raudonųjų komandų“ (angl. redteaming), įsiskverbimo testavimo ir skubaus incidentų pranešimo iš dirbtinio intelekto kūrėjų.
Esė taip pat buvo skirta ekonominiams sutrikimams. Amodei teigė, kad galingas dirbtinis intelektas galėtų paspartinti augimą ir kartu išstumti daug darbuotojų, greičiau nei ankstesnės technologijos pakeisdamas žmonių protinį darbą. Jis perspėjo, kad tai gali sukurti labai spartaus augimo pasaulį kartu su nuolatine nelygybe, todėl bus sunkiau užtikrinti, kad nauda būtų plačiai paskirstyta. Jis teigė, kad politika turėtų būti sutelkta į matavimą, darbo jėgos rėmimą, darbo užmokesčio draudimą, perkvalifikavimą ir galbūt ilgalaikę pajamų paramą, jei darbo jėgos paklausa smarkiai sumažėtų.
Kitame skyriuje „Anthropic“ generalinis direktorius teigė, kad dirbtinis intelektas galėtų paspartinti mokslo pažangą, ypač biomedicinos srityje, tačiau esamos reguliavimo sistemos gali būti per lėtos, kad galėtų susidoroti su dirbtinio intelekto remiamų inovacijų banga. Jis pasiūlė parengti patvirtinimo agentūras, tokias kaip FDA ir EMA, priimti dirbtiniu intelektu pagrįstą modeliavimą, sintetines kontrolės priemones ir kitus metodus, kurie galėtų sutrumpinti vaistų kūrimo laikotarpį nemažinant saugumo.
Dario Amodei taip pat perspėjo, kad dirbtinis intelektas gali padidinti valstybės galią ir sukelti naujų pilietinių laisvių grėsmių, įskaitant autonominius ginklus, masinį stebėjimą ir nesąžiningą vyriausybės dirbtinio intelekto naudojimą. Jis paragino nustatyti griežtesnes atskaitomybės taisykles, apriboti visiškai autonominių ginklų naudojimą šalies viduje ir griežčiau apsaugoti privatumą.
Galiausiai jis teigė, kad demokratijos turėtų bendradarbiauti dirbtinio intelekto tiekimo grandinių, saugos standartų ir ekonominio koordinavimo srityse, teigdamas, kad dirbtinis intelektas tampa strategine technologija, savo geopolitine svarba prilygstančia branduolinei energijai.
Atsakomybės neigimas
Remdamasi tuo, Pasitikėjimo projekto gairės, atkreipkite dėmesį, kad šiame puslapyje pateikta informacija nėra skirta ir neturėtų būti aiškinama kaip teisinė, mokesčių, investicinė, finansinė ar bet kokia kita konsultacija. Svarbu investuoti tik tai, ką galite sau leisti prarasti, ir, jei turite kokių nors abejonių, kreiptis į nepriklausomą finansinę konsultaciją. Norėdami gauti daugiau informacijos, siūlome peržiūrėti taisykles ir nuostatas bei pagalbos ir palaikymo puslapius, kuriuos pateikia išdavėjas arba reklamuotojas. MetaversePost yra įsipareigojusi teikti tikslias, nešališkas ataskaitas, tačiau rinkos sąlygos gali keistis be įspėjimo.
Apie autorių
Alisa, atsidavusi žurnalistė MPost, specializuojasi kriptovaliutų, dirbtinio intelekto, investicijų ir plačios srities srityse Web3. Akylai žvelgdama į naujas tendencijas ir technologijas, ji pateikia išsamią informaciją, kad informuotų ir įtrauktų skaitytojus į nuolat besikeičiančią skaitmeninių finansų aplinką.
Daugiau straipsnių
Alisa, atsidavusi žurnalistė MPost, specializuojasi kriptovaliutų, dirbtinio intelekto, investicijų ir plačios srities srityse Web3. Akylai žvelgdama į naujas tendencijas ir technologijas, ji pateikia išsamią informaciją, kad informuotų ir įtrauktų skaitytojus į nuolat besikeičiančią skaitmeninių finansų aplinką.
