Dario Amodei opozarja na vrzel v upravljanju, saj umetna inteligenca prehiteva politiko, in poziva k zavezujočim varnostnim in gospodarskim reformam
Na kratko
Izvršni direktor podjetja Anthropic, Dario Amodei, opisuje tveganja umetne inteligence in predlaga strožjo regulacijo, ekonomske zaščitne ukrepe in globalno usklajevanje za upravljanje hitrega napredka umetne inteligence.
Dario Amodei, izvršni direktor Antropično, je v novem eseju zapisal, da umetna inteligenca napreduje veliko hitreje, kot se lahko odzovejo politični sistemi, in trdil, da se morajo oblikovalci politik hitro prilagoditi, saj modeli na mejnih območjih začenjajo preoblikovati varnost, gospodarstvo in javne institucije. Razliko v tempu med razvojem umetne inteligence in zakonodajo je primerjal s kontrastom med hitro razvijajočimi se hobiti in počasnim drevesobradom, pri čemer je dejal, da je neskladje vse bolj pereče, saj se modeli izboljšujejo v kodiranju, znanosti in drugih znanstvenih delih.
Podjetnik je poudaril, da so bila prejšnja prizadevanja politike večinoma omejena na ukrepe za preglednost, nadzor izvoza in zbiranje podatkov, ker so se tveganja še vedno pojavljala in so bila nejasna. Dejal je, da se je slika zdaj spremenila, in opozoril na zmogljivosti modelov na meji, ki so razkrile resne pomisleke glede kibernetske varnosti in pokazale, da lahko napredni sistemi umetne inteligence vplivajo na finančno stabilnost, kritično infrastrukturo in nacionalno varnost. Trdil je, da bi morala naslednja faza politike preseči zgolj razkritje in se usmeriti k zavezujočim pravilom za modele z visokim tveganjem.
Regulacija, gospodarske motnje in nastajajoče politične prednostne naloge v dobi umetne inteligence
Glede regulacije in javne varnosti je Dario Amodei predlagal okvir, podoben nadzoru v letalstvu, z obveznim testiranjem naprednih modelov s strani tretjih oseb pred uvedbo. Dejal je, da bi bilo treba modele nad določenim računskim pragom oceniti glede tveganj na področju kibernetske varnosti, biološke zlorabe, izgube nadzora in avtomatiziranih raziskav, ki bi lahko te grožnje okrepile. Dejal je tudi, da bi morale imeti vlade možnost odložiti ali blokirati uvedbo, če se ta tveganja ocenijo kot nesprejemljiva, hkrati pa bi morale biti od razvijalcev umetne inteligence zahtevane stroge varnostne prakse, redno sodelovanje v programu "red teaming", testiranje penetracije in takojšnje poročanje o incidentih.
Esej se je osredotočil tudi na gospodarske motnje. Amodei je dejal, da bi lahko močna umetna inteligenca pospešila rast, hkrati pa izpodrila veliko število delavcev, saj bi hitreje kot prejšnje tehnologije nadomestila človeško kognitivno delo. Opozoril je, da bi to lahko ustvarilo svet zelo hitre rasti ob vztrajni neenakosti, zaradi česar bi bilo težje zagotoviti, da so koristi široko porazdeljene. Dejal je, da bi se morala politika osredotočiti na merjenje, podporo delovni sili, zavarovanje plač, prekvalifikacijo in morebiti dolgoročno podporo dohodkom, če se povpraševanje po delovni sili znatno zmanjša.
V drugem razdelku je izvršni direktor podjetja Anthropic dejal, da bi umetna inteligenca lahko pospešila znanstveni napredek, zlasti v biomedicini, vendar so obstoječi regulativni sistemi morda prepočasni za obvladovanje vala inovacij, ki jih podpira umetna inteligenca. Predlagal je, da se agencije za odobritev, kot sta FDA in EMA, pripravijo na sprejemanje simulacij na podlagi umetne inteligence, sintetičnih kontrolnih orožij in drugih metod, ki bi lahko skrajšale razvoj zdravil, ne da bi zmanjšale varnost.
Dario Amodei je prav tako opozoril, da bi umetna inteligenca lahko povečala državno moč in ustvarila nova tveganja za državljanske svoboščine, vključno z avtonomnim orožjem, množičnim nadzorom in nepošteno uporabo umetne inteligence s strani vlade. Pozval je k strožjim pravilom o odgovornosti, omejitvam domače uporabe popolnoma avtonomnega orožja in strožji zaščiti zasebnosti.
Nazadnje je dejal, da bi morale demokracije sodelovati pri dobavnih verigah umetne inteligence, varnostnih standardih in gospodarskem usklajevanju, pri čemer je trdil, da umetna inteligenca postaja strateška tehnologija, ki je po svojem geopolitičnem pomenu primerljiva z jedrsko energijo.
Zavrnitev odgovornosti
V skladu z Smernice projekta Trust, upoštevajte, da informacije na tej strani niso namenjene in se jih ne sme razlagati kot pravni, davčni, naložbeni, finančni ali kakršen koli drug nasvet. Pomembno je, da vlagate samo tisto, kar si lahko privoščite izgubiti, in da poiščete neodvisen finančni nasvet, če imate kakršne koli dvome. Za dodatne informacije predlagamo, da si ogledate določila in pogoje ter strani s pomočjo in podporo, ki jih nudi izdajatelj ali oglaševalec. MetaversePost se zavzema za natančno in nepristransko poročanje, vendar se tržni pogoji lahko spremenijo brez predhodnega obvestila.
O avtorju
Alisa, predana novinarka pri MPost, specializiran za kriptovalute, umetno inteligenco, naložbe in široko področje Web3. Z ostrim očesom za nastajajoče trende in tehnologije zagotavlja celovito pokritost za informiranje in vključevanje bralcev v nenehno razvijajočo se pokrajino digitalnih financ.
več člankov
Alisa, predana novinarka pri MPost, specializiran za kriptovalute, umetno inteligenco, naložbe in široko področje Web3. Z ostrim očesom za nastajajoče trende in tehnologije zagotavlja celovito pokritost za informiranje in vključevanje bralcev v nenehno razvijajočo se pokrajino digitalnih financ.
