Dario Amodei varoittaa hallintovajeesta tekoälyn edistyessä politiikkaa nopeammin ja kehottaa sitoviin turvallisuus- ja talousuudistuksiin
Lyhyesti
Anthropicin toimitusjohtaja Dario Amodei hahmottelee tekoälyn riskejä ja ehdottaa tiukempaa sääntelyä, taloudellisia suojatoimia ja globaalia koordinointia tekoälyn nopean kehityksen hallitsemiseksi.
Dario Amodei, toimitusjohtaja Antropinen, totesi uudessa esseessään, että tekoäly kehittyy paljon nopeammin kuin poliittiset järjestelmät pystyvät reagoimaan, ja väitti, että päättäjien on sopeuduttava nopeasti, kun rajaseudun mallit alkavat muokata turvallisuutta, taloutta ja julkisia instituutioita. Hän vertasi tekoälyn kehityksen ja lainsäädännön välistä vauhtikuilua nopeasti liikkuvien hobittien ja hitaan Puuparran väliseen kontrastiin ja sanoi, että epäsuhdasta on tullut yhä kiireellisempi mallien kehittyessä koodauksessa, tieteessä ja muussa tietotyössä.
Yrittäjä korosti, että aiemmat poliittiset toimet rajoittuivat pitkälti avoimuustoimenpiteisiin, vientivalvontaan ja tiedonkeruuseen, koska riskit olivat vielä kehittymässä ja epäselviä. Hän sanoi, että tilanne on nyt muuttunut, ja hän viittasi rajaseudun mallien kyvykkyyksiin, jotka ovat paljastaneet vakavia kyberturvallisuusongelmia ja osoittaneet, että edistyneet tekoälyjärjestelmät voivat vaikuttaa rahoitusvakauteen, kriittiseen infrastruktuuriin ja kansalliseen turvallisuuteen. Hän väitti, että seuraavan politiikan vaiheen tulisi siirtyä pelkästä julkistamisesta kohti sitovia sääntöjä korkean riskin malleille.
Sääntely, talouden mullistukset ja tekoälyaikakauden uudet poliittiset prioriteetit
Sääntelyn ja yleisen turvallisuuden osalta Dario Amodei ehdotti ilmailun valvonnan kaltaista kehystä, jossa edistyneille malleille tehtäisiin pakollisia kolmannen osapuolen testejä ennen käyttöönottoa. Hän sanoi, että tietyn laskentakynnyksen ylittäviä malleja tulisi arvioida kyberturvallisuusriskien, biologisten aineiden väärinkäytön, hallinnan menetyksen ja automatisoidun tutkimuksen riskien varalta, jotka voisivat vahvistaa näitä uhkia. Hän sanoi myös, että hallitusten tulisi voida lykätä tai estää käyttöönotto, jos näitä riskejä pidetään kohtuuttomina, samalla kun vaaditaan tekoälykehittäjiltä vahvoja turvallisuuskäytäntöjä, säännöllistä punaista tiimiytymistä, penetraatiotestausta ja nopeaa tapausraportointia.
Essee keskittyi myös talouden häiriöihin. Amodein mukaan tehokas tekoäly voisi kiihdyttää kasvua ja samalla syrjäyttää suuren määrän työntekijöitä korvaamalla ihmisen kognitiivisen työn nopeammin kuin aiemmat teknologiat. Hän varoitti, että tämä voisi johtaa erittäin nopean kasvun maailmaan ja jatkuvaan eriarvoisuuteen, mikä vaikeuttaisi hyötyjen laajaa jakamista. Hän sanoi, että politiikan tulisi keskittyä mittaamiseen, työvoiman tukemiseen, palkkavakuutukseen, uudelleenkoulutukseen ja mahdollisesti pitkäaikaisempaan toimeentulotukeen, jos työvoiman kysyntä laskee merkittävästi.
Toisessa osiossa Anthropicin toimitusjohtaja sanoi, että tekoäly voisi nopeuttaa tieteellistä kehitystä, erityisesti biolääketieteessä, mutta että nykyiset sääntelyjärjestelmät saattavat olla liian hitaita käsittelemään tekoälyavusteisen innovaatioaallon. Hän ehdotti, että hyväksyntävirastoja, kuten FDA:ta ja EMA:ta, valmistellaan hyväksymään tekoälypohjainen simulointi, synteettiset kontrolliryhmät ja muut menetelmät, jotka voisivat lyhentää lääkekehitystä heikentämättä turvallisuutta.
Dario Amodei varoitti myös, että tekoäly voisi lisätä valtioiden valtaa ja luoda uusia kansalaisvapauksiin liittyviä riskejä, kuten autonomisia aseita, joukkovalvontaa ja tekoälyn epäreilua käyttöä hallituksen toimesta. Hän vaati tiukempia vastuuvelvollisuussääntöjä, rajoituksia täysin autonomisten aseiden käytölle kotimaassa ja tiukempaa yksityisyyden suojaa.
Lopuksi hän sanoi, että demokratioiden tulisi tehdä yhteistyötä tekoälyn toimitusketjujen, turvallisuusstandardien ja taloudellisen koordinoinnin parissa, ja väitti, että tekoälystä on tulossa strateginen teknologia, joka on geopoliittiselta merkitykseltään verrattavissa ydinvoimaan.
Vastuun kieltäminen
Mukaisesti Luottamusprojektin ohjeetHuomaa, että tällä sivulla annettuja tietoja ei ole tarkoitettu eikä niitä tule tulkita oikeudellisiksi, verotukselliseksi, sijoitus-, rahoitus- tai minkään muun muodon neuvoiksi. On tärkeää sijoittaa vain sen verran, mitä sinulla on varaa menettää, ja pyytää riippumatonta talousneuvontaa, jos sinulla on epäilyksiä. Lisätietoja saat käyttöehdoista sekä myöntäjän tai mainostajan tarjoamista ohje- ja tukisivuista. MetaversePost on sitoutunut tarkkaan, puolueettomaan raportointiin, mutta markkinaolosuhteet voivat muuttua ilman erillistä ilmoitusta.
Author
Alisa, omistautunut toimittaja MPost, erikoistunut kryptoon, tekoälyyn, sijoituksiin ja laajaan maailmaan Web3. Hän tarkkailee tarkasti nousevia trendejä ja teknologioita, ja hän tarjoaa kattavan kattavuuden tiedottaakseen ja saadakseen lukijat mukaan digitaalisen rahoituksen jatkuvasti kehittyvään maisemaan.
lisää artikkeleita
Alisa, omistautunut toimittaja MPost, erikoistunut kryptoon, tekoälyyn, sijoituksiin ja laajaan maailmaan Web3. Hän tarkkailee tarkasti nousevia trendejä ja teknologioita, ja hän tarjoaa kattavan kattavuuden tiedottaakseen ja saadakseen lukijat mukaan digitaalisen rahoituksen jatkuvasti kehittyvään maisemaan.
