AI eksperti un sabiedriskie darbinieki ceļ trauksmi par AI izzušanas risku
Īsumā
Ievērojami AI eksperti un ietekmīgas personas pauž savu viedokli bažas par riskiem, kas saistīti ar AI.
Neskatoties uz ievērojamo progresu AI jomā, daudzas ar AI risku saistītas problēmas joprojām nav atrisinātas.
Ievērojami mākslīgā intelekta eksperti un sabiedriskie darbinieki ir nākuši klajā ar paziņojumu, brīdinot, ka mākslīgais intelekts var radīt draudus cilvēces izdzīvošanai, kas ir salīdzināms ar pandēmiju un kodolkara riskiem vai pat lielāks par tiem. 350 parakstītāji apgalvo, ka mākslīgajam intelektam varētu būt neparedzētas un katastrofālas sekas, piemēram, autonomu ieroču palaišana, sociālo un ekonomisko sistēmu izjaukšana vai superinteliģentu aģentu radīšana, kas varētu pārspēt un pārvarēt cilvēkus.
Viņi aicina politikas veidotājus nopietni uztvert šos riskus un pieņemt pasākumus, lai nodrošinātu drošu un izdevīgu AI attīstību. The paziņojums ir parakstījuši daži no vadošajiem AI pētniecības un attīstības darbiniekiem, piemēram, OpenAI Izpilddirektors Sems Altmans, Skype līdzdibinātājs Jaan Tallinn, DeepMind izpilddirektors Demis Hassabis un AI datorzinātnieks Džefrijs Hintons, kā arī ietekmīgas publiskas personas, piemēram, mūziķis Grimes un podkāsts Sems Heriss.
Starp parakstītājiem bija 2018. gada Tjūringa balvas ieguvēji par ieguldījumu dziļās mācībās: Džefrijs Hintons un Jošua Bengio. Viņiem pievienojās profesori no tādām prestižām universitātēm kā Hārvarda un Tsinghua Universitāte Ķīnā, kā arī MIT Max Tegmark.
"AI radītā izzušanas riska mazināšanai ir jābūt globālai prioritātei līdzās citiem sabiedrības mēroga riskiem, piemēram, pandēmijām un kodolkaram."
CAIS publicētajā vēstulē.
AI drošības centrs (CAIS), bezpeļņas organizācija, kas atrodas Sanfrancisko, cenšas risināt ar mākslīgo intelektu saistītās drošības problēmas. Apzinoties AI iespējamos ieguvumus, CAIS uzsver nepieciešamību to izstrādāt un lietot droši. Uzņēmums uzskata, ka, neskatoties uz ievērojamiem sasniegumiem mākslīgā intelekta jomā, daudzas būtiskas AI drošības problēmas joprojām nav atrisinātas. Saskaņā ar tās tīmekļa vietni, CAIS uzdevums ir mazināt riskus, veicot drošības pētījumus, veicinot AI drošības pētnieku kopienu un iestājoties par drošības standartiem.
“Ir daudzi “svarīgi un steidzami AI riski”, ne tikai izzušanas risks; piemēram, sistēmiska novirze, dezinformācija, ļaunprātīga izmantošana, kiberuzbrukumi un ieroču izmantošana. Tie visi ir svarīgi riski, kas ir jānovērš. Sabiedrība var pārvaldīt vairākus riskus vienlaikus; tas nav “vai nu/vai”, bet gan “jā/un”. No riska pārvaldības perspektīvas, tāpat kā būtu neapdomīgi piešķirt prioritāti tikai pašreizējiem zaudējumiem, tāpat būtu neapdomīgi arī tos ignorēt.
Dens Hendrikss, CAIS direktors rakstīja: Twitter.
Martā vairāk nekā 1,100 tehnoloģiju ekspertu parakstīja atklāta vēstule, kurā pieprasīts uz sešiem mēnešiem apturēt AI sistēmu apmācību GPT-4. Eiropas likumdevēji arī nesen apstiprināts stingrāki tiesību aktu projekti, kas pazīstami kā AI likums, kas regulē tādus AI rīkus kā ChatGPT. Likums ietver prasības attiecībā uz drošības pārbaudēm, datu pārvaldību un riska mazināšanu pamata AI modeļiem un aizliedz tādas darbības kā manipulatīvas metodes un noteiktas biometrijas izmantošanas iespējas.
Lasīt vairāk:
- OpenAI Iepazīstina ar savu jaunāko pieeju AI drošības nodrošināšanai
- Vai Google gatavojas paziņot par teksta iemiesojumu ģeneratoru spēlētājiem?
- Amazon CodeWhisperer sniedz izstrādātājiem vajadzīgās iespējas AI arēnā
- Vitaliks Buterins un MIRI direktors Neits Soaress iedziļinās AI draudos
Atbildības noraidīšana
Atbilstīgi Uzticības projekta vadlīnijas, lūdzu, ņemiet vērā, ka šajā lapā sniegtā informācija nav paredzēta un to nedrīkst interpretēt kā juridisku, nodokļu, ieguldījumu, finanšu vai jebkāda cita veida padomu. Ir svarīgi ieguldīt tikai to, ko varat atļauties zaudēt, un meklēt neatkarīgu finanšu padomu, ja jums ir šaubas. Lai iegūtu papildinformāciju, iesakām skatīt pakalpojumu sniegšanas noteikumus, kā arī palīdzības un atbalsta lapas, ko nodrošina izdevējs vai reklāmdevējs. MetaversePost ir apņēmies sniegt precīzus, objektīvus pārskatus, taču tirgus apstākļi var tikt mainīti bez iepriekšēja brīdinājuma.
Par Autors
Agne ir žurnāliste, kas atspoguļo jaunākās tendences un notikumus metaversā, AI un Web3 nozares Metaverse Post. Viņas aizraušanās ar stāstīšanu ir likusi viņai vadīt daudzas intervijas ar šo jomu ekspertiem, vienmēr cenšoties atklāt aizraujošus un saistošus stāstus. Agnei ir bakalaura grāds literatūrā, un viņai ir plaša pieredze rakstīšanā par dažādām tēmām, tostarp ceļošanu, mākslu un kultūru. Viņa ir arī brīvprātīgi piedalījusies par redaktori dzīvnieku tiesību organizācijā, kur palīdzējusi vairot izpratni par dzīvnieku labturības jautājumiem. Sazinieties ar viņu tālāk [e-pasts aizsargāts].
Vairāk rakstus
Agne ir žurnāliste, kas atspoguļo jaunākās tendences un notikumus metaversā, AI un Web3 nozares Metaverse Post. Viņas aizraušanās ar stāstīšanu ir likusi viņai vadīt daudzas intervijas ar šo jomu ekspertiem, vienmēr cenšoties atklāt aizraujošus un saistošus stāstus. Agnei ir bakalaura grāds literatūrā, un viņai ir plaša pieredze rakstīšanā par dažādām tēmām, tostarp ceļošanu, mākslu un kultūru. Viņa ir arī brīvprātīgi piedalījusies par redaktori dzīvnieku tiesību organizācijā, kur palīdzējusi vairot izpratni par dzīvnieku labturības jautājumiem. Sazinieties ar viņu tālāk [e-pasts aizsargāts].
