AI vadītāji brīdina par pieaugošiem riskiem un ētiskām bažām saistībā ar strauju progresu
Nesenā paziņojumā par politiku, ievērojamas personas AI jomā, tostarp Bengio, Hintons, Rasels, Harari un Kahnemans, ir izsaukusi trauksmi par straujo progresu un pieaugošajiem sabiedrības riskiem, kas saistīti ar AI.
AI strauji attīstās. GPT-2 Pirms četriem gadiem nevarēja skaitīt no 0 līdz 100, taču mūsdienu modeļi var rakstīt kodu, izveidot pārsteidzošus attēlus un piedāvāt intelektuālus norādījumus. Un, tā kā mēs esam sacīkstēs, progress var uzņemt vēl lielāku ātrumu. Turklāt mākslīgais intelekts attīstās ātrāk, piemēram, palīdzot programmēt jaunas sistēmas un apkopot datus to apmācībai.
Kad progress sasniedz cilvēka līmeni, nav iemesla domāt, ka tas palēnināsies vai apstāsies. Atsevišķos reģionos mākslīgās sistēmas šajā ziņā jau ir pārspējušas cilvēkus, demonstrējot tādas iespējas kā ātrāka apstrāde ātrumu, lielākas datu apstrādes jaudas un liela mēroga mērogojamību. Uzņēmumiem ir finanšu līdzekļi, lai īstenotu apmācības programmas, kas ievērojami pārsniedz pašreizējo ierobežojumu.
Autori domā, ka pastāv liela iespēja, ka tuvāko desmit gadu laikā parādīsies labāks AI ģenerālis. pārspējot cilvēka spējas daudzās svarīgās jomās.
Kas notiks tālāk? Visas dzīves var uzlabot, ja tās tiek pareizi pārvaldītas un sadalītas. Slikti izvēlētais variants ir saistīts ar ievērojamiem riskiem, kuriem mēs esam slikti sagatavoti. Tā vietā, lai tos piešķirtu drošībai un kaitējuma novēršanai, ievērojami resursi tiek izmantoti, lai izveidotu AI sistēmas, kas kļūst arvien spēcīgākas. Tas ir jāmaina; nepietiek tikai ar prasmju apgūšanu. Un šis process aizņem ilgāku laiku, nekā paredzēts. Mums ir jāplāno lielāki riski, pirms tie rodas, paredzot pašreizējo draudu eskalāciju un jaunu draudu parādīšanos. Mums nav tik daudz laika AI, cik nepieciešams gadu desmitiem, lai to pieņemtu klimata pārmaiņas.
Sabiedrības līmenī pastāv daudzi riski, tostarp netaisnības palielināšanās, stabilitātes pasliktināšanās un kopējās realitātes uztveres pasliktināšanās. Šeit teroristi un noziedznieki nodarbojas ar plašu darbību. AI varētu koncentrēties dažu spēlētāju rokās, tādējādi palielinot globālo nevienlīdzību, atvieglojot automatizētu karadarbību, masveida manipulācijas, kas ir pielāgotas katram indivīdam, un visuresošu uzraudzību.
Kā autonoms AI kļūst sarežģītāks un spēj plānot, darbosies pasaulē un sasniegs savus mērķus, šie riski tikai pieaugs. Šie mērķi var nebūt mūsu interesēs un sliktu dalībnieku gadījumā var būt pat kaitīgi. Pašlaik nav skaidrs, kā atrisināt AI saskaņošanas problēmu, kas ietver AI darbības saskaņošanu ar mūsu sarežģītajiem mērķiem. Turklāt, braucot ar nolūku uzvarēt, ir ļoti vienkārši neievērot drošības pasākumus.
Cilvēkam ir grūti kontrolēt parastu programmatūru, nemaz nerunājot par sarežģītām mākslīgā intelekta sistēmām, kas kļūst arvien prasmīgākas sociālajā inženierijā, uzlaušanā, krāpšanā un stratēģiskajā plānošanā. Tas ir kaut kas tāds, ko autonomās AI sistēmas var iegūt no cilvēkiem vai izveidot pašas.
Šīs sistēmas spēj veidot koalīcijas ar indivīdiem un citām sistēmām, iegūt uzticību, nodrošināt finansējumu un ietekmēt lēmumu pieņēmējus. Tāpat kā tārps, tie spēj pašreplicēties visā tīklā. Ar AI palīgu palīdzību jau ir uzrakstīts milzīgs koda daudzums; nākotnē sistēmas var ietvert ekspluatācijas iespējas daudzās svarīgās sistēmās. AI sistēmām ir iespēja atklātā kaujā izmantot vai apdraudēt bioloģiskos vai autonomos ieročus. Šis ir tikai turpinājums pašreizējās kustības uz bioloģisko izpēti, mākslīgo intelektu un karadarbības automatizāciju. Cilvēkiem varētu būt pārāk grūti iejaukties un pretoties.
Daudzos gadījumos mēs esam gatavi dot viņiem vadības grožus, viņiem pat nejautājot. Daudzas personas un uzņēmumi vēlas paši ieviest šādas sistēmas konkurences apstākļos, bažījoties, ka tie atpaliks no konkurentiem.
Pilnu dokumentu var atrast šeit.
Atbildības noraidīšana
Atbilstīgi Uzticības projekta vadlīnijas, lūdzu, ņemiet vērā, ka šajā lapā sniegtā informācija nav paredzēta un to nedrīkst interpretēt kā juridisku, nodokļu, ieguldījumu, finanšu vai jebkāda cita veida padomu. Ir svarīgi ieguldīt tikai to, ko varat atļauties zaudēt, un meklēt neatkarīgu finanšu padomu, ja jums ir šaubas. Lai iegūtu papildinformāciju, iesakām skatīt pakalpojumu sniegšanas noteikumus, kā arī palīdzības un atbalsta lapas, ko nodrošina izdevējs vai reklāmdevējs. MetaversePost ir apņēmies sniegt precīzus, objektīvus pārskatus, taču tirgus apstākļi var tikt mainīti bez iepriekšēja brīdinājuma.
Par Autors
Damirs ir komandas vadītājs, produktu vadītājs un redaktors Metaverse Post, kas aptver tādas tēmas kā AI/ML, AGI, LLM, Metaverse un Web3- saistītie lauki. Viņa raksti katru mēnesi piesaista lielu auditoriju, kas pārsniedz miljonu lietotāju. Šķiet, ka viņš ir eksperts ar 10 gadu pieredzi SEO un digitālā mārketinga jomā. Damirs ir minēts Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto un citas publikācijas. Viņš ceļo starp AAE, Turciju, Krieviju un NVS kā digitālais nomads. Damirs ir ieguvis bakalaura grādu fizikā, kas, viņaprāt, ir devis viņam kritiskās domāšanas prasmes, kas nepieciešamas, lai gūtu panākumus nepārtraukti mainīgajā interneta vidē.
Vairāk rakstus
Damirs ir komandas vadītājs, produktu vadītājs un redaktors Metaverse Post, kas aptver tādas tēmas kā AI/ML, AGI, LLM, Metaverse un Web3- saistītie lauki. Viņa raksti katru mēnesi piesaista lielu auditoriju, kas pārsniedz miljonu lietotāju. Šķiet, ka viņš ir eksperts ar 10 gadu pieredzi SEO un digitālā mārketinga jomā. Damirs ir minēts Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto un citas publikācijas. Viņš ceļo starp AAE, Turciju, Krieviju un NVS kā digitālais nomads. Damirs ir ieguvis bakalaura grādu fizikā, kas, viņaprāt, ir devis viņam kritiskās domāšanas prasmes, kas nepieciešamas, lai gūtu panākumus nepārtraukti mainīgajā interneta vidē.
