Dirbtinio intelekto lyderiai perspėja dėl didėjančios rizikos ir etinių rūpesčių sparčiai tobulėjant
Neseniai paskelbtame politikos pareiškime, žinomi AI srities veikėjai, įskaitant Bengio, Hintoną, Russellą, Harari ir Kahnemaną, perspėjo dėl sparčios pažangos ir didėjančios visuomenės rizikos, susijusios su AI.
AI sparčiai vystosi. GPT-2 Prieš ketverius metus negalėjo suskaičiuoti nuo 0 iki 100, tačiau šiuolaikiniai modeliai gali rašyti kodą, daryti nuostabius vaizdus ir teikti intelektualias gaires. Kadangi dalyvaujame lenktynėse, pažanga gali paspartinti dar didesnį greitį. Be to, dirbtinis intelektas tobulėja greičiau, pavyzdžiui, padeda programuoti naujas sistemas ir rinkti duomenis jų mokymui.
Kai pažanga pasiekia žmogaus lygį, nėra jokios priežasties manyti, kad ji sulėtės ar sustos. Tam tikruose regionuose dirbtinės sistemos šiuo atžvilgiu jau pralenkė žmones, demonstruodamos tokias galimybes kaip greitesnis apdorojimas greitis, didesni duomenų apdorojimo pajėgumai ir platus mastelio keitimas. Įmonės turi finansinių galimybių įgyvendinti mokymo programas, kurios gerokai viršija esamą viršutinę ribą.
Autoriai mano, kad yra didelė tikimybė, kad per artimiausius dešimt metų atsiras geresnis AI generalistas. pranokstančias žmogaus galimybes daugelyje svarbių sričių.
Kas nutiks toliau? Visas gyvenimas gali būti pagerintas, jei jis tinkamai valdomas ir paskirstomas. Prastai pasirinktas variantas kelia didelę riziką, kuriai esame blogai pasiruošę. Užuot skiriami saugai ir žalos prevencijai, dideli ištekliai naudojami kuriant dirbtinio intelekto sistemas, kurios yra vis galingesnės. Tai turi pasikeisti; vien siekti įgūdžių nepakanka. Ir šis procesas užtrunka ilgiau nei tikėtasi. Turime planuoti didesnes rizikas, kol jos neiškyla, numatydami esamų grėsmių eskalavimą ir naujų grėsmių atsiradimą. Neturime tiek laiko dirbtiniam intelektui, kiek prireikia dešimtmečių, kad būtume priimti klimato kaita.
Visuomeniniu lygmeniu egzistuoja daugybė pavojų, įskaitant neteisybės didėjimą, stabilumo pablogėjimą ir bendro tikrovės suvokimo pablogėjimą. Čia teroristai ir nusikaltėliai užsiima plačia veikla. Dirbtinis intelektas gali būti sutelktas kelių žaidėjų rankose, o tai padidins pasaulinę nelygybę, palengvins automatizuotą karą, masines manipuliacijas, pritaikytas kiekvienam asmeniui, ir visur esantį stebėjimą.
Kaip savarankiškas AI tampa sudėtingesnis ir gali planuoti, veikti pasaulyje ir pasiekti savo tikslus, ši rizika tik didės. Šie tikslai gali neatitikti mūsų interesų, o blogų veikėjų atveju netgi gali būti žalingi. Šiuo metu neaišku, kaip išspręsti AI suderinimo problemą, kuri apima AI elgsenos suderinimą su mūsų sudėtingais tikslais. Be to, labai paprasta nepaisyti saugos priemonių lenktyniaujant su ketinimu laimėti.
Žmonėms sunku valdyti įprastą programinę įrangą, jau nekalbant apie sudėtingas AI sistemas, kurios vis labiau įvaldo socialinę inžineriją, įsilaužimą, apgaulę ir strateginį planavimą. Tai yra kažkas, ką autonominės AI sistemos gali paimti iš žmonių arba sukurti pačios.
Šios sistemos turi galimybę kurti koalicijas su asmenimis ir kitomis sistemomis, įgyti pasitikėjimą, užtikrinti finansavimą ir pakreipti sprendimus priimančius asmenis. Kaip kirminas, jie gali savarankiškai daugintis visame tinkle. Su AI padėjėjų pagalba jau parašytas didžiulis kodo kiekis; Ateityje sistemos gali įtraukti išnaudojimus į daugybę svarbių sistemų. AI sistemos turi galimybę naudoti biologinius ar autonominius ginklus arba jiems grasinti atviroje kovoje. Tai tik tęsinys dabartiniai judėjimai link biologinių tyrimų, dirbtinio intelekto ir karo automatizavimo. Žmonėms gali pasirodyti per daug sudėtinga įsikišti ir priešintis.
Daugeliu atvejų esame pasiruošę atiduoti jiems vadeles jiems net neprašant. Daugelis asmenų ir įmonių nori patys įdiegti tokias sistemas konkurencinėje aplinkoje, baimindamiesi, kad atsiliks nuo konkurencijos.
Visą dokumentą galima rasti čia.
Atsakomybės neigimas
Remdamasi tuo, Pasitikėjimo projekto gairės, atkreipkite dėmesį, kad šiame puslapyje pateikta informacija nėra skirta ir neturėtų būti aiškinama kaip teisinė, mokesčių, investicinė, finansinė ar bet kokia kita konsultacija. Svarbu investuoti tik tai, ką galite sau leisti prarasti, ir, jei turite kokių nors abejonių, kreiptis į nepriklausomą finansinę konsultaciją. Norėdami gauti daugiau informacijos, siūlome peržiūrėti taisykles ir nuostatas bei pagalbos ir palaikymo puslapius, kuriuos pateikia išdavėjas arba reklamuotojas. MetaversePost yra įsipareigojusi teikti tikslias, nešališkas ataskaitas, tačiau rinkos sąlygos gali keistis be įspėjimo.
Apie autorių
Damiras yra komandos vadovas, produktų vadovas ir redaktorius Metaverse Post, apimantis tokias temas kaip AI/ML, AGI, LLM, Metaverse ir Web3– susijusiose srityse. Jo straipsniai kas mėnesį pritraukia didžiulę daugiau nei milijono vartotojų auditoriją. Atrodo, kad jis yra ekspertas, turintis 10 metų SEO ir skaitmeninės rinkodaros patirtį. Damiras buvo paminėtas Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ir kiti leidiniai. Jis keliauja tarp JAE, Turkijos, Rusijos ir NVS kaip skaitmeninis klajoklis. Damiras įgijo fizikos bakalauro laipsnį, kuris, jo manymu, suteikė jam kritinio mąstymo įgūdžių, reikalingų sėkmingam nuolat besikeičiančiame interneto peizaže.
Daugiau straipsnių
Damiras yra komandos vadovas, produktų vadovas ir redaktorius Metaverse Post, apimantis tokias temas kaip AI/ML, AGI, LLM, Metaverse ir Web3– susijusiose srityse. Jo straipsniai kas mėnesį pritraukia didžiulę daugiau nei milijono vartotojų auditoriją. Atrodo, kad jis yra ekspertas, turintis 10 metų SEO ir skaitmeninės rinkodaros patirtį. Damiras buvo paminėtas Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ir kiti leidiniai. Jis keliauja tarp JAE, Turkijos, Rusijos ir NVS kaip skaitmeninis klajoklis. Damiras įgijo fizikos bakalauro laipsnį, kuris, jo manymu, suteikė jam kritinio mąstymo įgūdžių, reikalingų sėkmingam nuolat besikeičiančiame interneto peizaže.
