Danas Hendrycksas: Pasirinkus dirbtinį intelektą ir žmones, evoliucija mūsų nepasirinks
Trumpai
Dano Hendryckso tyrimas „Natūrali atranka teikia pirmenybę dirbtiniam intelektui, o ne žmonėms“ yra baisi išvada.
Tai patyręs ir žinomas mokslininkas, paskelbęs dešimtis mokslinių straipsnių apie AI sistemų saugumo vertinimą.
Dano Hendryckso tyrimas skamba kaip mirties nuosprendis Homo Sapiens. Tyrimo išvada „Natūrali atranka teikia pirmenybę AI, o ne žmonėms“ yra tikrai baisu. Tai parašė ne toks populiarus vizionierius kaip Danas Brownas, o Danas Hendrycksas, Kalifornijos AI saugumo centro (CAIS), ne pelno organizacijos, besispecializuojančios AI saugumo tyrimuose ir lauko darbuose, direktorius.
Danas Hendrycksas nėra pamišėlis, panikuojantis dėl dirbtinio intelekto pažangos. Jis yra patyręs ir plačiai gerbiamas mokslininkas, paskelbęs dešimtis mokslinių straipsnių apie dirbtinio intelekto sistemų saugumo vertinimą – patikrinęs, ar jos gerai koduoja, samprotauja, supranta įstatymus ir pan. Gauso tiesinės klaidos vienetai (GELU).
Jackas Clarkas, vienas iš įkūrėjų ChatGPT konkurentas Anthropic, Stanfordo universiteto AI indekso pirmininkas, EBPO AI ir skaičiavimo skyriaus pirmininkas ir JAV vyriausybės Nacionalinio patariamojo dirbtinio intelekto komiteto narys aptaria Hendryckso tyrimo išvadas. „Žmonės refleksiškai nori atmesti tokį teiginį kaip kažkokio laukinių akių pamišėlio, gyvenančio miško trobelėje. Iš anksto norėčiau tai paneigti. Kai ekspertas, turintis patirties ne tik dirbtinio intelekto tyrimuose, bet ir vertinant AI sistemų saugumą rašo referatą, teigdamas, kad ateities AI sistemos gali veikti savanaudiškai, o ne pagal žmonių interesus, mes turėtume tuo pasirūpinti!
Hendryckso darbo santrauka:
- Jei dirbtinio intelekto agentų taps daugiau protingesni už žmones, dėl to žmonija gali prarasti savo ateities kontrolę.
- Tikėtina, kad tai įvyks ne dėl kažkokių ypatingų piktų žmonių ar mašinų ketinimų, o tik dėl evoliucinių vystymosi principų pritaikymo dirbtiniam intelektui pagal Darvino logiką.
- Siekiant sumažinti to riziką, reikia kruopščiai suplanuoti vidinę AI agentų motyvaciją, nustatyti jų veiksmų apribojimus ir sukurti institucijas, skatinančias dirbtinio intelekto bendradarbiavimą.
Tai yra, svarbiausi Hendryckso dalykai savo 43 puslapių moksliniame darbe:
1. Mes bijojome Terminatoriaus atvykimo, tačiau šių baimių pagrindas buvo klaidingas. Buvo dvi klaidos:
a. AI antropomorfizacija, priskiriant jai mūsų motyvus ir pan. – kaip ChatGPT parodė, AI yra iš esmės kitoks protas su visomis iš to kylančiomis pasekmėmis.
b. Idėja, kad dirbtinis intelektas yra tam tikras vienetas: protingas ar nelabai protingas, malonus ar nelabai malonus, bet iš tikrųjų šių labai skirtingų AI subjektų netrukus bus kuo daugiau pasaulyje.
2. Mūsų idėjose apie ateitį su AI yra dar vienas esminis trūkumas – pamiršome svarbiausią vystymosi mechanizmą – evoliuciją, kuri skatina kurti ne tik bioagentus, bet ir idėjas bei reikšmes, materialius įrankius ir nematerialias institucijas.
3. Žemėje jau pradėjo formuotis aplinka, kurioje vystysis ir vystysis daug dirbtinio intelekto. Ši evoliucija vyks pagal Darvino logiką, AI konkurencija tarpusavyje, atsižvelgiant į jų „pagrindinių“ institucijų interesus: korporacijų, kariuomenės ir kt.
4. Konkurencinės evoliucijos logika lems tą patį, kaip ir žmonių: vis labiau protingesni AI agentai taps vis savanaudiškesni ir pasiruošę siekti tikslų apgaule ir jėga, pagrindinis tikslas – galia.
5. Natūrali AI agentų atranka linkusi teikti pirmenybę savanaudiškesnėms rūšims, o ne altruistiškesnėms. AI agentai elgsis savanaudiškai ir sieks savo interesų mažai paisydami žmonių, o tai gali sukelti katastrofišką pavojų žmonijai.
- Peticija nustoti kurti pažangesnes dirbtinio intelekto sistemas nei GPT-4 poliarizavo visuomenę. Pirmoji grupė mano, kad pažangos negalima sustabdyti, o kita mano, kad pažanga, o kartais ir turėtų būti sustabdyta. Trečioji grupė nesupranta, kaip GPT-4 veikia visų pirma. Svarbiausios šio teksto detalės yra tai, kad dirbtinis intelektas neturi sąmonės, valios ar iniciatyvos ir kad jis gali būti blogas net ir be piktavališkų žmonių.
- Geoffrey Hintonas dažnai vadinamas „AI krikštatėviu“ ir yra laikomas pagrindine gilaus mokymosi bendruomenės figūra. Jo 40 minučių interviu ChatGPT yra unikalus tuo, kad yra lengvai suprantamas ir turi gilų supratimą, prieinamą keliems kitiems. Jis pabrėžia vykstančios „intelektinės revoliucijos“ ir nežmoniško intelekto svarbą. ChatGPT, kuris yra pagrįstas dirbtinai protingu agentu, turinčiu pažangias skaitmeninio ryšio galimybes.
Skaitykite daugiau susijusių straipsnių:
Atsakomybės neigimas
Remdamasi tuo, Pasitikėjimo projekto gairės, atkreipkite dėmesį, kad šiame puslapyje pateikta informacija nėra skirta ir neturėtų būti aiškinama kaip teisinė, mokesčių, investicinė, finansinė ar bet kokia kita konsultacija. Svarbu investuoti tik tai, ką galite sau leisti prarasti, ir, jei turite kokių nors abejonių, kreiptis į nepriklausomą finansinę konsultaciją. Norėdami gauti daugiau informacijos, siūlome peržiūrėti taisykles ir nuostatas bei pagalbos ir palaikymo puslapius, kuriuos pateikia išdavėjas arba reklamuotojas. MetaversePost yra įsipareigojusi teikti tikslias, nešališkas ataskaitas, tačiau rinkos sąlygos gali keistis be įspėjimo.
Apie autorių
Damiras yra komandos vadovas, produktų vadovas ir redaktorius Metaverse Post, apimantis tokias temas kaip AI/ML, AGI, LLM, Metaverse ir Web3– susijusiose srityse. Jo straipsniai kas mėnesį pritraukia didžiulę daugiau nei milijono vartotojų auditoriją. Atrodo, kad jis yra ekspertas, turintis 10 metų SEO ir skaitmeninės rinkodaros patirtį. Damiras buvo paminėtas Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ir kiti leidiniai. Jis keliauja tarp JAE, Turkijos, Rusijos ir NVS kaip skaitmeninis klajoklis. Damiras įgijo fizikos bakalauro laipsnį, kuris, jo manymu, suteikė jam kritinio mąstymo įgūdžių, reikalingų sėkmingam nuolat besikeičiančiame interneto peizaže.
Daugiau straipsnių
Damiras yra komandos vadovas, produktų vadovas ir redaktorius Metaverse Post, apimantis tokias temas kaip AI/ML, AGI, LLM, Metaverse ir Web3– susijusiose srityse. Jo straipsniai kas mėnesį pritraukia didžiulę daugiau nei milijono vartotojų auditoriją. Atrodo, kad jis yra ekspertas, turintis 10 metų SEO ir skaitmeninės rinkodaros patirtį. Damiras buvo paminėtas Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ir kiti leidiniai. Jis keliauja tarp JAE, Turkijos, Rusijos ir NVS kaip skaitmeninis klajoklis. Damiras įgijo fizikos bakalauro laipsnį, kuris, jo manymu, suteikė jam kritinio mąstymo įgūdžių, reikalingų sėkmingam nuolat besikeičiančiame interneto peizaže.
