6 mėnesių AI mokymo pertrauka yra gera idėja, tačiau jos gali nepakakti
Trumpai
Peticijos istorija ir Judkovskio straipsnio išleidimas supriešino visuomenę.
Kalinio dilema ir žaidimo teorija rodo, kad tokioms problemoms išspręsti reikia kritinės masės sveiko proto žmonių įvairiose vietose.
Tačiau ši idėja turi keletą trūkumų, pavyzdžiui, sąmonės, valios ir agentūros trūkumas skaitmeninėje evoliucijoje.
Pasakojimas apie peticija nustoti kurti pažangesnes dirbtinio intelekto sistemas GPT-4 pastebimai poliarizavo visuomenę. Judkovskio išleidimas straipsnis prašo sustabdyti tolesnę plėtrą GPT modeliai įpylė žibalo į ugnį, ypač jo ištraukos apie duomenų centrų bombardavimą.
Iš to, ką galima pastebėti internete, atrodo, kad peticijos šalininkų yra daug mažiau nei priešininkų, kurie turi tris pagrindinius argumentus:
| 1 | – Pažangos negalima sustabdyti. – Peticiją sugalvojo OpenAI konkurentai. – Kinija nelauks. |
| 2 | – Turėtumėte bijoti ne dirbtinio intelekto, o žmonių. - GPT neturi sąmonės, valios, siekių ar valios, todėl nėra ko bijoti. - GPT-4 yra beprotiškai toli nuo pasaulio pavergimo, nes nieko nesupranta, daro kvailas klaidas ir apskritai yra gana kvailas. - GPT-4 negalės paleisti pasaulio, nes neturi rankų/kojų. |
| 3 | – Trečioji grupė nesupranta, kaip GPT-4 veikia visų pirma. |
Mes nesikoncentruosime į trečią grupę, nes jų pozicija kyla iš nežinojimo. Tai nereiškia, kad visi AI priešininkai žino viską apie DI; galite rasti daug žmonių prieš AI, kuriems trūksta supratimo apie technologiją ir jos esmę, nors pats Yudkovskis yra labai gilus į AI temą, todėl jo negalima apkaltinti nežinojimu.
Pažvelkime į pirmąją žmonių grupę – tuos, kurie tiki, kad pažangos negalima sustabdyti. Jie siūlo skirtingus, tačiau panašius argumentus, ir apskritai tie žmonės neneigia AI galimybių ir perspektyvų, kurias suteikia jo priėmimas, ir tiki, kad AI plėtra tęsis, kad ir kas būtų.
Pirmoji tezė apie nesustabdomą pažangą yra šūkis, kuris nebūtinai turi būti tiesa. Atrodo, kad žmonės sustabdė kai kuriuos mokslinius eksperimentus, o daugelis kažkada priimtų mokslinių tyrimų projektų nebelaikomi etiškais, o panašūs niekada nebūtų leidžiami ir šiandien. Tačiau kiek didesnę pažangą praeityje sustabdė inkvizicija ir kiti religiniai persekiojimai, knygų draudimai ir mokslininkų nužudymai Kinijoje (ir kitose šalyse)? Tai yra kažkas, ko mes niekada negalėsime iki galo suvokti dėl išgyvenimo šališkumo.
Kitos tezės apima požiūrį, kurį galima apibendrinti kaip „jei ne mes, tai bus jie“. Nors šis mąstymas gali būti labiau suprantamas, tai taip pat nėra tinkamas sprendimas. Tai labai panašu į kalinio dilemą žaidimų teorijoje.
Antroji argumentų grupė yra pati įdomiausia. Nors aš asmeniškai tam tikru mastu su tuo sutinku, yra keletas trūkumų, kuriuos reikia išspręsti. Taip, dirbtinis intelektas neturi sąmonės, valios, agentūros ir t. t. COVID-19 taip pat neturi, tačiau jis pridarė sumaištį visame pasaulyje. Tam, kad kažkas taptų pavojinga, nebūtina turėti veiksmų laisvę ir sąmoningumą; scenarijus, kad gyvybė žemėje sunaikinama dėl viruso, yra neįsivaizduojamas. Atlikęs savo darbą, jis gali pastatyti kėdes ant stalų, užgesinti šviesą ir išeiti visam laikui.
Tęsiant biologinę analogiją, yra nuostabus straipsnis „Nuostabus skaitmeninės evoliucijos kūrybiškumas: evoliucijos skaičiavimo ir dirbtinio gyvenimo tyrimų bendruomenių anekdotų rinkinys“, kuriame pateikiama daug pavyzdžių, kai procesai pakrypsta netikėta linkme. Net ir be evoliucinio proceso viskas gali būti klaidingai apibendrinta „Tikslo apibendrinimas: kodėl teisingų specifikacijų nepakanka teisingiems tikslams“. Apie tai, kad optimizavimo procesas gali suklysti, yra aptariamas „Rizika, kylanti dėl išmokto optimizavimo pažangiosiose mašininio mokymosi sistemose"
Tuo pačiu metu mes paprastai neatsižvelgiame į riziką piktybinis AI naudojimas ir bet kas piktnaudžiavimas, kuris tik skatina argumentą, kad reikia bijoti žmonių, o ne paties AI. Tačiau tiesa ta, kad dirbtinis intelektas gali būti blogas net ir be kenkėjiškų žmonių.
Taip pat sutinku dėl to, kad modelis daro kvailas klaidas, bet taip pat ir žmonės, tačiau žinome, kad jie gali pakenkti. Nors modeliai daro daug klaidų, jie taip pat gali išspręsti daugybę nuostabių, šaunių ir sudėtingų problemų, kurių paprastas žmogus negali išspręsti. Iš liūdnai pagarsėjusio kūrinio „Dirbtinio bendrojo intelekto kibirkštys: ankstyvieji eksperimentai su GPT-4“, Mane nustebino AI sugebėjimas, nors ir ne visada teisingai, išspręsti Fermi problemas, gana sudėtingas matematines problemas. Jo proto teorija ir „kaip kaip gebėjimas suprasti“ kitų veiksmus taip pat labai įspūdingi. Visi šie dalykai rodo AI intelektą; esama, bet ne visai tokia kaip mūsų.
Pašalinti bent kai kurias AI modelių klaidas paprastai įmanoma, todėl jų intelektas gali tik augti. Viskas, ką jums reikia padaryti, tai pridėti tikslių skaičiavimų modulį, faktų bazę ir patvirtinimą su kitu modeliu.
Svarbiausias dalykas visoje šioje istorijoje yra AI vystymosi greitis. GPT modeliai nepaprastai augo svaiginančiu tempu. Dabar yra ChatGPT papildiniai yra, galite naudoti GPT modelius kodui rašyti, API yra prieinamos didelei visuomenei, o išorinius įrankius galite naudoti be jokio išankstinio mokymo.
GPT-4, žinoma, pasaulio neužkariaus, bet gali stipriai supurtyti ekonomiką. GPT-5, ir būsima modelio iteracija, gali būti ne itin toli į priekį ir greičiausiai turės daug stipresnių gebėjimų. Ir pripažinkime, negalime tikėtis suvokti dar neegzistuojančių modelių; mes net nepriartėjome prie jau egzistuojančių modelių supratimo. Šia prasme šešių mėnesių pertrauka gali būti gera idėja, tačiau jos gali nepakakti.
Ir atsižvelgiant į tai, AI lenktynės prasidėjo, nėra kada mokytis.
Apskritai, atsižvelgdamas į visa tai, aš taip pat pasirašiau peticiją. Nors netikiu, kad tai kažkaip padės.
Skaityti daugiau susijusių temų:
Atsakomybės neigimas
Remdamasi tuo, Pasitikėjimo projekto gairės, atkreipkite dėmesį, kad šiame puslapyje pateikta informacija nėra skirta ir neturėtų būti aiškinama kaip teisinė, mokesčių, investicinė, finansinė ar bet kokia kita konsultacija. Svarbu investuoti tik tai, ką galite sau leisti prarasti, ir, jei turite kokių nors abejonių, kreiptis į nepriklausomą finansinę konsultaciją. Norėdami gauti daugiau informacijos, siūlome peržiūrėti taisykles ir nuostatas bei pagalbos ir palaikymo puslapius, kuriuos pateikia išdavėjas arba reklamuotojas. MetaversePost yra įsipareigojusi teikti tikslias, nešališkas ataskaitas, tačiau rinkos sąlygos gali keistis be įspėjimo.
Apie autorių
Damiras yra komandos vadovas, produktų vadovas ir redaktorius Metaverse Post, apimantis tokias temas kaip AI/ML, AGI, LLM, Metaverse ir Web3– susijusiose srityse. Jo straipsniai kas mėnesį pritraukia didžiulę daugiau nei milijono vartotojų auditoriją. Atrodo, kad jis yra ekspertas, turintis 10 metų SEO ir skaitmeninės rinkodaros patirtį. Damiras buvo paminėtas Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ir kiti leidiniai. Jis keliauja tarp JAE, Turkijos, Rusijos ir NVS kaip skaitmeninis klajoklis. Damiras įgijo fizikos bakalauro laipsnį, kuris, jo manymu, suteikė jam kritinio mąstymo įgūdžių, reikalingų sėkmingam nuolat besikeičiančiame interneto peizaže.
Daugiau straipsnių
Damiras yra komandos vadovas, produktų vadovas ir redaktorius Metaverse Post, apimantis tokias temas kaip AI/ML, AGI, LLM, Metaverse ir Web3– susijusiose srityse. Jo straipsniai kas mėnesį pritraukia didžiulę daugiau nei milijono vartotojų auditoriją. Atrodo, kad jis yra ekspertas, turintis 10 metų SEO ir skaitmeninės rinkodaros patirtį. Damiras buvo paminėtas Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ir kiti leidiniai. Jis keliauja tarp JAE, Turkijos, Rusijos ir NVS kaip skaitmeninis klajoklis. Damiras įgijo fizikos bakalauro laipsnį, kuris, jo manymu, suteikė jam kritinio mąstymo įgūdžių, reikalingų sėkmingam nuolat besikeičiančiame interneto peizaže.
