Količina inteligence v vesolju se bo podvojila vsakih 18 mesecev, pravi Sam Altman
Na kratko
Začela se je apokalipsa umetne inteligence, pri čemer se količina inteligence v vesolju podvoji vsakih 18 mesecev.
OpenAIje Sam Altman se je nekoč pošalil, da bo umetna inteligenca vodila do konca sveta, pred tem pa bo to ogromen posel.
Eric Hoel, ameriški nevroznanstvenik in filozof na Univerzi Tufts, trdi, da sistemov AI v tem trenutku ni mogoče šteti za inteligentne, saj ne razumejo sveta in nimajo osebnosti, ki bi se kazala v njihovih namerah in dejanjih.
Bayesova hipoteza o možganih trdi, da je primarna funkcija možganov zmanjšati presenečenje. Če je to res, se je apokalipsa AI morda že začela.
To kaže na to ChatGPT in drugi so že bolj vsestranski v svoji inteligenci kot kateri koli človek.
Začela se je apokalipsa umetne inteligence, ki spreminja pomen Moorovega zakona. Glede na zdaj se bo količina inteligence v vesolju podvojila vsakih 18 mesecev Sam Altman, Predsednik uprave OpenAI, podjetje v ozadju ChatGPT. Samo pred sedmimi leti se je Sam pošalil: "Umetna inteligenca bo najverjetneje vodila do konca sveta, a pred tem bo nastal ogromen posel." Zdaj se ljudje šalijo ne loči se od "jedrskega nahrbtnika", da lahko na daljavo razstreli podatkovne centre, če GPT uide izpod nadzora.
| Priporočena objava: ChatGPT Lahko povzroči nepopravljivo degeneracijo človeka |
Da bi bolje razumeli, kaj Altman misli v svojem tvitu, in da bi izvedeli, kako ne znoreti med razmahom umetne inteligence, priporočamo branje knjige Erica Hoela “Kako prebroditi apokalipso umetne inteligence kot zdrava oseba.” Hoel je ameriški nevroznanstvenik in filozof na univerzi Tufts. Dobro se bere, saj je Hoel odličen pisatelj, zato mi defipriporočam ogled te objave.
Oglejmo si le eno od ključnih točk, saj povzema globoko razumevanje dogajanja in bližnje prihodnosti apokalipse, ki je že prišla. Glavni argument »racionalnih tehnooptimistov«, ki menijo, da se s pojavom ni zgodilo nič izjemnega in pretirano tveganega. ChatGPT, kot sledi:
- Kljub izjemnim rezultatom generativne pogovorne umetne inteligence (npr ChatGPT, Bing itd.), teh sistemov AI ni mogoče šteti za inteligentne. Ne razumejo sveta in nimajo motivacije agenta. Nimajo osebnosti, ki bi se kazala v njihovih namerah in dejanjih, in njihov zaznani intelekt ni nič drugega kot simulaker intelekta. V svojem bistvu je ta simulaker samo samodejno polnilo za naslednje besede, ki v svojem verjetnostnem zrcalu odraža ogromen, nefiltriran korpus besedil, ki jih je napisal človek z interneta.
- Če je tako, potem ni niti blizu možnosti za pojav superinteligence niti tveganj, povezanih z njo (čeprav se morate na to seveda pripraviti, najverjetneje na obzorju desetletij).
| Priporočena objava: Iskalni roboti z umetno inteligenco bodo veliko tehnologijo naredili še močnejšo, pravi Christopher Millsacija |
Hoelov odgovor na to argumentacijo je naslednji:
- Dejstvo, da je ChatGPT, na primer, preprosto samodokončanje naslednjih besed, ne pomeni, da ne more postati (ali je že postalo) inteligentni agent. Za razliko od zavesti je inteligenca popolnoma funkcionalen koncept: če nekaj deluje inteligentno, je inteligentno. Če deluje kot agent, je agent.
- Tukaj je razlagalni primer. Obstaja vplivna skupina znanstvenikov – Carl Friston (najbolj citiran nevroznanstvenik) in množica drugih znanih imen – ki trdijo, da je namen naših možganov zmanjšati presenečenje. Ta "Bayesova hipoteza o možganih" je danes ena glavnih. Teorija navaja, da je na globalni ravni minimiziranje presenečenja glavna funkcija možganov. In čeprav je to le ena od številnih vodilnih hipotez o delovanju možganov, predpostavimo, da drži. Predstavljajte si zdaj, da vesoljci najdejo človeške možgane, jih pogledajo in rečejo: »Oh, ta stvar samo zmanjša presenečenje! Ne more biti osnova intelekta in zato ne more biti nevarna za prave nosilce uma. Pomislite: ali je "minimiziranje presenečenj" res veliko težji cilj kot samodejno dokončanje besedila? Ali pa je res zelo podobno?
- In če je tako, potem je nečloveška superinteligenca morda že v bližini. In s tem povezana tveganja so že povsem realna. Kaj še dodati? Morda ChatGPT drugi pa so že bolj vsestranski v svojih inteligenco kot katerikoli človek. ChatGPT in drugi bodo verjetno aktivni hkrati iz naslednjih razlogov: razumni, nezanesljivi in niso podobni človeškemu umu, nenadzorovani v katerem koli temeljnem smislu, razen nekaterih na hitro zasnovanih ograj.
In če je vse to res, potem se je apokalipsa AI že začela.
Preberite več povezanih tem:
Zavrnitev odgovornosti
V skladu z Smernice projekta Trust, upoštevajte, da informacije na tej strani niso namenjene in se jih ne sme razlagati kot pravni, davčni, naložbeni, finančni ali kakršen koli drug nasvet. Pomembno je, da vlagate samo tisto, kar si lahko privoščite izgubiti, in da poiščete neodvisen finančni nasvet, če imate kakršne koli dvome. Za dodatne informacije predlagamo, da si ogledate določila in pogoje ter strani s pomočjo in podporo, ki jih nudi izdajatelj ali oglaševalec. MetaversePost se zavzema za natančno in nepristransko poročanje, vendar se tržni pogoji lahko spremenijo brez predhodnega obvestila.
O avtorju
Damir je vodja ekipe, produktni vodja in urednik pri Metaverse Post, ki pokriva teme, kot so AI/ML, AGI, LLMs, Metaverse in Web3- sorodna področja. Njegovi članki vsak mesec pritegnejo množično občinstvo več kot milijon uporabnikov. Zdi se, da je strokovnjak z 10-letnimi izkušnjami na področju SEO in digitalnega trženja. Damir je bil omenjen v Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto in druge publikacije. Kot digitalni nomad potuje med ZAE, Turčijo, Rusijo in SND. Damir je diplomiral iz fizike, kar mu je po njegovem mnenju dalo sposobnosti kritičnega razmišljanja, potrebne za uspeh v nenehno spreminjajočem se okolju interneta.
več člankov
Damir je vodja ekipe, produktni vodja in urednik pri Metaverse Post, ki pokriva teme, kot so AI/ML, AGI, LLMs, Metaverse in Web3- sorodna področja. Njegovi članki vsak mesec pritegnejo množično občinstvo več kot milijon uporabnikov. Zdi se, da je strokovnjak z 10-letnimi izkušnjami na področju SEO in digitalnega trženja. Damir je bil omenjen v Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto in druge publikacije. Kot digitalni nomad potuje med ZAE, Turčijo, Rusijo in SND. Damir je diplomiral iz fizike, kar mu je po njegovem mnenju dalo sposobnosti kritičnega razmišljanja, potrebne za uspeh v nenehno spreminjajočem se okolju interneta.
