Intelligentsuse hulk universumis kahekordistub iga 18 kuu järel, ütleb Sam Altman
Põgusalt
AI apokalüpsis on alanud, luureandmete hulk universumis kahekordistub iga 18 kuu järel.
OpenAIon Sam Altman tegi kunagi nalja, et tehisintellekt viib maailma lõppu, kuid enne seda oleks see tohutu äri.
Eric Hoel, Ameerika neuroteadlane ja filosoof Tuftsi ülikoolist, väidab, et tehisintellekti süsteeme ei saa praegu pidada intelligentseteks, kuna nad ei mõista maailma ega oma isiksust, mis avalduks nende kavatsustes ja tegudes.
Bayesi aju hüpotees väidab, et aju peamine ülesanne on üllatuse minimeerimine. Kui see on tõsi, võib AI apokalüpsis olla juba alanud.
See näitab seda ChatGPT ja teised on juba oma intelligentsuse poolest mitmekülgsemad kui ükski inimene.
AI apokalüpsis on alanud, muutes Moore'i seaduse tähendust. Nüüd kahekordistub intelligentsuse hulk universumis iga 18 kuu järel Sam AltmanTegevjuht OpenAI, firma taga ChatGPT. Vaid seitse aastat tagasi naljatas Sam: "AI viib suure tõenäosusega maailmalõpuni, kuid enne seda on suur äri." Nüüd teevad inimesed nalja ta ei jaga "tuuma seljakotiga", et saaks andmekeskusi eemalt plahvatada, kui GPT väljub kontrolli alt.
| Soovitatav postitus: ChatGPT Võib põhjustada inimese pöördumatut degeneratsiooni |
Et paremini mõista, millele Altman oma säutsus viitab ja teada saada, kuidas tehisintellekti buumi ajal mitte hulluks minna, soovitame lugeda Eric Hoeli “Kuidas terve mõistusega inimesena AI apokalüpsises navigeerida.” Hoel on Ameerika neuroteadlane ja filosoof Tuftsi ülikoolis. See on hea lugemine, kuna Hoel on suurepärane kirjanik, nii ka meie defisoovitan kindlasti seda postitust vaadata.
Heidame pilgu ühele põhipunktile, kuna see võtab kokku sügava arusaamise sellest, mis toimub, ja juba saabunud apokalüpsise lähitulevikust. "Ratsionaalsete tehnooptimistide" põhiargument, kes usuvad, et nende tulekuga ei juhtunud midagi erakordset ja liiga riskantset. ChatGPT, on järgmine:
- Vaatamata generatiivse vestlusliku AI silmapaistvatele tulemustele (nt ChatGPT, Bing jne), ei saa neid AI-süsteeme intelligentseks pidada. Nad ei mõista maailma ja neil puudub agendi motivatsioon. Neil puudub isiksus, mis avalduks nende kavatsustes ja tegudes, ning nende tajutav intellekt pole midagi muud kui intellekti simulaakrum. See simulaakrum on oma olemuselt lihtsalt järgmiste sõnade automaatne täiteaine, mis peegeldab oma tõenäosuspeeglis kolossaalset, filtreerimata inimeste kirjutatud tekstide korpust Internetist.
- Kui jah, siis pole superintelligentsi ilmumise lähiväljavaadet ega sellega seotud riske (kuigi selleks peate muidugi valmistuma, tõenäoliselt aastakümnete silmapiiril).
| Soovitatav postitus: AI-otsingubotid muudavad suure tehnika veelgi võimsamaks, ütleb Christopher Millssioon |
Hoeli vastus sellele argumendile on järgmine:
- Asjaolu, et ChatGPT, näiteks on lihtsalt järgmiste sõnade automaatne täitmine, ei tähenda, et sellest ei saaks (või on juba saanud) intelligentne agent. Erinevalt teadvusest on intelligentsus täielikult toimiv mõiste: kui miski toimib arukalt, on see intelligentne. Kui see tegutseb agendina, on see agent.
- Siin on selgitav näide. On mõjukas teadlaste rühm – Carl Friston (enim tsiteeritud neuroteadlane) ja hulk teisi kuulsaid nimesid –, kes väidavad, et meie aju eesmärk on üllatuse minimeerimine. See "Bayesi ajuhüpotees" on tänapäeval üks peavooludest. Teooria väidab, et globaalsel tasandil on üllatuse minimeerimine aju esmane funktsioon. Ja kuigi see on vaid üks paljudest juhtivatest hüpoteesidest aju toimimise kohta, oletame, et see on tõsi. Kujutage nüüd ette, et tulnukad leiavad inimese aju, vaatavad seda ja ütlevad: „Oh, see asi lihtsalt vähendab üllatust! See ei saa olla intellekti aluseks ega saa seetõttu olla ohtlik tõelistele mõistusekandjatele. Mõelge: kas üllatuste minimeerimine on tõesti palju keerulisem eesmärk kui teksti automaatne täitmine? Või on see tegelikult väga sarnane?
- Ja kui nii, siis võib mitte-inimlik superintelligents juba läheduses olla. Ja sellega seotud riskid on juba üsna reaalsed. Mida on veel lisada? Võib-olla ChatGPT ja teised on juba mitmekülgsemad intelligentsus kui ükski inimene. ChatGPT ja teised on tõenäoliselt samal ajal aktiivsed järgmistel põhjustel: mõistlikud, ebausaldusväärsed ja mitte sarnased inimmõistusega, kontrollimatud üheski põhimõttelises mõttes, välja arvatud mõned kiirustades kavandatud aiad.
Ja kui see kõik on tõsi, siis on AI apokalüpsis juba alanud.
Loe rohkem seotud teemasid:
Kaebused
Vastavalt Usaldusprojekti juhised, pange tähele, et sellel lehel esitatud teave ei ole mõeldud ega tohiks tõlgendada kui juriidilist, maksu-, investeerimis-, finants- või muud nõuannet. Oluline on investeerida ainult seda, mida saate endale lubada kaotada, ja kahtluste korral küsida sõltumatut finantsnõu. Lisateabe saamiseks soovitame vaadata nõudeid ja tingimusi ning väljaandja või reklaamija pakutavaid abi- ja tugilehti. MetaversePost on pühendunud täpsele ja erapooletule aruandlusele, kuid turutingimusi võidakse ette teatamata muuta.
Umbes Autor
Damir on ettevõtte meeskonnajuht, tootejuht ja toimetaja Metaverse Post, mis hõlmab selliseid teemasid nagu AI/ML, AGI, LLM-id, Metaverse ja Web3-seotud väljad. Tema artiklid meelitavad igal kuul tohutut vaatajaskonda, üle miljoni kasutaja. Ta näib olevat ekspert, kellel on 10-aastane SEO ja digitaalse turunduse kogemus. Damirit on mainitud ajakirjades Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ja muud väljaanded. Ta reisib digitaalse nomaadina AÜE, Türgi, Venemaa ja SRÜ vahel. Damir omandas bakalaureusekraadi füüsikas, mis on tema arvates andnud talle kriitilise mõtlemise oskused, mida on vaja pidevalt muutuval Interneti-maastikul edukaks saamiseks.
Veel artikleid
Damir on ettevõtte meeskonnajuht, tootejuht ja toimetaja Metaverse Post, mis hõlmab selliseid teemasid nagu AI/ML, AGI, LLM-id, Metaverse ja Web3-seotud väljad. Tema artiklid meelitavad igal kuul tohutut vaatajaskonda, üle miljoni kasutaja. Ta näib olevat ekspert, kellel on 10-aastane SEO ja digitaalse turunduse kogemus. Damirit on mainitud ajakirjades Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ja muud väljaanded. Ta reisib digitaalse nomaadina AÜE, Türgi, Venemaa ja SRÜ vahel. Damir omandas bakalaureusekraadi füüsikas, mis on tema arvates andnud talle kriitilise mõtlemise oskused, mida on vaja pidevalt muutuval Interneti-maastikul edukaks saamiseks.
