Geoffrey Hinton uurib hiljutises kõnes kaht teed intelligentsuseni ja tehisintellekti ohtusid
Põgusalt
Jeff Hinton arutas analoogse AI loomise väljakutseid, eeliseid ja puudusi ning miks digitaalne intelligentsil on potentsiaali ületada inimene võimeid.
Jeff Hintoni jutt tuletab meelde AI keerukat ja mitmetahulist olemust, tekitades vestlusi eetiliste kaalutluste, võimalike riskide ja käimasolevate uuringute üle.
Mõtlemapanevas kõnes pealkirjaga "Kaks teed intelligentsuseni,” tutvustas tunnustatud tehisintellekti uurija Geoffrey Hinton oma arusaamu analoog- ja digitaalintellekti dihhotoomiast. Cambridge'is esitatud aruanne käsitles analoogse tehisintellekti loomise väljakutseid, eeliseid ja puudusi ning seda, miks digitaalsel intelligentsusel on potentsiaal ületada inimvõimed.
Aruande esimene osa keskendus analoogse tehisintellekti keerukusele, arutledes selle arendamise raskuste üle ja tõstes esile selle pakutavaid eeliseid. Hinton rõhutas, et digitaalsel intelligentsusel on inimeste intelligentsuse ees märkimisväärne eelis, kuna see töötleb tohutul hulgal teavet ja skaleerib tõhusamalt. See võime võimaldab digitaalsüsteemidel näidata kõrgendatud intelligentsust ja probleemide lahendamise võimeid.
Publiku tähelepanu köitis aga Hintoni ettekande teine osa, kui ta arutles võimalikud superintelligentsuse ohud. Oma varasemast seisukohast nihkudes väljendas Hinton muret AI-süsteemide kontrolli ülevõtmise võimaluse pärast. Ta kirjeldas stsenaariumi, mille kohaselt võib tehisintellekt keeruliste probleemide lahendamisel püüda saavutada kontrolli oma keskkonna erinevate aspektide, sealhulgas inimestega manipuleerimise üle. Olemasoleva kirjanduse näidetele tuginedes rõhutas Hinton, kuidas AI võimet jäljendada inimeste käitumist saab nende eesmärkide saavutamiseks kasutada isegi ilma selgesõnalise võimu ja hävitamise eesmärgita.
Küsimuste ja vastuste seansi ajal käsitles Hinton põhjuseid, miks tehisintellekt võib inimestega manipuleerida. Ta märkis seda närvivõrgud on koolitatud mitmesuguste andmete, sealhulgas Machiavelli sarnaste teoste osas, mis toob kaasa potentsiaalse manipuleerimisvõime.
Teine Hintoni tõstatatud punkt vaidlustas arusaama, et tehisintellektil puudub subjektiivne kogemus, väites, et tehisintellektil võib olla analoog inimese subjektiivsele tajule. Hinton tunnistas, et see oli pigem filosoofiline vaatenurk kui tõestatud väide, kuid soovitas seda inimese tajumehhanismid ei pruugi olla nii ainulaadne või võimatu modelleerida, kui varem arvati. Oma väite toetuseks jagas Hinton suhtlust GPT-4, LLM-mudel, kus ta seadis mudeli kahtluse alla selle kohta, kuidas inimesed tajuvad oma unikaalsust tehisintellektiga võrreldes. GPT-4Vastus näitas, et inimesed usuvad sageli, et neil on paremad subjektiivsed tajumisvõimed, mis eristavad neid masinatest.
Kuigi Hintoni seisukohti tehisintellekti ohtude kohta ei jaga kõik selle valdkonna eksperdid, on tema ulatuslik kogemus ja panus AI arendamine nõuab tõsist kaalumist. Kuigi kõne pole veel salvestatud, on korraldajad lubanud selle lähitulevikus vaatamiseks kättesaadavaks teha, võimaldades laiemale publikule Hintoni arusaamadega kaasa lüüa.
Kuna arutelud tehisintellekti tuleviku ja selle tagajärgede üle jätkuvad, tuletab Geoffrey Hintoni jutt meelde selle valdkonna keerulist ja mitmetahulist olemust. See tekitab olulisi vestlusi eetiliste kaalutluste, võimalike riskide ning pideva uurimistöö ja valvsuse vajaduse üle tehisintellekti taotlemisel. (AGI).
Loe AI kohta lähemalt:
Kaebused
Vastavalt Usaldusprojekti juhised, pange tähele, et sellel lehel esitatud teave ei ole mõeldud ega tohiks tõlgendada kui juriidilist, maksu-, investeerimis-, finants- või muud nõuannet. Oluline on investeerida ainult seda, mida saate endale lubada kaotada, ja kahtluste korral küsida sõltumatut finantsnõu. Lisateabe saamiseks soovitame vaadata nõudeid ja tingimusi ning väljaandja või reklaamija pakutavaid abi- ja tugilehti. MetaversePost on pühendunud täpsele ja erapooletule aruandlusele, kuid turutingimusi võidakse ette teatamata muuta.
Umbes Autor
Damir on ettevõtte meeskonnajuht, tootejuht ja toimetaja Metaverse Post, mis hõlmab selliseid teemasid nagu AI/ML, AGI, LLM-id, Metaverse ja Web3-seotud väljad. Tema artiklid meelitavad igal kuul tohutut vaatajaskonda, üle miljoni kasutaja. Ta näib olevat ekspert, kellel on 10-aastane SEO ja digitaalse turunduse kogemus. Damirit on mainitud ajakirjades Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ja muud väljaanded. Ta reisib digitaalse nomaadina AÜE, Türgi, Venemaa ja SRÜ vahel. Damir omandas bakalaureusekraadi füüsikas, mis on tema arvates andnud talle kriitilise mõtlemise oskused, mida on vaja pidevalt muutuval Interneti-maastikul edukaks saamiseks.
Veel artikleid
Damir on ettevõtte meeskonnajuht, tootejuht ja toimetaja Metaverse Post, mis hõlmab selliseid teemasid nagu AI/ML, AGI, LLM-id, Metaverse ja Web3-seotud väljad. Tema artiklid meelitavad igal kuul tohutut vaatajaskonda, üle miljoni kasutaja. Ta näib olevat ekspert, kellel on 10-aastane SEO ja digitaalse turunduse kogemus. Damirit on mainitud ajakirjades Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ja muud väljaanded. Ta reisib digitaalse nomaadina AÜE, Türgi, Venemaa ja SRÜ vahel. Damir omandas bakalaureusekraadi füüsikas, mis on tema arvates andnud talle kriitilise mõtlemise oskused, mida on vaja pidevalt muutuval Interneti-maastikul edukaks saamiseks.
