A 6 hónapos szünet az AI-képzésben jó ötlet, de lehet, hogy nem lesz elég
Röviden
A petíció története és Judkovszkij cikkének nyilvánosságra hozatala megosztotta a társadalmat.
A fogolydilemma és a játékelmélet azt sugallja, hogy az ilyen problémák megoldásához épeszű emberek kritikus tömegére van szükség különböző helyeken.
Ennek az elképzelésnek azonban van néhány ellentéte, például a tudatosság, az akarat és a cselekvés hiánya a digitális evolúcióban.
A történet petíciót, hogy állítsák le a nál fejlettebb AI-rendszerek fejlesztését GPT-4 érezhetően polarizálta a társadalmat. Judkovszkij kiadása cikkben további fejlesztésének leállítását kéri GPT modellek öntötték olajat a tűzre, különösen az adatközpontok bombázásáról szóló passzusai.
Az online megfigyelések alapján úgy tűnik, hogy a petíciónak sokkal kevesebb támogatója van, mint ellenzői, akiknek három fő érve van:
| 1 | – A fejlődést nem lehet megállítani. – A petíciót az OpenAI versenytársai. – Kína nem fog várni. |
| 2 | – Nem az AI-tól kell félni, hanem az emberektől. - GPT nincs tudata, akarata, törekvései vagy cselekvőképessége, tehát nincs mitől félni. - GPT-4 őrülten távol áll attól, hogy rabszolgasorba ejtse a világot, mert nem ért semmit, ostoba hibákat követ el, és általában elég hülye. - GPT-4 nem fogja tudni irányítani a világot, mert nincs karja/lába. |
| 3 | – A harmadik csoport nem érti, hogyan GPT-4 elsősorban működik. |
Nem fogunk a harmadik csoportra koncentrálni, mert az álláspontjuk a tudatlanságból ered. Ez nem jelenti azt, hogy az AI ellenzői mindent tud az AI-ról; rengeteg mesterséges intelligencia-ellenes embert lehet találni, akik nem értik a technológiát és annak tartalmát, bár maga Yudkovsky is nagyon mélyebben foglalkozik az AI témájával, így nem vádolható tudatlansággal.
Vessünk egy pillantást az emberek első csoportjára – akik hisznek abban, hogy a fejlődést nem lehet megállítani. Különböző, de hasonló érveket kínálnak, és összességében ezek az emberek nem tagadják az AI képességeit és az elfogadása által támasztott kilátásokat, és hisznek abban, hogy a mesterséges intelligencia fejlesztése folytatódni fog.
Az első tézis a megállíthatatlan haladásról egy szlogen, amelynek nem kell igaznak lennie. Úgy tűnik, az emberek leállítottak néhány tudományos kísérletet, és sok egykor elfogadott kutatási projektet már nem tartanak etikusnak, és hasonlókat ma már soha nem engedélyeznének. Mennyivel nagyobb fejlődést állítottak meg a múltban az inkvizíció és más vallási üldözések, könyvtilalom és tudósok meggyilkolása Kínában (és más országokban)? Ez az, amit soha nem fogunk tudni teljesen felfogni a túlélési elfogultság miatt.
Más tézisek azt a megközelítést foglalják magukban, amely így foglalható össze: „ha nem mi, akkor ők leszünk”. Bár ez a gondolatmenet érthetőbb lehet, akkor sem tűnik a megfelelő megoldásnak. Ez nagyon hasonlít a fogoly dilemmájához a játékelméletben.
Az érvek második csoportja a legérdekesebb. Bár személy szerint bizonyos mértékig egyetértek vele, van néhány de, amivel foglalkozni kell. Igen, a mesterséges intelligencia nem rendelkezik tudatossággal, akarattal, cselekvéssel stb. A COVID-19-nek sem, és mégis pusztítást végzett világszerte. Valaminek nem kell az önrendelkezés és a tudatosság érzése ahhoz, hogy veszélyessé váljon; Nem elképzelhetetlen az a forgatókönyv, hogy egy vírus miatt kipusztul az élet a földön. Ha végezte a dolgát, felteheti a székeket az asztalokra, lekapcsolhatja a villanyt, és örökre távozhat.
Folytatva a biológiai hasonlatot, van egy csodálatos cikk, „A digitális evolúció meglepő kreativitása: anekdoták gyűjteménye az evolúciós számítási és mesterséges életkutató közösségekből”, amely számos példával szolgál arra, amikor a folyamatok váratlan irányba mennek. Még evolúciós folyamat nélkül is minden rossz általánosításba kerülhet: „A célok téves általánosítása: Miért nem elegendőek a megfelelő specifikációk a helyes célokhoz”. Az, hogy szabad kezet adunk egy optimalizálási folyamatnak, rosszul sülhet el, a „A tanult optimalizálás kockázatai a fejlett gépi tanulási rendszerekben. "
Ugyanakkor általában nem vesszük figyelembe a kockázatokat az AI rosszindulatú használata és minden visszaélés, ami csak azt az érvet táplálja, hogy az emberektől kell félnünk, és nem magától az AI-tól. Az igazság azonban az, hogy a mesterséges intelligencia rosszindulatú emberek nélkül is rossz lehet.
Abban is egyetértek, hogy a modell hülye hibákat követ el, de az emberek is, és mégis tudjuk, hogy árthatnak. Míg a modellek sok hibát követnek el, sok olyan fantasztikus, klassz és összetett problémát is meg tudnak oldani, amelyeket az átlagember nem tud megoldani. A „Sparks of Artificial General Intelligence: Early Experiments with GPT-4”, megdöbbentett, hogy a mesterséges intelligencia meg tud oldani, bár nem mindig helyesen, Fermi-feladatokat, meglehetősen összetett matematikai feladatokat. Elmeelmélete és „olyan képessége, hogy megértsék mások cselekedeteit” szintén nagyon lenyűgözőek. Mindezek az AI intelligenciájára utalnak; létező, de nem egészen olyan, mint a miénk.
Az AI-modellek által elkövetett hibák legalább egy részének kiküszöbölése általában kivitelezhető, így intelligenciájuk csak növekedhet. Mindössze annyit kell tennie, hogy hozzáad egy modult a pontos számításokhoz, egy tényalapot és egy másik modellel való érvényesítést.
A legfontosabb dolog ebben az egész történetben az AI fejlődési sebessége. GPT modellek szédítő ütemben hatalmasat nőttek. Nos, vannak ChatGPT Plugins elérhető, használhatja GPT kódírási modellek, az API-k a nagyközönség számára elérhetőek, és külső eszközöket is használhat előzetes képzés nélkül.
GPT-4, persze nem fogja meghódítani a világot, de a gazdaságot nagyon megrázhatja. GPT-5, és a modell jövőbeli iterációja nem biztos, hogy nagyon messze van, és valószínűleg sokkal erősebb képességekkel fog érkezni. És valljuk be, nem remélhetjük, hogy felfogjuk a még nem létező modelleket; még a közelébe sem jutottunk a már létező modellek megértéséhez. Ebben az értelemben a hat hónapos szünet jó ötlet lehet, de egyszerűen nem elég.
És tekintettel arra, hogy a AI verseny elkezdődött, nincs idő a tanulásra.
Általában véve mindezekre tekintettel én is aláírtam a petíciót. Bár nem hiszem, hogy ez bármiben is segítene.
További kapcsolódó témákról olvashat:
A felelősség megtagadása
Összhangban a A Trust Project irányelvei, kérjük, vegye figyelembe, hogy az ezen az oldalon közölt információk nem minősülnek jogi, adózási, befektetési, pénzügyi vagy bármilyen más formájú tanácsnak, és nem is értelmezhetők. Fontos, hogy csak annyit fektessen be, amennyit megengedhet magának, hogy elveszítsen, és kérjen független pénzügyi tanácsot, ha kétségei vannak. További információkért javasoljuk, hogy tekintse meg a szerződési feltételeket, valamint a kibocsátó vagy hirdető által biztosított súgó- és támogatási oldalakat. MetaversePost elkötelezett a pontos, elfogulatlan jelentéstétel mellett, de a piaci feltételek előzetes értesítés nélkül változhatnak.
A szerzőről
Damir a csapat vezetője, termékmenedzsere és szerkesztője Metaverse Post, olyan témákkal foglalkozik, mint az AI/ML, AGI, LLMs, Metaverse és Web3- kapcsolódó mezők. Cikkei havonta több mint egymillió felhasználót vonzanak. Úgy tűnik, szakértő, aki 10 éves tapasztalattal rendelkezik a SEO és a digitális marketing területén. Damirt a Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto és más kiadványok. Digitális nomádként utazik az Egyesült Arab Emírségek, Törökország, Oroszország és a FÁK között. Damir fizikából szerzett bachelor-diplomát, és úgy gondolja, hogy ez megadta neki azokat a kritikus gondolkodási készségeket, amelyek szükségesek ahhoz, hogy sikeres legyen az internet folyamatosan változó táján.
További cikkek
Damir a csapat vezetője, termékmenedzsere és szerkesztője Metaverse Post, olyan témákkal foglalkozik, mint az AI/ML, AGI, LLMs, Metaverse és Web3- kapcsolódó mezők. Cikkei havonta több mint egymillió felhasználót vonzanak. Úgy tűnik, szakértő, aki 10 éves tapasztalattal rendelkezik a SEO és a digitális marketing területén. Damirt a Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto és más kiadványok. Digitális nomádként utazik az Egyesült Arab Emírségek, Törökország, Oroszország és a FÁK között. Damir fizikából szerzett bachelor-diplomát, és úgy gondolja, hogy ez megadta neki azokat a kritikus gondolkodási készségeket, amelyek szükségesek ahhoz, hogy sikeres legyen az internet folyamatosan változó táján.
