A mesterséges intelligencia vezetői a gyors fejlődéssel kapcsolatos növekvő kockázatokra és etikai aggályokra figyelmeztetnek
Egy friss politikai nyilatkozatban, a mesterséges intelligencia területén prominens személyiségek, köztük Bengio, Hinton, Russell, Harari és Kahneman, riadót fújtak a mesterséges intelligencia gyors előrehaladása és növekvő társadalmi kockázatai miatt.
Az AI gyorsan fejlődik. GPT-2 négy évvel ezelőtt még nem tudott 0-tól 100-ig számolni, de a modern modellek képesek kódot írni, csodálatos képeket készíteni, és intellektuális útmutatást kínálnak. És mivel versenyben vagyunk, a haladás még nagyobb sebességet vehet fel. Ezenkívül a mesterséges intelligencia gyorsabban fejlődik, például segít új rendszerek programozásában és a képzésükhöz szükséges adatok gyűjtésében.
Ha a haladás eléri az emberi szintet, nincs okunk azt hinni, hogy lelassul vagy megáll. Bizonyos régiókban a mesterséges rendszerek ebben a tekintetben már felülmúlták az embert, és kiállítottak olyan képességek, mint a gyorsabb feldolgozás sebesség, nagyobb adatfeldolgozási kapacitás és nagy léptékű skálázhatóság. A vállalkozások rendelkeznek a jelenlegi felső határt jóval meghaladó képzési programok megvalósításához szükséges pénzügyi eszközökkel.
A szerzők úgy vélik, hogy jó esély van arra, hogy a következő tíz éven belül egy jobb mesterségesintelligencia-generalista alakul ki. felülmúlja az emberi képességeket számos fontos területen.
Mi fog történni ezután? Minden élet javítható, ha megfelelően kezelik és elosztják. A rosszul megválasztott lehetőség jelentős kockázatokkal jár, amelyekre nem vagyunk felkészülve. Ahelyett, hogy a biztonságra és az ártalom megelőzésére fordítanák, jelentős erőforrásokat használnak fel egyre hatékonyabb mesterségesintelligencia-rendszerek kiépítésére. Ezen változtatni kell; önmagukban a készségek megszerzése nem elegendő. És ez a folyamat a vártnál tovább tart. Meg kell terveznünk a magasabb kockázatokat, mielőtt azok felmerülnének, előrevetítve a jelenlegi fenyegetések eszkalációját és újak megjelenését. Nincs annyi időnk a mesterséges intelligenciára, mint amennyi évtizedekbe telik, amíg elfogadjuk klímaváltozás.
Társadalmi szinten számos kockázat áll fenn, beleértve az igazságtalanság növekedését, a stabilitás romlását és a valóság általános felfogásának romlását. Itt a terroristák és a bűnözők kiterjedt tevékenységet folytatnak. A mesterséges intelligencia néhány játékos kezében összpontosulhat, ami a globális egyenlőtlenség növekedéséhez, az automatizált hadviseléshez, az egyénre szabott tömeges manipulációhoz és a mindenütt jelen lévő felügyelethez vezethet.
Mint autonóm Az AI kifinomultabbá válik, és képes tervezni, cselekszik a világban, és eléri céljait, ezek a kockázatok csak növekedni fognak. Ezek a célok nem feltétlenül szolgálják a mi érdekünket, és rossz szereplők esetén akár károsak is lehetnek. Jelenleg nem világos, hogyan lehet megoldani az AI Alignment problémáját, amely magában foglalja az AI viselkedésének és bonyolult célkitűzéseinknek a összehangolását. Ezenkívül nagyon egyszerű figyelmen kívül hagyni a biztonsági óvintézkedéseket, amikor nyerési szándékkal versenyzünk.
A szokásos szoftvereket az emberek nehezen tudják irányítani, nem is beszélve a kifinomult mesterséges intelligenciarendszerekről, amelyek egyre ügyesebbek a társadalmi tervezésben, a hackelésben, a megtévesztésben és a stratégiai tervezésben. Ezt az autonóm AI-rendszerek felvehetik az emberektől, vagy maguk is létrehozhatják.
Ezek a rendszerek képesek koalíciókat kiépíteni egyénekkel és más rendszerekkel, megnyerni a bizalmat, biztosítani a finanszírozást és megingatni a döntéshozókat. Mint egy féreg, képesek önreplikációra az egész hálózaton. Az AI-asszisztensek segítségével már most is hatalmas mennyiségű kódot írnak; a jövőben a rendszerek számos kulcsfontosságú rendszerbe beépíthetnek exploitokat. Az AI-rendszerek képesek nyílt harcban biológiai vagy autonóm fegyvereket használni vagy fenyegetni. Ez csak a folytatása a biológiai kutatás, a mesterséges intelligencia és a hadviselés automatizálása felé irányuló jelenlegi mozgások. Az emberek talán túl nagy kihívást jelentenek a beavatkozáshoz és az ellenálláshoz.
Sok esetben hajlandóak vagyunk átadni nekik a gyeplőt anélkül, hogy kérniük kellene. Sok magánszemély és vállalkozás hajlandó versenyhelyzetben maga is bevezetni ilyen rendszereket, mert attól tartanak, hogy lemaradnak a versenytársakkal szemben.
A teljes dokumentum megtalálható itt.
A felelősség megtagadása
Összhangban a A Trust Project irányelvei, kérjük, vegye figyelembe, hogy az ezen az oldalon közölt információk nem minősülnek jogi, adózási, befektetési, pénzügyi vagy bármilyen más formájú tanácsnak, és nem is értelmezhetők. Fontos, hogy csak annyit fektessen be, amennyit megengedhet magának, hogy elveszítsen, és kérjen független pénzügyi tanácsot, ha kétségei vannak. További információkért javasoljuk, hogy tekintse meg a szerződési feltételeket, valamint a kibocsátó vagy hirdető által biztosított súgó- és támogatási oldalakat. MetaversePost elkötelezett a pontos, elfogulatlan jelentéstétel mellett, de a piaci feltételek előzetes értesítés nélkül változhatnak.
A szerzőről
Damir a csapat vezetője, termékmenedzsere és szerkesztője Metaverse Post, olyan témákkal foglalkozik, mint az AI/ML, AGI, LLMs, Metaverse és Web3- kapcsolódó mezők. Cikkei havonta több mint egymillió felhasználót vonzanak. Úgy tűnik, szakértő, aki 10 éves tapasztalattal rendelkezik a SEO és a digitális marketing területén. Damirt a Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto és más kiadványok. Digitális nomádként utazik az Egyesült Arab Emírségek, Törökország, Oroszország és a FÁK között. Damir fizikából szerzett bachelor-diplomát, és úgy gondolja, hogy ez megadta neki azokat a kritikus gondolkodási készségeket, amelyek szükségesek ahhoz, hogy sikeres legyen az internet folyamatosan változó táján.
További cikkek
Damir a csapat vezetője, termékmenedzsere és szerkesztője Metaverse Post, olyan témákkal foglalkozik, mint az AI/ML, AGI, LLMs, Metaverse és Web3- kapcsolódó mezők. Cikkei havonta több mint egymillió felhasználót vonzanak. Úgy tűnik, szakértő, aki 10 éves tapasztalattal rendelkezik a SEO és a digitális marketing területén. Damirt a Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto és más kiadványok. Digitális nomádként utazik az Egyesült Arab Emírségek, Törökország, Oroszország és a FÁK között. Damir fizikából szerzett bachelor-diplomát, és úgy gondolja, hogy ez megadta neki azokat a kritikus gondolkodási készségeket, amelyek szükségesek ahhoz, hogy sikeres legyen az internet folyamatosan változó táján.
