Technikai szakértők nyílt levelet írnak alá, amelyben ideiglenes szüneteltetésre szólítanak fel a fejlettebb mesterséges intelligencia-rendszerek képzésében GPT-4
Röviden
Több mint 1100 aláíró írta alá azt a nyílt levelet, amelyben az óriási mesterségesintelligencia-kísérletek leállítására szólítanak fel.
Az aláírók között van többek között Elon Musk, Steve Wozniak és Emad Mostaque.
A nyílt levél aggodalmát fejezte ki a mesterséges intelligencia információs elfogultsága miatt, munkaautomatizálás és a mesterséges intelligencia kockázata az emberi civilizációban.
Több mint 1,100 aláíró, köztük vezető technológiai szakértők írtak alá egy nyílt levél hat hónapos szüneteltetést követelve az ennél fejlettebb mesterséges intelligencia rendszerek képzésében GPT-4.
A levelet a Future of Life Institute írta, egy nonprofit szervezet, amely az emberiséget fenyegető globális katasztrófa- és egzisztenciális kockázatok csökkentésén dolgozik, különös tekintettel a fejlett mesterséges intelligencia okozta egzisztenciális kockázatokra.
Idézve a széles körben támogatott Asilomar AI-elveket, amelyek kimondják, hogy „a fejlett mesterséges intelligencia mélyreható változást jelenthet a földi élet történetében, és megfelelő gondossággal és erőforrásokkal kell megtervezni és kezelni” – írja a levél, hogy a tervezés és a az irányítás nem történik meg.
A levél kitér arra is, hogy az AI-laboratóriumok „ellenőrzés nélküli” versenyben állnak az egyre erősebb mesterséges intelligencia kifejlesztéséért, amelyet senki sem tud megérteni, előre jelezni vagy megbízhatóan irányítani. Ahogy a kortárs AI-rendszerek szeretik GPT-4 tud versenyezni az emberekkel Az általános feladatokat illetően a levél aggodalmát fejezi ki a mesterséges intelligencia információs torzításaival, a munka automatizálásával és az emberi civilizáció feletti irányítás elvesztésének kockázatával kapcsolatban.
„Felhívjuk az összes mesterségesintelligencia-laboratóriumot, hogy haladéktalanul legalább 6 hónapra szüneteltesse az ennél erősebb AI-rendszerek képzését GPT-4. Ennek a szünetnek nyilvánosnak és ellenőrizhetőnek kell lennie, és magában kell foglalnia az összes kulcsfontosságú szereplőt. Ha egy ilyen szünetet nem lehet gyorsan életbe léptetni, a kormányoknak közbe kell lépniük, és moratóriumot kell bevezetniük.”
a levél állapota.
A levél arra kéri a mesterségesintelligencia-laboratóriumokat és a műszaki szakértőket, hogy használják ki a szünet idejét a fejlett mesterségesintelligencia-tervezés és -fejlesztés biztonsági protokolljainak kidolgozására és bevezetésére, amelyeket szigorúan auditálnak és független külső szakértők felügyelnek.
Jeff Jarvis amerikai újságíró azonban bírálta a levelet, mondás hogy ez az „erkölcsi pánik első számú példánya”.
A tech és a gépi tanulás vezető elméi közül néhány, akik aláírták a levelet a DeepMind kutatóival és számos egyetemi professzorral a világ minden tájáról:
- Yoshua Bengio, a Montreali Egyetem Turing-díjasa a mély tanulás fejlesztéséért, a Montreal Institute for Learning Algorithms vezetője
- Stuart Russell, Berkeley, a számítástechnika professzora, az Intelligens Rendszerek Központjának igazgatója és a „Mesterséges intelligencia: modern megközelítés” szabványos tankönyv társszerzője.
- Elon Musk, a SpaceX, a Tesla és a Twitter vezérigazgatója
- Emad Mostaque, vezérigazgató, Stability AI
- Jaan Tallinn, a Skype társalapítója, az Egzisztenciális Kockázat Tanulmányozó Központ, Future of Life Institute
- Gary Marcus, a New York-i Egyetem, mesterséges intelligencia-kutató, emeritus professzor
- Marc Rotenberg, az AI és digitális politika központja (CAIDP), elnök
egy legutóbbi levél, Rotenberg azt írta, hogy a CAIDP panaszt fog benyújtani a Szövetségi Kereskedelmi Bizottsághoz, amelyben az Open AI és a ChatGPT, valamint a termék további kereskedelmi forgalomba hozatalának tilalma a biztosítékok megállapításáig.
OpenAI Sam Altman vezérigazgató felvételt nyer hogy „elég időre van szükségünk intézményeink számára is, hogy kitalálják, mit csináljanak”, és hogy a társadalom nincs messze a „potenciálisan ijesztő” generatív AI-eszközöktől.
„Arra kérjük az FTC-t, hogy „nyomja meg a szünet gombot”, hogy intézményeink, törvényeink és társadalmunk felzárkózzon. Az általunk megalkotott technológiák felett az ügynökséget kell érvényesítenünk, mielőtt elveszítjük az irányítást” – áll a CAIDP levelében.
Máshol, uniós jogalkotók Az év végéig megállapodást kívánnak aláírni az EU országaival a mesterséges intelligencia szabályainak bevezetéséről, bár ez szűk keresztmetszetet jelenthet, mivel egyre intenzívebbé válnak a viták arról, hogyan kellene irányítani a mesterséges intelligenciát.
Bővebben:
A felelősség megtagadása
Összhangban a A Trust Project irányelvei, kérjük, vegye figyelembe, hogy az ezen az oldalon közölt információk nem minősülnek jogi, adózási, befektetési, pénzügyi vagy bármilyen más formájú tanácsnak, és nem is értelmezhetők. Fontos, hogy csak annyit fektessen be, amennyit megengedhet magának, hogy elveszítsen, és kérjen független pénzügyi tanácsot, ha kétségei vannak. További információkért javasoljuk, hogy tekintse meg a szerződési feltételeket, valamint a kibocsátó vagy hirdető által biztosított súgó- és támogatási oldalakat. MetaversePost elkötelezett a pontos, elfogulatlan jelentéstétel mellett, de a piaci feltételek előzetes értesítés nélkül változhatnak.
A szerzőről
Cindy újságíró a cégnél Metaverse Post, amelyhez kapcsolódó témákat fed fel web3, NFT, metaverzum és mesterséges intelligencia, különös tekintettel a vele készült interjúkra Web3 iparági szereplők. Több mint 30 C-szintű vezetővel beszélt, akik értékes ismereteiket juttatták el az olvasókhoz. Az eredetileg Szingapúrból származó Cindy jelenleg Tbilisziben, Grúziában él. Kommunikáció és médiatudomány szakon szerzett alapdiplomát a Dél-ausztrál Egyetemen, és több évtizedes tapasztalattal rendelkezik az újságírás és az írás terén. Vedd fel vele a kapcsolatot ezen keresztül [e-mail védett] sajtóbemutatókkal, közleményekkel és interjúlehetőségekkel.
További cikkek
Cindy újságíró a cégnél Metaverse Post, amelyhez kapcsolódó témákat fed fel web3, NFT, metaverzum és mesterséges intelligencia, különös tekintettel a vele készült interjúkra Web3 iparági szereplők. Több mint 30 C-szintű vezetővel beszélt, akik értékes ismereteiket juttatták el az olvasókhoz. Az eredetileg Szingapúrból származó Cindy jelenleg Tbilisziben, Grúziában él. Kommunikáció és médiatudomány szakon szerzett alapdiplomát a Dél-ausztrál Egyetemen, és több évtizedes tapasztalattal rendelkezik az újságírás és az írás terén. Vedd fel vele a kapcsolatot ezen keresztül [e-mail védett] sajtóbemutatókkal, közleményekkel és interjúlehetőségekkel.
