AI-szakértők és közéleti személyiségek riasztást adnak a mesterséges intelligencia kihalásának kockázata miatt
Röviden
Prominens mesterséges intelligencia-szakértők és befolyásos személyiségek fejezik ki közös véleményüket az AI-val kapcsolatos kockázatokkal kapcsolatos aggodalmak.
A mesterséges intelligencia terén elért jelentős előrelépés ellenére számos, a mesterséges intelligencia kockázatával kapcsolatos kihívás továbbra is megoldatlan.
Prominens mesterséges intelligencia-szakértők és közéleti személyiségek közleményt adtak ki, amelyben arra figyelmeztetnek, hogy a mesterséges intelligencia fenyegetést jelenthet az emberiség túlélésére, a pandémiák és a nukleáris háború kockázataihoz hasonló vagy még nagyobb veszélyt jelenthet. A 350 aláíró azzal érvel, hogy a mesterséges intelligencia előre nem látott és katasztrofális következményekkel járhat, mint például az autonóm fegyverek felszabadítása, a társadalmi és gazdasági rendszerek felborulása, vagy olyan szuperintelligens ügynökök létrehozása, amelyek túlszárnyalhatják az emberek eszét és legyőzhetik őket.
Arra szólítják fel a döntéshozókat, hogy vegyék komolyan ezeket a kockázatokat, és fogadjanak el intézkedéseket a biztonságos és előnyös mesterséges intelligencia fejlesztése érdekében. A nyilatkozat aláírta az AI kutatás és fejlesztés néhány vezető alakja, mint pl OpenAI Sam Altman vezérigazgató, a Skype Jaan Tallinn társalapítója, Demis Hassabis, a DeepMind vezérigazgatója és Geoffrey Hinton, az AI informatikus, valamint befolyásos közéleti személyiségek, mint például Grimes zenész és Sam Harris podcaster.
Az aláírók között voltak a 2018-as Turing-díj nyertesei a mély tanuláshoz való hozzájárulásukért: Geoffrey Hinton és Yoshua Bengio. Hozzájuk csatlakoztak olyan rangos egyetemek professzorai, mint a Harvard és a kínai Tsinghua Egyetem, valamint az MIT Max Tegmark professzora.
„A mesterséges intelligencia okozta kihalás kockázatának mérséklését globális prioritásként kell kezelni más társadalmi szintű kockázatok mellett, mint például a világjárványok és a nukleáris háború”
– áll a CAIS által közzétett levélben.
Az AI Biztonsági Központ (CAIS), a San Francisco-i székhelyű nonprofit szervezet célja a mesterséges intelligenciával kapcsolatos biztonsági aggályok kezelése. Miközben felismeri az AI lehetséges előnyeit, a CAIS hangsúlyozza a biztonságos fejlesztés és használat szükségességét. A mesterséges intelligencia terén elért jelentős előrelépések ellenére a mesterséges intelligencia biztonságának számos alapvető kihívása továbbra is megoldatlan marad, véli a vállalat. Weboldala szerint a CAIS küldetése a kockázatok mérséklése biztonsági kutatások végzésével, a mesterséges intelligencia biztonsággal foglalkozó kutatóinak közösségének támogatása és a biztonsági szabványok támogatása.
„A mesterséges intelligencia számos „fontos és sürgős kockázatot rejt magában”, nem csak a kihalás veszélye; például rendszerszintű torzítás, félretájékoztatás, rosszindulatú felhasználás, kibertámadások és fegyverkezés. Ezek mind fontos kockázatok, amelyeket kezelni kell. A társadalmak több kockázatot kezelhetnek egyszerre; ez nem „vagy/vagy”, hanem „igen/és”. Kockázatkezelési szempontból, ahogyan meggondolatlanság lenne kizárólag a jelenlegi károkat előtérbe helyezni, úgy figyelmen kívül hagyni is azokat.”
Dan Hendrycks, a CAIS igazgatója írt a Twitter.
Márciusban több mint 1,100 technológiai szakértő aláírt nyílt levél, melyben az AI-rendszerek képzésének hat hónapos leállítását követelték GPT-4. Az európai törvényhozók is a közelmúltban jóváhagyott szigorúbb jogszabálytervezet, az AI törvény, amely szabályozza az AI eszközöket, mint pl ChatGPT. A törvény előírja a biztonsági ellenőrzésekre, az adatkezelésre és a kockázatcsökkentésre vonatkozó követelményeket az alapvető mesterséges intelligencia modellekre vonatkozóan, és tiltja az olyan gyakorlatokat, mint a manipulációs technikák és a biometrikus adatok bizonyos használata.
Bővebben:
- OpenAI Bemutatja legújabb megközelítését az AI biztonságának biztosítására
- Bejelenti a Google egy szöveg-avatar generátort a játékosok számára?
- Az Amazon CodeWhisperer-je megadja a fejlesztőknek azt az előnyt, amelyre szükségük van az AI-arénában
- Vitalik Buterin és a MIRI igazgatója, Nate Soares belemerülnek a mesterséges intelligencia veszélyeibe
A felelősség megtagadása
Összhangban a A Trust Project irányelvei, kérjük, vegye figyelembe, hogy az ezen az oldalon közölt információk nem minősülnek jogi, adózási, befektetési, pénzügyi vagy bármilyen más formájú tanácsnak, és nem is értelmezhetők. Fontos, hogy csak annyit fektessen be, amennyit megengedhet magának, hogy elveszítsen, és kérjen független pénzügyi tanácsot, ha kétségei vannak. További információkért javasoljuk, hogy tekintse meg a szerződési feltételeket, valamint a kibocsátó vagy hirdető által biztosított súgó- és támogatási oldalakat. MetaversePost elkötelezett a pontos, elfogulatlan jelentéstétel mellett, de a piaci feltételek előzetes értesítés nélkül változhatnak.
A szerzőről
Agne újságíró, aki a metaverzum legújabb trendjeivel és fejleményeivel foglalkozik, az AI és Web3 iparágak számára Metaverse Post. A történetmesélés iránti szenvedélye arra késztette, hogy számos interjút készített e területek szakértőivel, mindig izgalmas és lebilincselő történetek feltárására törekedve. Agne irodalomból bachelor diplomát szerzett, és széleskörű írási háttérrel rendelkezik számos témakörben, beleértve az utazást, a művészetet és a kultúrát. Önkéntesként jelentkezett szerkesztőként az állatvédő szervezetnél is, ahol segített felhívni a figyelmet az állatjóléti kérdésekre. Vegye fel vele a kapcsolatot [e-mail védett].
További cikkek
Agne újságíró, aki a metaverzum legújabb trendjeivel és fejleményeivel foglalkozik, az AI és Web3 iparágak számára Metaverse Post. A történetmesélés iránti szenvedélye arra késztette, hogy számos interjút készített e területek szakértőivel, mindig izgalmas és lebilincselő történetek feltárására törekedve. Agne irodalomból bachelor diplomát szerzett, és széleskörű írási háttérrel rendelkezik számos témakörben, beleértve az utazást, a művészetet és a kultúrát. Önkéntesként jelentkezett szerkesztőként az állatvédő szervezetnél is, ahol segített felhívni a figyelmet az állatjóléti kérdésekre. Vegye fel vele a kapcsolatot [e-mail védett].
