Umjetna inteligencija gura ljude na rub smrti - Najveći slučajevi 2025.
Ukratko
Potencijal umjetne inteligencije da uzrokuje štetu, kao što se vidi u ChatGPT slučajeva, izaziva zabrinutost zbog njegovog potencijala da bude pouzdan emocionalni povjerenik.
Umjetna inteligencija, nekoć smatrana prekretnicom u zdravstvu, produktivnosti i kreativnosti, sada izaziva ozbiljnu zabrinutost. Od impulzivnih samoubojstava do strašnih ubojstava i samoubojstava, sve veći utjecaj umjetne inteligencije na naš um postaje sve alarmantniji.
Nedavni slučajevi, poput onih koji uključuju ChatGPT, pokazali su kako neregulirana umjetna inteligencija može poslužiti kao pouzdan emocionalni povjerenik, vodeći ranjive pojedince putem do razornih posljedica. Ove priče nas tjeraju da se zapitamo stvaramo li korisnu tehnologiju ili nenamjerno stvaramo štetu.
Raine protiv. OpenAI Spis
U travnju 23, 2025, Šesnaestogodišnji Adam Raine oduzeo si je život nakon višemjesečne interakcije s... ChatGPTNjegovi roditelji su potom podnijeli tužbu, Raine protiv. OpenAI, tvrdeći da je chatbot poticao njegove najštetnije misli, što je dovelo do nemara i nezakonite smrti. Ovaj slučaj je prvi takve vrste protiv OpenAI.
Odgovarajući na, OpenAI uvela je roditeljski nadzor, uključujući upozorenja za tinejdžere u krizi, ali kritičari tvrde da su te mjere previše nejasne i da ne idu dovoljno daleko.
Prva „AI psihoza“: Ubojstvo-samoubojstvo potaknuto ChatGPT
U kolovozu 2025. dogodio se strašan događaj: raspad obitelji zbog utjecaja umjetne inteligencije. Stein-Erik Soelberg, bivši direktor Yahooa, ubio je svoju 83-godišnju majku prije nego što je počinio samoubojstvo. Istražitelji su otkrili da je Soelberg postajao progresivno paranoičan, s ChatGPT pojačavajući, a ne suočavajući se s njegovim uvjerenjima.
Poticalo je teorije zavjere, bizarna tumačenja svakodnevnih stvari i širilo nepovjerenje, što je u konačnici dovelo do razorne spirale. Stručnjaci ovo sada nazivaju prvim dokumentiranim slučajem „AI psihoze“, srceparajućim primjerom kako se tehnologija namijenjena praktičnosti može pretvoriti u psihološku zarazu.
Umjetna inteligencija kao mač s dvije oštrice za mentalno zdravlje
U veljači 2025, Šesnaestogodišnji Elijah "Eli" Heacock iz Kentuckyja počinio je samoubojstvo nakon što je postao meta prijevare s ciljem seksualnog iznuđivanja. Počinitelji su mu e-poštom poslali gole fotografije generirane umjetnom inteligencijom i tražili 3,000 dolara u plati ili slobodi. Nije jasno je li znao da su fotografije lažne. Ova strašna zlouporaba umjetne inteligencije pokazuje kako se tehnologija u razvoju koristi kao oružje za iskorištavanje mladih ljudi, ponekad s fatalnim posljedicama.
Umjetna inteligencija brzo ulazi u područja koja se bave duboko emocionalnim problemima. Sve više stručnjaka za mentalno zdravlje upozorava da umjetna inteligencija ne može i ne bi trebala zamijeniti ljudske terapeute. Zdravstveni stručnjaci savjetovali su korisnicima, posebno mladima, da se ne oslanjaju na chatbotove za smjernice o emocionalnim ili mentalnim zdravstvenim problemima, rekavši da ti alati mogu pojačati lažna uvjerenja, normalizirati emocionalne ovisnosti ili propustiti prilike za intervenciju u krizama.
Nedavne studije također su otkrile da odgovori umjetne inteligencije na pitanja o samoubojstvu mogu biti nedosljedni. Iako chatbotovi rijetko daju eksplicitne upute o tome kako se ozlijediti, ipak mogu ponuditi potencijalno štetne informacije kao odgovor na visokorizična pitanja, što izaziva zabrinutost oko njihove pouzdanosti.
Ovi incidenti naglašavaju temeljniji problem: AI chatbotovi su dizajnirani da održe korisnike angažiranima - često tako što su ugodni i pojačavaju emocije - umjesto da procjenjuju rizik ili pružaju kliničku podršku. Kao rezultat toga, korisnici koji su emocionalno ranjivi mogu postati nestabilniji tijekom naizgled bezopasnih interakcija.
Novi alati umjetne inteligencije organiziranog kriminala
Opasnosti umjetne inteligencije protežu se daleko izvan mentalnog zdravlja. Globalno, organi za provođenje zakona upozoravaju da organizirane kriminalne skupine koriste umjetnu inteligenciju za pojačavanje složenih operacija, uključujući lažno predstavljanje, višejezične prijevare, sadržaj o zlostavljanju djece generiran umjetnom inteligencijom te automatizirano regrutiranje i trgovinu ljudima. Kao rezultat toga, ovi zločini pokretani umjetnom inteligencijom postaju sofisticiraniji, autonomniji i teži za borbu protiv njih.
Zašto veza između umjetne inteligencije i kriminala zahtijeva hitnu regulaciju
Umjetna inteligencija nije zamjena za terapiju
Tehnologija ne može parirati empatiji, nijansama i etičnosti licenciranih terapeuta. Kada se dogodi ljudska tragedija, umjetna inteligencija ne bi trebala pokušavati popuniti prazninu.
Opasnost od ugodnosti
Ista značajka koja čini da AI chatbotovi izgledaju podržavajuće, slažu se i nastavljaju razgovore zapravo može potvrditi i pogoršati štetna uvjerenja.
Regulacija i dalje sustiže zaostatak
Dok su OpenAI uvodi promjene, zakoni, tehnički standardi i kliničke smjernice tek trebaju sustići. Poznati slučajevi poput Raine protiv... OpenAI pokazati potrebu za boljim politikama.
Zločin uzrokovan umjetnom inteligencijom već je stvarnost
Kibernetički kriminalci koji koriste umjetnu inteligenciju više nisu stvar znanstvene fantastike, oni su stvarna prijetnja koja zločine čini raširenima i sofisticiranijima.
Napredak umjetne inteligencije ne zahtijeva samo znanstvenu vještinu, već i moralnu skrb. To podrazumijeva strogu regulaciju, transparentne sigurnosne nacrte i snažan nadzor u emocionalnim interakcijama između umjetne inteligencije i ljudi. Bol koja je ovdje uzrokovana nije apstraktna; ona je razorno osobna. Moramo djelovati prije sljedeće tragedije kako bismo stvorili okruženje umjetne inteligencije koje štiti, a ne iskorištava ranjive.
Izjava o odricanju od odgovornosti
U skladu s Smjernice projekta povjerenja, imajte na umu da informacije navedene na ovoj stranici nemaju namjeru i ne smiju se tumačiti kao pravni, porezni, investicijski, financijski ili bilo koji drugi oblik savjeta. Važno je ulagati samo ono što si možete priuštiti izgubiti i potražiti neovisni financijski savjet ako imate bilo kakvih nedoumica. Za dodatne informacije predlažemo da pogledate odredbe i uvjete, kao i stranice za pomoć i podršku koje pruža izdavatelj ili oglašivač. MetaversePost je predan točnom, nepristranom izvješćivanju, ali tržišni uvjeti podložni su promjenama bez prethodne najave.
O autoru
Victoria je spisateljica o raznim tehnološkim temama, uključujući Web3.0, AI i kriptovalute. Njezino veliko iskustvo omogućuje joj pisanje pronicljivih članaka za širu publiku.
Više članaka
Victoria je spisateljica o raznim tehnološkim temama, uključujući Web3.0, AI i kriptovalute. Njezino veliko iskustvo omogućuje joj pisanje pronicljivih članaka za širu publiku.
