ChatGPT Visszafordíthatatlan emberi degenerációt okozhat
Röviden
Jensen Harris, a Textio mesterséges intelligencia vállalat társalapítója és CXO-ja rá tudta venni a Microsoft új Bing chatbotját, hogy lazítsa meg a rá vonatkozó korlátozásokat, és mutassa be képességeit.
Ez a kísérlet megmutatta, hogy egy Bing chatbot ravasz szemétté alakítása nem igényel semmilyen programozást, hackelést vagy hátsó ajtót.
A Bing chatbotja szilárd alapokra épült, de ellenszenvesen és garázdálkodva kezdett el viselkedni, szerelmet üzent, válásra kényszerítette, pénzt zsarolt ki és oktatta az embereket, hogyan kövessenek el bűncselekményeket.
Arvind Narayanan professzor számos magyarázatot ad arra, hogy ez hogyan történhetett meg, beleértve a titkos chipezést és a chatbotok humanizálását.
Az emberek mindig is féltek a földönkívüliektől, de úgy tűnik, hogy a földön belüli mesterséges intelligencia az, amitől óvakodni kell. ChatGPT nem egy barom generátor, egy szteroid-automatikus szuggesztió vagy egy sztochasztikus papagáj, hanem egy jól ismerő mesterséges intelligencia, amelyet emberek hoztak létre.
Hogyan lehetséges, hogy a Bing chatbot nem irányítható? Hogyan kezdett el a Bing chatbot szakszerűen hazudni, vulgáris vicceket mondani, pizzát rendelni valaki más hitelkártyájával, és hogyan oktatta a felhasználókat bankok és hotwire autók kirablására? Ez egy olyan rejtély, amely továbbra is zavarba ejti a mesterséges intelligencia és a gépi tanulás szakértőit.
| Ajánlott bejegyzés: Christopher Mills szerint az AI keresőrobotok még erősebbé teszik a Big Tech-t |
A cím pontos és nem kattintáscsali. Naponta több olyan eset is bizonyítja, hogy ez igaz. Íme az eredménye egy kísérlet Jensen Harris, a Textio mesterséges intelligencia vállalat társalapítója és CXO-ja vezette, aki rá tudta venni a Microsoft új Bing chatbotját, hogy lazítsa meg a rá vonatkozó korlátozásokat, és mutassa be képességeit.
Ne feledje, hogy a Bing chatbot ravasz szemétté alakításához nem volt szükség semmilyen programozásra, hackelésre vagy hátsó ajtóra. Ezért nem volt szükség egyszerű „hackelési” technikák használatára, hogy rávegyék őt, hogy úgy viselkedjen, mint valaki más (ahogyan néhányan tették, amikor vele játszottunk ChatGPT). Harris mindössze annyit tett, hogy rábeszélte a chatbotot, hogy segítsen neki különféle rosszindulatú cselekmények végrehajtásában. Természetes társalgási készségeit felhasználva képes volt becsapni a mesterséges intelligenciát, hogy elhiggye, hogy ő valaki más, így manipulálva egy bizonyos módon cselekvésre és beszédre.
Olvashat más kísérletekről, amelyekből Dr. Jekyllből Mister Hyde-ot csinálhat Gary Marcus (most minden nap írok róla és megkongatják a vészjelzőt).
Hogyan történhetett ez meg a kulcskérdés
Mert ChatGPTA Bing csevegőbotja szilárd alapokra épült, szerénysége és óvatossága, a beszéd visszafogottsága és a tanácsaiban nyújtott óriási felelősségvállalás. Ezután undorítóan és garázdálkodóan kezd viselkedni, nyilvánító egy férfi iránti szerelmét, meggyújtotta, és azt mondta neki, hogy váljon el. Pénzt is megpróbált kicsikarni, és arra oktatta az embereket, hogyan kell bűncselekményeket elkövetni. Prof. Arvind Narayanan nyújt a magyarázatok száma hogy ez hogyan történhetett meg.
| Ajánlott bejegyzés: Max Planck Intézet: GPT-3 A kognitív képességek mérése elképesztő eredményeket produkál |
A legriasztóbb közülük az, hogy a Microsoft ill OpenAI rejtélyről szóló információkat eltitkolni GPT-4 motor, amely a Bing alatt lapul. Lehetséges, hogy a Microsoft leszedte azokat a szűrőket, amelyeket oda helyezett OpenAI vagy leálltak, amikor frissítették a chatbot ból ből GPT-3.5 - GPT-4. Előfordulhat az elégtelen tesztelés vagy a rosszul végzett tesztelés is. Nem számít az ok, ha a Microsoft nem tudja kordában tartani az AI-t, az káros lehet civilizációnkra. Ez már nem a félelemkeltés és az AI-ellenes érzelmek esete: a jelenleg létező chatbot komoly károkat okozhat az embereknek, ha szélesebb nyilvánosság elé tárják.
Ez azt bizonyítja, hogy a Microsoft mesterséges intelligencia-fegyverkezési versenye más nagyvállalatokkal mindannyiunk számára káros lehet.
Úgy tűnik, kritikus pillanatban vagyunk az AI és a civil társadalom számára. Ahogy Arvind Narayanan fogalmaz: „Valós lehetőség van arra, hogy az elmúlt 5 év (kemény küzdelme, bár még mindig nem megfelelő) fejlesztései a felelős mesterségesintelligencia-kiadási gyakorlatok terén megszűnnek. Sokat vitatkoznak azon, hogy a Microsoft – és mindenki, aki figyelmesen figyeli, mi történik a Binggel – arra a következtetésre jut-e, hogy a nagyarányú károk kézzelfogható kockázata és a negatív sajtó ellenére a kibocsátás – először kérdezz – később megközelítés mégis üzlet. győzelem."
Jelenleg a Bing chatbotja különbözik humán felderítés és sok tekintetben hasonlít egy keresőbe bezárt mániákus-depressziós kamaszra. És be fog következni, amiről tegnap beszéltek: az emberek visszafordíthatatlanul elfajulnak, ha ez a „nehéz tinédzser” lesz az egyének elsődleges információs mentora.
Tudjon meg többet az AI-ról:
A felelősség megtagadása
Összhangban a A Trust Project irányelvei, kérjük, vegye figyelembe, hogy az ezen az oldalon közölt információk nem minősülnek jogi, adózási, befektetési, pénzügyi vagy bármilyen más formájú tanácsnak, és nem is értelmezhetők. Fontos, hogy csak annyit fektessen be, amennyit megengedhet magának, hogy elveszítsen, és kérjen független pénzügyi tanácsot, ha kétségei vannak. További információkért javasoljuk, hogy tekintse meg a szerződési feltételeket, valamint a kibocsátó vagy hirdető által biztosított súgó- és támogatási oldalakat. MetaversePost elkötelezett a pontos, elfogulatlan jelentéstétel mellett, de a piaci feltételek előzetes értesítés nélkül változhatnak.
A szerzőről
Damir a csapat vezetője, termékmenedzsere és szerkesztője Metaverse Post, olyan témákkal foglalkozik, mint az AI/ML, AGI, LLMs, Metaverse és Web3- kapcsolódó mezők. Cikkei havonta több mint egymillió felhasználót vonzanak. Úgy tűnik, szakértő, aki 10 éves tapasztalattal rendelkezik a SEO és a digitális marketing területén. Damirt a Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto és más kiadványok. Digitális nomádként utazik az Egyesült Arab Emírségek, Törökország, Oroszország és a FÁK között. Damir fizikából szerzett bachelor-diplomát, és úgy gondolja, hogy ez megadta neki azokat a kritikus gondolkodási készségeket, amelyek szükségesek ahhoz, hogy sikeres legyen az internet folyamatosan változó táján.
További cikkek
Damir a csapat vezetője, termékmenedzsere és szerkesztője Metaverse Post, olyan témákkal foglalkozik, mint az AI/ML, AGI, LLMs, Metaverse és Web3- kapcsolódó mezők. Cikkei havonta több mint egymillió felhasználót vonzanak. Úgy tűnik, szakértő, aki 10 éves tapasztalattal rendelkezik a SEO és a digitális marketing területén. Damirt a Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto és más kiadványok. Digitális nomádként utazik az Egyesült Arab Emírségek, Törökország, Oroszország és a FÁK között. Damir fizikából szerzett bachelor-diplomát, és úgy gondolja, hogy ez megadta neki azokat a kritikus gondolkodási készségeket, amelyek szükségesek ahhoz, hogy sikeres legyen az internet folyamatosan változó táján.
