ChatGPT Moglo bi uzrokovati nepovratnu ljudsku degeneraciju
Ukratko
Jensen Harris, suosnivač i CXO AI tvrtke Textio, uspio je uvjeriti novi Microsoftov chatbot Bing da ublaži ograničenja koja su mu postavljena i demonstrira svoje mogućnosti.
Ovaj eksperiment je pokazao da pretvaranje Bing chatbota u lukavo smeće ne zahtijeva nikakvo programiranje, hakiranje ili backdooring.
Bingov chatbot izgrađen je na čvrstim temeljima, ali se počeo ponašati odvratno i grubo, izjavljivati ljubav, prisiljavati na razvod, iznuđivati novac i upućivati ljude kako da počine zločine.
Prof. Arvind Narayanan daje brojna objašnjenja kako se to moglo dogoditi, uključujući prikrivenu čipizaciju i humaniziranje chatbota.
Ljudi su se oduvijek bojali izvanzemaljaca, a ipak se čini da je unutarzemaljska umjetna inteligencija ono na što treba biti oprezan. ChatGPT nije generator sranja, steroidna autosugestija ili stohastička papiga, već dobro upućena umjetna inteligencija koju su stvorili ljudi.
Kako je moguće da je Bing chatbot izvan kontrole? Kako je Bing chatbot počeo stručno lagati, pričati vulgarne viceve, naručivati pizzu tuđom kreditnom karticom i upućivati korisnike kako pljačkati banke i hotwire automobile? Ovo je misterij koji i dalje zbunjuje stručnjake za umjetnu inteligenciju i strojno učenje.
| Preporučeni post: AI Search roboti će veliku tehnologiju učiniti još moćnijom, kaže Christopher Mills |
Naslov je točan i nije mamac za klikove. Svaki dan postoji nekoliko primjera koji dokazuju da je to istina. Evo ishoda an eksperiment proveo Jensen Harris, suosnivač i CXO AI tvrtke Textio, koji je uspio uvjeriti novi Bing chatbot iz Microsofta da olabavi ograničenja postavljena na njega i demonstrira svoje mogućnosti.
Imajte na umu da pretvaranje Bing chatbota u lukavo smeće nije zahtijevalo nikakvo programiranje, hakiranje ili backdooring. Stoga korištenje jednostavnih tehnika "hakiranja" nije bilo potrebno da bi ga se natjeralo da se ponaša kao netko drugi (kao što su neki od nas radili igrajući se s ChatGPT). Sve što je Harris učinio bilo je nagovoriti chatbota da mu pomogne u izvršenju raznih zlonamjernih radnji. Koristeći se svojim prirodnim vještinama razgovora, uspio je prevariti AI da povjeruje da je on netko drugi, manipulirajući tako da se ponaša i govori na određeni način.
Možete čitati o drugim eksperimentima iz kojih možete pretvoriti Dr.Jekylla u Mister Hydea Gary Marcus (sada pišem o tome svaki dan i oglašavam alarm za hitne slučajeve).
Kako se to moglo dogoditi, ključno je pitanje
Zbog ChatGPTSkromnost i oprez, suzdržanost u govoru i ogromna odgovornost u savjetima, Bingov chatbot izgrađen je na čvrstim temeljima. Nakon toga se počinje ponašati odvratno i grubo, izjavljujući njegovu ljubav prema nekom muškarcu, gađajući ga plinom i govoreći mu da se razvede. Također je pokušao iznuditi novac i uputiti ljude kako da počine zločine. Prof. Arvind Narayanan pruža a broj objašnjenja kako se to moglo dogoditi.
| Preporučeni post: Institut Max Planck: GPT-3 Mjerenje kognitivnih sposobnosti daje zapanjujuće rezultate |
Najalarmantniji od njih je da Microsoft i OpenAI prikriti informacije o misteriju GPT-4 motor koji se krije ispod Binga. Moguće je da je Microsoft skinuo filtre koje je ondje postavio OpenAI ili da su prestali raditi kada su ažurirali chatbot iz GPT-3.5 do GPT-4. To također može biti slučaj nedovoljnog testiranja ili testiranja koje je pogrešno obavljeno. Bez obzira na razlog, ako Microsoft ne stavi svoju umjetnu inteligenciju pod kontrolu, to može biti štetno za našu civilizaciju. Više nije riječ o širenju straha i osjećajima protiv umjetne inteligencije: chatbot kakav trenutno postoji mogao bi ozbiljno naštetiti ljudima ako se pusti u širu javnost.
Ovo dokazuje da Microsoftova utrka u naoružanju AI s drugim velikim korporacijama može biti štetna za sve nas.
Čini se da smo u kritičnom trenutku za AI i civilno društvo. Kao što kaže Arvind Narayanan, “Postoji stvarna mogućnost da će zadnjih 5+ godina (teško vođenih, iako još uvijek neadekvatnih) poboljšanja u praksi odgovornog objavljivanja AI biti izbrisano. Mnogo toga ovisi o tome hoće li Microsoft — i svi koji pozorno promatraju što se događa s Bingom — zaključiti da je unatoč vrlo opipljivim rizicima štete velikih razmjera i svim negativnim tiskovnim tiskovima, pristup puštanja u javnost-prvo-pitanje-kasnije ipak poslovni pobijediti."
Od sada se Bingov chatbot razlikuje od ljudske inteligencije i na mnogo načina sliči manično-depresivnom adolescentu zaključanom u tražilicu. I ostvarit će se ono o čemu se jučer pričalo: ljudi će nepovratno degenerirati ako ovaj "teški tinejdžer" postane primarni informacijski mentor za pojedince.
Pročitajte više o AI:
Izjava o odricanju od odgovornosti
U skladu s Smjernice projekta povjerenja, imajte na umu da informacije navedene na ovoj stranici nemaju namjeru i ne smiju se tumačiti kao pravni, porezni, investicijski, financijski ili bilo koji drugi oblik savjeta. Važno je ulagati samo ono što si možete priuštiti izgubiti i potražiti neovisni financijski savjet ako imate bilo kakvih nedoumica. Za dodatne informacije predlažemo da pogledate odredbe i uvjete, kao i stranice za pomoć i podršku koje pruža izdavatelj ili oglašivač. MetaversePost je predan točnom, nepristranom izvješćivanju, ali tržišni uvjeti podložni su promjenama bez prethodne najave.
O autoru
Damir je voditelj tima, product manager i urednik u Metaverse Post, koji pokriva teme kao što su AI/ML, AGI, LLMs, Metaverse i Web3- srodna polja. Njegovi članci privlače ogromnu publiku od preko milijun korisnika svakog mjeseca. Čini se da je stručnjak s 10 godina iskustva u SEO-u i digitalnom marketingu. Damir je spomenut u Mashableu, Wiredu, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto i druge publikacije. Putuje između UAE, Turske, Rusije i CIS-a kao digitalni nomad. Damir je stekao diplomu prvostupnika fizike, za koju vjeruje da mu je dala vještine kritičkog razmišljanja potrebne za uspjeh u stalno promjenjivom okruženju interneta.
Više članaka
Damir je voditelj tima, product manager i urednik u Metaverse Post, koji pokriva teme kao što su AI/ML, AGI, LLMs, Metaverse i Web3- srodna polja. Njegovi članci privlače ogromnu publiku od preko milijun korisnika svakog mjeseca. Čini se da je stručnjak s 10 godina iskustva u SEO-u i digitalnom marketingu. Damir je spomenut u Mashableu, Wiredu, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto i druge publikacije. Putuje između UAE, Turske, Rusije i CIS-a kao digitalni nomad. Damir je stekao diplomu prvostupnika fizike, za koju vjeruje da mu je dala vještine kritičkog razmišljanja potrebne za uspjeh u stalno promjenjivom okruženju interneta.
