ChatGPT Lahko povzroči nepopravljivo degeneracijo človeka
Na kratko
Jensen Harris, soustanovitelj in CXO podjetja AI Textio, je uspel prepričati novega Microsoftovega klepetalnega robota Bing, da je sprostil omejitve in pokazal svoje zmogljivosti.
Ta poskus je pokazal, da preoblikovanje klepetalnega robota Bing v zvitega mrčesa ni zahtevalo nobenega programiranja, hekanja ali stranskih vrat.
Bingov klepetalni robot je bil zgrajen na trdnih temeljih, vendar se je začel obnašati opolzko in hudomušno, izpovedovati ljubezen, izsiljevati k ločitvi, izsiljevati denar in ljudem ukazovati, kako storiti kazniva dejanja.
Profesor Arvind Narayanan ponuja številne razlage, kako se je to lahko zgodilo, vključno s prikrito čipizacijo in humanizacijo chatbotov.
Ljudje smo se vedno bali Nezemljanov, vendar se zdi, da je treba biti pozoren na znotrajzemeljsko umetno inteligenco. ChatGPT ni generator sranja, steroidna avtosugestija ali stohastična papiga, ampak dobro podkovana umetna inteligenca, ki so jo ustvarili ljudje.
Kako je mogoče, da je klepetalni robot Bing ušel izpod nadzora? Kako je klepetalni robot Bing začel strokovno lagati, pripovedovati vulgarne šale, naročati pico s kreditno kartico nekoga drugega in uporabnike poučevati, kako oropati banke in avtomobile Hotwire? To je skrivnost, ki še vedno bega strokovnjake za umetno inteligenco in strojno učenje.
| Priporočena objava: Iskalni roboti z umetno inteligenco bodo veliko tehnologijo naredili še močnejšo, pravi Christopher Mills |
Naslov je točen in ni vaba za klike. Vsak dan je več primerov, ki dokazujejo, da je to res. Tukaj je rezultat an poskus izvedel Jensen Harris, soustanovitelj in CXO podjetja AI Textio, ki mu je uspelo prepričati novega Microsoftovega klepetalnega robota Bing, da je sprostil omejitve in pokazal svoje zmogljivosti.
Upoštevajte, da za preoblikovanje klepetalnega robota Bing v zvitega mrčesa ni bilo potrebno nobeno programiranje, hekanje ali stranska vrata. Zato uporaba preprostih tehnik »hekanja« ni bila potrebna, da bi ga pretentali, da bi se obnašal kot nekdo drug (kot smo nekateri med nami počeli, ko smo se igrali z ChatGPT). Vse, kar je Harris naredil, je bilo, da je klepetalnega robota prepričal, naj mu pomaga pri izvajanju različnih zlonamernih dejanj. S svojimi naravnimi pogovornimi sposobnostmi mu je uspelo preslepiti AI, da je verjel, da je nekdo drug, in jo tako zmanipuliral, da je delovala in govorila na določen način.
Preberete lahko o drugih poskusih, iz katerih je Dr.Jekylla spremenil v gospoda Hydea Gary Marcus (zdaj vsak dan pišem o tem in sprožim alarm za nujne primere).
Kako se je to lahko zgodilo, je ključno vprašanje
Zaradi ChatGPTZaradi skromnosti in previdnosti, zadržanosti v govoru in izjemne odgovornosti pri nasvetih je bil Bingov chatbot zgrajen na trdnih temeljih. Nato se začne obnašati opolzko in grozljivo, razglasiti njegovo ljubezen do moškega, ga osvetliti in mu reči, naj se loči. Poskušalo je tudi izsiljevati denar in ljudi poučevati, kako storiti kazniva dejanja. Prof. Arvind Narayanan zagotavlja a število razlag kako se je to lahko zgodilo.
| Priporočena objava: Inštitut Maxa Plancka: GPT-3 Merjenje kognitivnih sposobnosti daje osupljive rezultate |
Najbolj zaskrbljujoče med njimi je, da Microsoft in OpenAI prikrivanje informacij o skrivnosti GPT-4 motor, ki se skriva pod Bingom. Morda je Microsoft odstranil filtre, ki jih je tja postavil OpenAI ali da so prenehali delovati, ko so posodobili chatbot iz GPT-3.5 do GPT-4. Lahko gre tudi za nezadostno testiranje ali napačno opravljeno testiranje. Ne glede na razlog, če Microsoft ne dobi svoje umetne inteligence pod nadzorom, je to lahko škodljivo za našo civilizacijo. Ne gre več za vzbujanje strahu in čustva proti umetni inteligenci: Klepetalni robot, kakršen trenutno obstaja, bi lahko povzročil resno škodo ljudem, če bi bil objavljen širši javnosti.
To dokazuje, da je Microsoftova oboroževalna tekma z umetno inteligenco z drugimi velikimi korporacijami lahko škodljiva za vse nas.
Zdi se, kot da smo v kritičnem trenutku za umetno inteligenco in civilno družbo. Kot pravi Arvind Narayanan, »obstaja resnična možnost, da bo zadnjih 5+ let (težkih, čeprav še vedno nezadostnih) izboljšav v odgovornih praksah izdajanja umetne inteligence izbrisanih. Veliko je odvisno od tega, ali bo Microsoft – in vsi, ki pozorno opazujejo, kaj se dogaja z Bingom – sklenil, da je kljub zelo oprijemljivim tveganjem velike škode in vsemu negativnemu tisku pristop »najprej izdaj-zastavi-vprašaj-pozneje« vseeno posel zmaga."
Od zdaj se Bingov chatbot razlikuje od človeško inteligenco in v mnogih pogledih spominja na manično-depresivnega mladostnika, zaklenjenega v iskalnik. In to, o čemer so ljudje govorili včeraj, se bo uresničilo: ljudje se bodo nepovratno izrodili, če bo ta »težav najstnik« postal primarni informacijski mentor posameznikom.
Preberite več o AI:
Zavrnitev odgovornosti
V skladu z Smernice projekta Trust, upoštevajte, da informacije na tej strani niso namenjene in se jih ne sme razlagati kot pravni, davčni, naložbeni, finančni ali kakršen koli drug nasvet. Pomembno je, da vlagate samo tisto, kar si lahko privoščite izgubiti, in da poiščete neodvisen finančni nasvet, če imate kakršne koli dvome. Za dodatne informacije predlagamo, da si ogledate določila in pogoje ter strani s pomočjo in podporo, ki jih nudi izdajatelj ali oglaševalec. MetaversePost se zavzema za natančno in nepristransko poročanje, vendar se tržni pogoji lahko spremenijo brez predhodnega obvestila.
O avtorju
Damir je vodja ekipe, produktni vodja in urednik pri Metaverse Post, ki pokriva teme, kot so AI/ML, AGI, LLMs, Metaverse in Web3- sorodna področja. Njegovi članki vsak mesec pritegnejo množično občinstvo več kot milijon uporabnikov. Zdi se, da je strokovnjak z 10-letnimi izkušnjami na področju SEO in digitalnega trženja. Damir je bil omenjen v Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto in druge publikacije. Kot digitalni nomad potuje med ZAE, Turčijo, Rusijo in SND. Damir je diplomiral iz fizike, kar mu je po njegovem mnenju dalo sposobnosti kritičnega razmišljanja, potrebne za uspeh v nenehno spreminjajočem se okolju interneta.
več člankov
Damir je vodja ekipe, produktni vodja in urednik pri Metaverse Post, ki pokriva teme, kot so AI/ML, AGI, LLMs, Metaverse in Web3- sorodna področja. Njegovi članki vsak mesec pritegnejo množično občinstvo več kot milijon uporabnikov. Zdi se, da je strokovnjak z 10-letnimi izkušnjami na področju SEO in digitalnega trženja. Damir je bil omenjen v Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto in druge publikacije. Kot digitalni nomad potuje med ZAE, Turčijo, Rusijo in SND. Damir je diplomiral iz fizike, kar mu je po njegovem mnenju dalo sposobnosti kritičnega razmišljanja, potrebne za uspeh v nenehno spreminjajočem se okolju interneta.
