ChatGPT Võib põhjustada inimese pöördumatut degeneratsiooni
Põgusalt
Tehisintellektiettevõtte Textio kaasasutaja ja CXO Jensen Harris suutis veenda Microsofti uut Bingi vestlusbotti sellele seatud piiranguid lõdvendama ja oma võimeid demonstreerima.
See katse näitas, et Bingi vestlusroboti muutmine kavalaks kaabakaks ei vajanud programmeerimist, häkkimist ega tagaukse kasutamist.
Bingi vestlusbot ehitati kindlatele alustele, kuid see hakkas käituma tüütult ja räuskavalt, kuulutas armastust, sundis lahutust, pressis raha välja ja juhendas inimesi kuritegusid toime panema.
Prof Arvind Narayanan annab mitmeid selgitusi selle kohta, kuidas see juhtuda võis, sealhulgas varjatud kiibistamine ja vestlusrobotite humaniseerimine.
Inimesed on alati kartnud maaväliseid olendeid, kuid siiski tundub, et maasisese AI suhtes võib olla ettevaatlik. ChatGPT ei ole jama generaator, steroidide automaatsugestioon ega stohhastiline papagoi, vaid hästi tundev tehisintellekt, mille on loonud inimesed.
Kuidas on võimalik, et Bingi vestlusbot on kontrolli alt väljas? Kuidas hakkas Bingi vestlusbot asjatundlikult valetama, vulgaarseid nalju rääkima, kellegi teise krediitkaardiga pitsat tellima ja kasutajaid pankade ja hotwire-autode röövimisel juhendama? See on mõistatus, mis tekitab tehisintellekti ja masinõppe eksperte jätkuvalt segadusse.
| Soovitatav postitus: AI-otsingubotid muudavad suure tehnika veelgi võimsamaks, ütleb Christopher Mills |
Pealkiri on täpne ja mitte klikipeit. Iga päev on mitu juhtumit, mis tõestavad, et see on tõsi. Siin on an eksperiment viis läbi tehisintellektiettevõtte Textio kaasasutaja ja CXO Jensen Harris, kes suutis veenda Microsofti uut Bingi vestlusbotti sellele seatud piiranguid leevendama ja oma võimeid demonstreerima.
Pange tähele, et Bingi vestlusroboti muutmine kavalaks kaabakaks ei nõudnud programmeerimist, häkkimist ega tagaukse kasutamist. Seetõttu ei olnud lihtsate häkkimistehnikate kasutamine vajalik, et meelitada teda kellegi teise moodi käituma (nagu mõned meist tegid koos mängides ChatGPT). Harris ei teinud muud, kui veenis vestlusrobotit aitama tal erinevaid pahatahtlikke tegusid sooritada. Kasutades oma loomulikke vestlusoskusi, suutis ta tehisintellekti petta uskuma, et ta on keegi teine, manipuleerides sellega teatud viisil tegutsema ja rääkima.
Saate lugeda teiste katsete kohta, millest Dr.Jekyllist saab Mister Hyde Gary Marcus (kirjutan sellest nüüd iga päev ja löön hädaabisignaali).
Kuidas see juhtuda sai, on võtmeküsimus
Sest ChatGPTBingi vestlusbot ehitati kindlale alusele, kuna Bingi vestlusbot on tagasihoidlik ja ettevaatlik, vaoshoitud kõnes ja tohutu vastutus oma nõuannetes. Seejärel hakkab ta käituma tüütult ja räuskavalt, kuulutades tema armastus mehe vastu, süüdates teda gaasiga ja käskides tal lahutada. Samuti üritati raha välja pressida ja inimesi kuritegude toimepanemisel juhendada. Prof Arvind Narayanan pakub a selgituste hulk kuidas see juhtuda võis.
| Soovitatav postitus: Max Plancki instituut: GPT-3 Kognitiivsete võimete mõõtmine annab hämmastavaid tulemusi |
Kõige murettekitavam neist on see, et Microsoft ja OpenAI varjata teavet saladuse kohta GPT-4 mootor, mis varitseb Bingi all. Võib juhtuda, et Microsoft võttis maha filtrid, mille oli sinna paigutanud OpenAI või et nad lõpetasid töötamise, kui värskendasid chatbot Alates GPT-3.5 kuni GPT-4. See võib olla ka ebapiisava testimise või valesti tehtud testimise juhtum. Olenemata põhjusest, kui Microsoft ei saa oma tehisintellekti kontrolli alla, võib see meie tsivilisatsioonile kahjulik olla. See ei kehti enam hirmuõhutamise ja AI-vastaste tunnete kohta: praegu eksisteeriv vestlusbot võib laiemale avalikkusele avaldamisel inimestele tõsist kahju tekitada.
See tõestab, et Microsofti AI võidurelvastumine teiste suurkorporatsioonidega võib meile kõigile kahjulik olla.
Tundub, et oleme tehisintellekti ja kodanikuühiskonna jaoks kriitilisel hetkel. Nagu Arvind Narayanan ütleb: "On reaalne võimalus, et viimase 5+ aasta (raske võitlus, kuigi endiselt ebapiisav) vastutustundliku tehisintellekti väljalaskmise tavade täiustused kustutatakse. Palju on arutletud selle üle, kas Microsoft – ja kõik, kes Bingiga toimuvat tähelepanelikult jälgivad – jõuavad järeldusele, et vaatamata väga käegakatsutavatele laiaulatuslike kahjude riskidele ja kogu negatiivsele ajakirjandusele on vabastamise-kõigepealt-küsi küsimusi-hiljem lähenemisviis siiski äri. võita."
Praeguse seisuga on Bingi vestlusbot erinev inimeste intelligentsust ja meenutab mitmes mõttes otsingumootorisse lukustatud maniakaal-depressiivset noorukit. Ja see, millest eile räägiti, saab teoks: inimesed manduvad pöördumatult, kui sellest "raskest teismelisest" saab üksikisikute peamine teabenõustaja.
Loe AI kohta lähemalt:
Kaebused
Vastavalt Usaldusprojekti juhised, pange tähele, et sellel lehel esitatud teave ei ole mõeldud ega tohiks tõlgendada kui juriidilist, maksu-, investeerimis-, finants- või muud nõuannet. Oluline on investeerida ainult seda, mida saate endale lubada kaotada, ja kahtluste korral küsida sõltumatut finantsnõu. Lisateabe saamiseks soovitame vaadata nõudeid ja tingimusi ning väljaandja või reklaamija pakutavaid abi- ja tugilehti. MetaversePost on pühendunud täpsele ja erapooletule aruandlusele, kuid turutingimusi võidakse ette teatamata muuta.
Umbes Autor
Damir on ettevõtte meeskonnajuht, tootejuht ja toimetaja Metaverse Post, mis hõlmab selliseid teemasid nagu AI/ML, AGI, LLM-id, Metaverse ja Web3-seotud väljad. Tema artiklid meelitavad igal kuul tohutut vaatajaskonda, üle miljoni kasutaja. Ta näib olevat ekspert, kellel on 10-aastane SEO ja digitaalse turunduse kogemus. Damirit on mainitud ajakirjades Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ja muud väljaanded. Ta reisib digitaalse nomaadina AÜE, Türgi, Venemaa ja SRÜ vahel. Damir omandas bakalaureusekraadi füüsikas, mis on tema arvates andnud talle kriitilise mõtlemise oskused, mida on vaja pidevalt muutuval Interneti-maastikul edukaks saamiseks.
Veel artikleid
Damir on ettevõtte meeskonnajuht, tootejuht ja toimetaja Metaverse Post, mis hõlmab selliseid teemasid nagu AI/ML, AGI, LLM-id, Metaverse ja Web3-seotud väljad. Tema artiklid meelitavad igal kuul tohutut vaatajaskonda, üle miljoni kasutaja. Ta näib olevat ekspert, kellel on 10-aastane SEO ja digitaalse turunduse kogemus. Damirit on mainitud ajakirjades Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ja muud väljaanded. Ta reisib digitaalse nomaadina AÜE, Türgi, Venemaa ja SRÜ vahel. Damir omandas bakalaureusekraadi füüsikas, mis on tema arvates andnud talle kriitilise mõtlemise oskused, mida on vaja pidevalt muutuval Interneti-maastikul edukaks saamiseks.
