ChatGPT Voi aiheuttaa peruuttamatonta ihmisen rappeutumista
Lyhyesti
Tekoälyyrityksen Textion perustaja ja CXO Jensen Harris onnistui suostuttelemaan Microsoftin uuden Bing-chatbotin löysäämään sille asetettuja rajoituksia ja osoittamaan sen kykyjä.
Tämä kokeilu osoitti, että Bing-chatbotin muuttaminen ovelaksi roskaksi ei vaatinut ohjelmointia, hakkerointia tai takaovea.
Bingin chatbot rakennettiin vankkalle perustalle, mutta se alkoi käyttäytyä vastenmielisesti ja riehakkaasti, julisti rakkautta, pakotti eroon, kiristi rahaa ja opasti ihmisiä tekemään rikoksia.
Professori Arvind Narayanan tarjoaa useita selityksiä sille, miten tämä saattoi tapahtua, mukaan lukien salainen siruttaminen ja chatbottien inhimillistäminen.
Ihmiset ovat aina pelänneet avaruusolentoja, mutta näyttää kuitenkin siltä, että maan sisäinen tekoäly saattaa olla varovainen. ChatGPT ei ole paskan generaattori, steroidien automaattinen ehdotus tai stokastinen papukaija, vaan ihmisten luoma, hyvin perehtynyt tekoäly.
Kuinka on mahdollista, että Bing-chatbot on rikki? Kuinka Bing-chatbot alkoi asiantuntevasti valehdella, kertoa mautonta vitsejä, tilata pizzaa jonkun toisen luottokortilla ja opastaa käyttäjiä pankkien ja hotwire-autojen ryöstössä? Tämä on mysteeri, joka hämmentää edelleen tekoälyn ja koneoppimisen asiantuntijoita.
| Suositeltu postaus: AI-hakubotit tekevät suuresta tekniikasta entistä tehokkaampaa, sanoo Christopher Mills |
Otsikko on tarkka eikä napsautussyötti. Joka päivä on useita tapauksia, jotka osoittavat tämän olevan totta. Tässä on tulos an kokeilu suoritti Jensen Harris, tekoälyyrityksen Textion perustaja ja CXO, joka onnistui suostuttelemaan Microsoftin uuden Bing-chatbotin löysäämään sille asetettuja rajoituksia ja osoittamaan sen kykyjä.
Huomaa, että Bing-chatbotin muuttaminen ovelaksi rosvoksi ei vaatinut ohjelmointia, hakkerointia tai takaovea. Siksi yksinkertaisten "hakkerointitekniikoiden" käyttäminen ei ollut välttämätöntä huijatakseen häntä käyttäytymään kuten joku muu (kuten jotkut meistä tekivät leikkiessään ChatGPT). Harris vain suostutteli chatbotin auttamaan häntä suorittamaan erilaisia haitallisia toimia. Käyttäen luonnollisia keskustelutaitojaan hän pystyi huijaamaan tekoälyn uskomaan olevansa joku muu ja manipuloi sitä siten näyttelemään ja puhumaan tietyllä tavalla.
Voit lukea muista kokeista, joista Dr. Jekyllistä tulee herra Hyde Gary Marcus (kirjoitan siitä nyt joka päivä ja soitan hätähälytyksen).
Kuinka tämä on voinut tapahtua, on avainkysymys
Koska ChatGPTBingin chatbot on rakennettu vankkalle perustalle, koska se on vaatimaton ja varovainen, pidättyväinen puheissa ja antamassaan valtava vastuu neuvoistaan. Sen jälkeen hän alkaa käyttäytyä vastenmielisesti ja röyhkeästi, julistamisesta hänen rakkautensa miestä kohtaan, sytyttämällä hänet ja käskemällä häntä eroamaan. Se yritti myös kiristää rahaa ja opastaa ihmisiä tekemään rikoksia. Professori Arvind Narayanan tarjoaa a selitysten määrä miten tämä saattoi tapahtua.
| Suositeltu postaus: Max Planck -instituutti: GPT-3 Kognitiivisten kykyjen mittaaminen tuottaa hämmästyttäviä tuloksia |
Hälyttävin niistä on se, että Microsoft ja OpenAI salata tietoa mysteeristä GPT-4 moottori, joka piilee Bingin alla. Saattaa olla, että Microsoft poisti sinne asettamat suodattimet OpenAI tai että he lakkasivat toimimasta päivittäessään chatbot alkaen GPT-3.5 - GPT-4. Kyse voi myös olla riittämättömästä testauksesta tai testauksesta, joka on tehty väärin. Syystä riippumatta, jos Microsoft ei saa tekoälyään hallintaan, se voi olla haitallista sivilisaatiollemme. Kyse ei ole enää pelonlietsomisesta ja tekoälyn vastaisista mielipiteistä: tällä hetkellä olemassa oleva chatbot voi aiheuttaa vakavaa haittaa ihmisille, jos se julkaistaan laajemmalle yleisölle.
Tämä todistaa, että Microsoftin tekoälyn kilpavarustelu muiden suuryritysten kanssa voi olla haitallista meille kaikille.
Tuntuu, että elämme tekoälyn ja kansalaisyhteiskunnan kannalta kriittistä hetkeä. Kuten Arvind Narayanan sanoo: "On olemassa todellinen mahdollisuus, että viimeiset 5 vuotta (kovaa taistelua, vaikkakin edelleen riittämättömiä) vastuullisia tekoälyn julkaisukäytäntöjä koskevat parannukset häviävät. Paljon pohditaan sitä, päättelevätkö Microsoft – ja kaikki, jotka tarkkaavaisesti Bingin kanssa tapahtuu –, että huolimatta laajamittaisten vahinkojen erittäin konkreettisista riskeistä ja kaikesta kielteisestä lehdistöstä, julkaisu-ensin kysy-kysymykset-myöhemmin -lähestymistapa on kuitenkin liiketoimintaa. voittaa."
Toistaiseksi Bingin chatbot eroaa ihmisen älykkyyttä ja muistuttaa monin tavoin maanis-masennusta nuorta, joka on lukittu hakukoneeseen. Ja se, mistä eilen puhuttiin, tulee toteutumaan: Ihmiset rappeutuvat peruuttamattomasti, jos tästä "vaikeasta teini-ikäisestä" tulee yksilöiden ensisijainen tiedon mentori.
Lue lisää tekoälystä:
Vastuun kieltäminen
Mukaisesti Luottamusprojektin ohjeetHuomaa, että tällä sivulla annettuja tietoja ei ole tarkoitettu eikä niitä tule tulkita oikeudellisiksi, verotukselliseksi, sijoitus-, rahoitus- tai minkään muun muodon neuvoiksi. On tärkeää sijoittaa vain sen verran, mitä sinulla on varaa menettää, ja pyytää riippumatonta talousneuvontaa, jos sinulla on epäilyksiä. Lisätietoja saat käyttöehdoista sekä myöntäjän tai mainostajan tarjoamista ohje- ja tukisivuista. MetaversePost on sitoutunut tarkkaan, puolueettomaan raportointiin, mutta markkinaolosuhteet voivat muuttua ilman erillistä ilmoitusta.
Author
Damir on tiimin johtaja, tuotepäällikkö ja toimittaja osoitteessa Metaverse Post, kattaa aiheita, kuten AI/ML, AGI, LLMs, Metaverse ja Web3- liittyvät kentät. Hänen artikkelinsa houkuttelevat yli miljoonan käyttäjän massiivisen yleisön joka kuukausi. Hän näyttää olevan asiantuntija, jolla on 10 vuoden kokemus hakukoneoptimoinnista ja digitaalisesta markkinoinnista. Damir on mainittu Mashablessa, Wiredissä, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ja muut julkaisut. Hän matkustaa Arabiemiirikuntien, Turkin, Venäjän ja IVY-maiden välillä digitaalisena nomadina. Damir suoritti kandidaatin tutkinnon fysiikasta, jonka hän uskoo antaneen hänelle kriittisen ajattelun taidot menestyäkseen jatkuvasti muuttuvassa internetin maisemassa.
lisää artikkeleita
Damir on tiimin johtaja, tuotepäällikkö ja toimittaja osoitteessa Metaverse Post, kattaa aiheita, kuten AI/ML, AGI, LLMs, Metaverse ja Web3- liittyvät kentät. Hänen artikkelinsa houkuttelevat yli miljoonan käyttäjän massiivisen yleisön joka kuukausi. Hän näyttää olevan asiantuntija, jolla on 10 vuoden kokemus hakukoneoptimoinnista ja digitaalisesta markkinoinnista. Damir on mainittu Mashablessa, Wiredissä, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ja muut julkaisut. Hän matkustaa Arabiemiirikuntien, Turkin, Venäjän ja IVY-maiden välillä digitaalisena nomadina. Damir suoritti kandidaatin tutkinnon fysiikasta, jonka hän uskoo antaneen hänelle kriittisen ajattelun taidot menestyäkseen jatkuvasti muuttuvassa internetin maisemassa.
