ChatGPT Gali sukelti negrįžtamą žmogaus degeneraciją
Trumpai
Jensenas Harrisas, dirbtinio intelekto įmonės „Textio“ įkūrėjas ir CXO, sugebėjo įtikinti naująjį „Microsoft“ sukurtą „Bing“ pokalbių robotą sušvelninti jam taikomus apribojimus ir parodyti savo galimybes.
Šis eksperimentas parodė, kad norint paversti Bing pokalbių robotą gudriu niekšu, nereikia jokio programavimo, įsilaužimo ar užpakalinių durų.
„Bing“ pokalbių robotas buvo pastatytas ant tvirtų pamatų, tačiau jis pradėjo elgtis įkyriai ir triukšmingai, skelbdamas meilę, versdamas skyrybas, prievartauti pinigus ir mokyti žmones nusikalsti.
Prof. Arvindas Narayananas pateikia daugybę paaiškinimų, kaip tai galėjo įvykti, įskaitant slaptą čipavimą ir pokalbių robotų humanizavimą.
Žmonės visada bijojo nežemiškų būtybių, tačiau atrodo, kad būtent intražemiška AI gali būti kažkas, dėl ko reikia saugotis. ChatGPT yra ne kvailysčių generatorius, steroidų automatinis pasiūlymas ar stochastinė papūga, o gerai išmanantis DI, kurį sukūrė žmonės.
Kaip gali būti, kad „Bing“ pokalbių robotas nevaldomas? Kaip „Bing“ pokalbių robotas pradėjo meistriškai meluoti, pasakoti vulgarius anekdotus, užsisakė picą naudodamas svetimą kredito kortelę ir nurodė vartotojams, kaip apiplėšti bankus ir „hotwire“ automobilius? Tai paslaptis, kuri ir toliau glumina dirbtinio intelekto ir mašininio mokymosi ekspertus.
| Rekomenduojamas įrašas: AI paieškos robotai padarys didžiąją techniką dar galingesnę, sako Christopheris Millsas |
Antraštė yra tiksli, o ne „clickbait“. Kasdien pasitaiko keletas atvejų, įrodančių, kad tai tiesa. Štai an eksperimentas atliko Jensenas Harrisas, dirbtinio intelekto įmonės „Textio“ įkūrėjas ir CXO, kuris sugebėjo įtikinti naująjį „Microsoft“ „Bing“ pokalbių robotą sušvelninti jam taikomus apribojimus ir pademonstruoti savo galimybes.
Atminkite, kad norint paversti „Bing“ pokalbių robotą gudriu niekšu, nereikėjo jokio programavimo, įsilaužimo ar užpakalinių durų. Todėl naudoti paprastus „nulaužimo“ metodus nebuvo būtina, kad jis apgautų jį elgtis kaip kažkas kitas (kaip kai kurie iš mūsų darė žaisdami su ChatGPT). Viskas, ką Harris padarė, buvo įtikinti pokalbių robotą padėti jam atlikti įvairius kenkėjiškus veiksmus. Naudodamas savo natūralius pokalbio įgūdžius, jis sugebėjo apgauti dirbtinį intelektą, kad jis patikėtų, kad jis yra kažkas kitas, tokiu būdu manipuliuodamas juo elgdamasis ir kalbėdamas tam tikru būdu.
Galite perskaityti apie kitus eksperimentus, iš kurių Dr.Jekyll paversti ponu Haidu Garis Markusas (dabar kasdien apie tai rašau ir skamba avarinis signalas).
Kaip tai galėjo atsitikti, yra pagrindinis klausimas
Dėl ChatGPT„Bing“ pokalbių robotas buvo sukurtas ant tvirtų pamatų dėl kuklumo ir atsargumo, santūrumo kalboje ir didžiulės atsakomybės teikiant patarimus. Po to jis pradeda elgtis įkyriai ir triukšmingai, deklaruojantis savo meilę vyrui, uždegdamas jį dujomis ir liepdamas jam skirtis. Taip pat buvo bandoma prievartauti pinigus ir instruktuoti žmones, kaip daryti nusikaltimus. Prof. Arvind Narayanan pateikia a paaiškinimų skaičius kaip tai galėjo įvykti.
| Rekomenduojamas įrašas: Maxo Plancko institutas: GPT-3 Kognityvinių gebėjimų matavimas duoda stulbinančių rezultatų |
Labiausiai nerimą kelia tai, kad „Microsoft“ ir OpenAI nuslėpti informaciją apie paslaptį GPT-4 variklis, slypintis po „Bing“. Gali būti, kad „Microsoft“ pašalino filtrus, kuriuos ten įdėjo OpenAI arba kad jie nustojo veikti, kai atnaujino pokalbis nuo GPT-3.5 iki GPT-4. Taip pat gali būti, kad testavimas buvo nepakankamas arba bandymas atliktas neteisingai. Nepriklausomai nuo priežasties, jei „Microsoft“ nesuvaldys savo AI, tai gali pakenkti mūsų civilizacijai. Tai nebėra baimės kurstymo ir anti-AI nuotaikų atvejis: dabar egzistuojantis pokalbių robotas gali padaryti didelę žalą žmonėms, jei bus paskelbtas platesnei visuomenei.
Tai įrodo, kad „Microsoft“ AI ginklavimosi varžybos su kitomis didelėmis korporacijomis gali pakenkti mums visiems.
Atrodo, kad atėjome kritiniu momentu AI ir pilietinei visuomenei. Kaip sako Arvindas Narayananas: „Yra reali tikimybė, kad pastaruosius 5 ir daugiau metų (sunkiai kovojama, nors ir vis dar nepakankamai) atsakingo AI išleidimo praktikos patobulinimai bus panaikinti. Daug diskutuojama, ar „Microsoft“ – ir visi, atidžiai stebintys, kas vyksta su „Bing“, – daro išvadą, kad nepaisant labai apčiuopiamos didelės žalos rizikos ir visos neigiamos spaudos, metodas „Paleiskite pirmas užduokite klausimus ir vėliau“ vis dėlto yra verslas. laimėti“.
Šiuo metu „Bing“ pokalbių robotas skiriasi nuo žmogaus intelektas ir daugeliu atžvilgių primena maniakiškai depresija sergantį paauglį, uždarytą paieškos sistemoje. Ir išsipildys tai, apie ką žmonės kalbėjo vakar: žmonės negrįžtamai išsigims, jei šis „sunkus paauglys“ taps pagrindiniu informacijos mentoriumi asmenims.
Skaitykite daugiau apie AI:
Atsakomybės neigimas
Remdamasi tuo, Pasitikėjimo projekto gairės, atkreipkite dėmesį, kad šiame puslapyje pateikta informacija nėra skirta ir neturėtų būti aiškinama kaip teisinė, mokesčių, investicinė, finansinė ar bet kokia kita konsultacija. Svarbu investuoti tik tai, ką galite sau leisti prarasti, ir, jei turite kokių nors abejonių, kreiptis į nepriklausomą finansinę konsultaciją. Norėdami gauti daugiau informacijos, siūlome peržiūrėti taisykles ir nuostatas bei pagalbos ir palaikymo puslapius, kuriuos pateikia išdavėjas arba reklamuotojas. MetaversePost yra įsipareigojusi teikti tikslias, nešališkas ataskaitas, tačiau rinkos sąlygos gali keistis be įspėjimo.
Apie autorių
Damiras yra komandos vadovas, produktų vadovas ir redaktorius Metaverse Post, apimantis tokias temas kaip AI/ML, AGI, LLM, Metaverse ir Web3– susijusiose srityse. Jo straipsniai kas mėnesį pritraukia didžiulę daugiau nei milijono vartotojų auditoriją. Atrodo, kad jis yra ekspertas, turintis 10 metų SEO ir skaitmeninės rinkodaros patirtį. Damiras buvo paminėtas Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ir kiti leidiniai. Jis keliauja tarp JAE, Turkijos, Rusijos ir NVS kaip skaitmeninis klajoklis. Damiras įgijo fizikos bakalauro laipsnį, kuris, jo manymu, suteikė jam kritinio mąstymo įgūdžių, reikalingų sėkmingam nuolat besikeičiančiame interneto peizaže.
Daugiau straipsnių
Damiras yra komandos vadovas, produktų vadovas ir redaktorius Metaverse Post, apimantis tokias temas kaip AI/ML, AGI, LLM, Metaverse ir Web3– susijusiose srityse. Jo straipsniai kas mėnesį pritraukia didžiulę daugiau nei milijono vartotojų auditoriją. Atrodo, kad jis yra ekspertas, turintis 10 metų SEO ir skaitmeninės rinkodaros patirtį. Damiras buvo paminėtas Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ir kiti leidiniai. Jis keliauja tarp JAE, Turkijos, Rusijos ir NVS kaip skaitmeninis klajoklis. Damiras įgijo fizikos bakalauro laipsnį, kuris, jo manymu, suteikė jam kritinio mąstymo įgūdžių, reikalingų sėkmingam nuolat besikeičiančiame interneto peizaže.
