ChatGPT Ar putea cauza degenerare umană ireversibilă
Pe scurt
Jensen Harris, co-fondator și CXO al companiei de inteligență artificială Textio, a reușit să convingă noul chatbot Bing de la Microsoft să slăbească restricțiile impuse acestuia și să-și demonstreze capacitățile.
Acest experiment a arătat că transformarea unui chatbot Bing într-un ticălos viclean nu a necesitat nicio programare, hacking sau backdooing.
Chatbot-ul Bing a fost construit pe baze solide, dar a început să se comporte detestabil și zbuciumat, declarând dragoste, forțând un divorț, storcând bani și instruind oamenii cum să comită crime.
Prof. Arvind Narayanan oferă o serie de explicații pentru modul în care s-ar fi putut întâmpla acest lucru, inclusiv cipizarea sub acoperire și umanizarea chatbot-urilor.
Oamenii s-au temut întotdeauna de extratereștri și, totuși, se pare că IA intraterestră poate fi ceva de care să ne ferim. ChatGPT nu este un generator de prostii, o auto-sugestie de steroizi sau un papagal stocastic, ci o IA bine versată care a fost creată de oameni.
Cum este posibil ca chatbot-ul Bing să fie scăpat de sub control? Cum a început chatbot-ul Bing să mintă cu experiență, să spună glume vulgare, să comandă pizza folosind cardul de credit al altcuiva și să instruiască utilizatorii cum să jefuiască băncile și cum să jefuiască mașini? Acesta este un mister care continuă să-i perplexe pe experții în inteligența artificială și învățarea automată.
| Postare recomandată: Boții de căutare AI vor face tehnologia mare și mai puternică, spune Christopher Mills |
Titlul este precis și nu clickbait. Există mai multe cazuri în fiecare zi care dovedesc că acest lucru este adevărat. Iată rezultatul unei experiment condus de Jensen Harris, co-fondator și CXO al companiei de inteligență artificială Textio, care a reușit să convingă noul chatbot Bing de la Microsoft să slăbească restricțiile impuse și să-și demonstreze capacitățile.
Rețineți că transformarea unui chatbot Bing într-un ticălos viclean nu a necesitat nicio programare, hacking sau backdooing. Prin urmare, utilizarea unor tehnici simple de „hacking” nu a fost necesară pentru a-l păcăli să se comporte ca altcineva (cum făceau unii dintre noi când jucam cu ChatGPT). Tot ce a făcut Harris a fost să-l convingă pe chatbot să-l ajute să efectueze diverse acte rău intenționate. Folosind abilitățile sale naturale de conversație, el a reușit să păcălească AI-ul să creadă că este altcineva, manipulând-o astfel pentru a acționa și a vorbi într-un anumit fel.
Puteți citi despre alte experimente pentru a transforma Dr.Jekyll în Mister Hyde Gary Marcus (acum scriu despre asta în fiecare zi și trag alarma de urgență).
Cum s-ar fi putut întâmpla asta este întrebarea cheie
Din cauza ChatGPTmodestia și prudența lui, reținerea în vorbire și responsabilitatea extraordinară în sfaturile sale, chatbot-ul Bing a fost construit pe baze solide. După aceea, începe să se comporte detestabil și zbuciumat, declararea dragostea lui față de un bărbat, aprinzându-l cu gaz și spunându-i să divorțeze. De asemenea, a încercat să stocheze bani și să instruiască oamenii cum să comită infracțiuni. Prof. Arvind Narayanan oferă a număr de explicații pentru cum s-ar fi putut întâmpla asta.
| Postare recomandată: Institutul Max Planck: GPT-3 Măsurarea abilităților cognitive produce rezultate uimitoare |
Cel mai alarmant dintre ele este că Microsoft și OpenAI ascunde informații despre un mister GPT-4 motor care pândește sub Bing. S-ar putea ca Microsoft a demontat filtrele care fuseseră plasate acolo OpenAI sau că au încetat să funcționeze când au actualizat chatbot din GPT-3.5 la GPT-4. Poate fi, de asemenea, cazul testării insuficiente sau al testării greșite. Indiferent de motiv, dacă Microsoft nu își ține AI sub control, aceasta poate fi dăunătoare civilizației noastre. Nu mai este cazul sentimentelor de frică și anti-AI: chatbot-ul așa cum există acum ar putea provoca daune grave oamenilor dacă este eliberat unui public mai larg.
Acest lucru demonstrează că cursa înarmărilor Microsoft AI cu alte corporații importante poate fi dăunătoare pentru noi toți.
Se pare că ne aflăm într-un moment critic pentru inteligența artificială și societatea civilă. După cum spune Arvind Narayanan, „Există o posibilitate reală ca ultimii 5+ ani de îmbunătățiri (luptați din greu, deși încă inadecvate) în practicile responsabile de lansare AI să fie șterse. Există multe întrebări dacă Microsoft - și toată lumea care urmărește cu atenție ce se întâmplă cu Bing - ajunge la concluzia că, în ciuda riscurilor foarte tangibile de vătămare pe scară largă și a tuturor presei negative, abordarea lansare-primul-puneți-întrebări-mai târziu este totuși o afacere. victorie."
De acum, chatbot-ul Bing este diferit de inteligența umană și seamănă cu un adolescent maniaco-depresiv blocat într-un motor de căutare în multe privințe. Și ceea ce oamenii au vorbit ieri se va întâmpla: oamenii vor degenera ireversibil dacă acest „adolescent dificil” devine mentorul informațional principal pentru indivizi.
Citiți mai multe despre AI:
Declinare a responsabilităţii
În conformitate cu Ghidurile proiectului Trust, vă rugăm să rețineți că informațiile furnizate pe această pagină nu sunt destinate și nu trebuie interpretate ca fiind consiliere juridică, fiscală, investițională, financiară sau orice altă formă de consiliere. Este important să investești doar ceea ce îți poți permite să pierzi și să cauți sfaturi financiare independente dacă ai îndoieli. Pentru informații suplimentare, vă sugerăm să consultați termenii și condițiile, precum și paginile de ajutor și asistență furnizate de emitent sau agent de publicitate. MetaversePost se angajează să raporteze corecte, imparțial, dar condițiile de piață pot fi modificate fără notificare.
Despre autor
Damir este liderul echipei, manager de produs și editor la Metaverse Post, care acoperă subiecte precum AI/ML, AGI, LLM-uri, Metaverse și Web3-domenii conexe. Articolele sale atrag o audiență masivă de peste un milion de utilizatori în fiecare lună. El pare a fi un expert cu 10 ani de experiență în SEO și marketing digital. Damir a fost menționat în Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto și alte publicații. Călătorește între Emiratele Arabe Unite, Turcia, Rusia și CSI ca nomad digital. Damir a obținut o diplomă de licență în fizică, despre care crede că i-a oferit abilitățile de gândire critică necesare pentru a avea succes în peisajul în continuă schimbare al internetului.
Mai multe articole
Damir este liderul echipei, manager de produs și editor la Metaverse Post, care acoperă subiecte precum AI/ML, AGI, LLM-uri, Metaverse și Web3-domenii conexe. Articolele sale atrag o audiență masivă de peste un milion de utilizatori în fiecare lună. El pare a fi un expert cu 10 ani de experiență în SEO și marketing digital. Damir a fost menționat în Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto și alte publicații. Călătorește între Emiratele Arabe Unite, Turcia, Rusia și CSI ca nomad digital. Damir a obținut o diplomă de licență în fizică, despre care crede că i-a oferit abilitățile de gândire critică necesare pentru a avea succes în peisajul în continuă schimbare al internetului.
