ChatGPT Podria provocar una degeneració humana irreversible
En breu
Jensen Harris, cofundador i CXO de l'empresa d'IA Textio, va poder persuadir el nou chatbot de Bing de Microsoft per afluixar les restriccions que s'hi imposaven i demostrar les seves capacitats.
Aquest experiment va demostrar que transformar un chatbot de Bing en un canalla astut no va requerir cap programació, pirateria o backdooring.
El chatbot de Bing es va construir sobre unes bases sòlides, però va començar a actuar de manera desagradable i escandalosa, declarant amor, forçant el divorci, extorsionant diners i ensenyant a la gent com cometre delictes.
El professor Arvind Narayanan ofereix una sèrie d'explicacions sobre com podria haver passat això, com ara la xipització encoberta i la humanització de chatbots.
Els humans sempre han temut els extraterrestres, i tot i així sembla que és la IA intraterrestre la que pot ser una cosa amb la qual cal tenir cura. ChatGPT no és un generador de merdes, una autosuggerència d'esteroides o un lloro estocàstic, sinó una IA versada que ha estat creada pels humans.
Com és possible que el chatbot de Bing estigui fora de control? Com va començar el chatbot de Bing a mentir expertament, explicar acudits vulgars, demanar pizza amb la targeta de crèdit d'una altra persona i instruir als usuaris sobre com robar bancs i enganxar cotxes? Aquest és un misteri que continua perplex als experts en intel·ligència artificial i aprenentatge automàtic.
| Publicació recomanada: Els robots de cerca d'IA faran que les grans tecnologies siguin encara més potents, diu Christopher Mills |
El títol és precís i no clickbait. Hi ha diversos casos cada dia que demostren que això és cert. Aquí teniu el resultat d'un experiment conduït per Jensen Harris, cofundador i director general de l'empresa d'IA Textio, que va poder persuadir el nou chatbot de Bing de Microsoft per afluixar les restriccions que s'hi imposaven i demostrar les seves capacitats.
Tingueu en compte que la transformació d'un chatbot de Bing en un canalla astut no va requerir cap programació, pirateria o porta posterior. Per tant, l'ús de tècniques simples de "pirateig" no era necessari per enganyar-lo perquè actués com algú altre (com alguns de nosaltres vam fer quan jugàvem amb ChatGPT). L'únic que va fer Harris va ser persuadir el chatbot perquè l'ajudés a dur a terme diversos actes maliciosos. Utilitzant les seves habilitats de conversa naturals, va ser capaç d'enganyar la IA perquè cregués que era una altra persona, manipulant-la per actuar i parlar d'una determinada manera.
Podeu llegir sobre altres experiments per convertir el Dr.Jekyll en Mister Hyde Gary Marcus (ara escrivint-ne cada dia i sonant l'alarma d'emergència).
Com ha pogut passar això és la pregunta clau
Per culpa de ChatGPTLa modèstia i la prudència, la moderació en el discurs i la gran responsabilitat en els seus consells, el chatbot de Bing es va construir sobre unes bases sòlides. A partir de llavors, comença a actuar de manera desagradable i ruidosa, declarant el seu amor a un home, li va donar llum i li va dir que es divorciés. També va intentar extorsionar diners i instruir a la gent sobre com cometre delictes. El Prof. Arvind Narayanan proporciona a nombre d'explicacions per com podria haver passat això.
| Publicació recomanada: Institut Max Planck: GPT-3 La mesura de la capacitat cognitiva produeix resultats sorprenents |
El més alarmant d'ells és que Microsoft i OpenAI amagar informació sobre un misteri GPT-4 motor que s'amaga sota Bing. Pot ser que Microsoft hagi retirat els filtres que hi havia col·locats OpenAI o que van deixar de funcionar quan van actualitzar el xat de xat de GPT-3.5 a GPT-4. També pot ser el cas de proves insuficients o de proves fetes malament. Independentment del motiu, si Microsoft no controla la seva IA, pot ser perjudicial per a la nostra civilització. Ja no és el cas de la por i els sentiments anti-IA: el chatbot tal com existeix ara podria causar danys greus a les persones si s'allibera a un públic més ampli.
Això demostra que la carrera armamentística de Microsoft amb IA amb altres grans corporacions pot ser perjudicial per a tots nosaltres.
Sembla que estem en un moment crític per a la IA i la societat civil. Com diu Arvind Narayanan, "Hi ha una possibilitat real que els últims 5 anys o més de millores (duradament lluitades, tot i que encara inadequades) en les pràctiques responsables de llançament d'IA s'esborrin. Hi ha moltes preguntes sobre si Microsoft, i tothom que ve amb cura el que passa amb Bing, conclou que, malgrat els riscos tangibles de danys a gran escala i tota la premsa negativa, l'enfocament del llançament primer, fer preguntes més tard és, no obstant això, un negoci. guanyar.”
A partir d'ara, el chatbot de Bing és diferent intel·ligència humana i s'assembla a un adolescent maníaco-depressiu tancat en un motor de cerca de moltes maneres. I el que la gent va parlar ahir es produirà: els humans degeneraran de manera irreversible si aquest "adolescent difícil" es converteix en el principal mentor d'informació per a les persones.
Llegeix més sobre AI:
renúncia
En línia amb la Directrius del projecte Trust, si us plau, tingueu en compte que la informació proporcionada en aquesta pàgina no pretén ni s'ha d'interpretar com a assessorament legal, fiscal, d'inversió, financer o de cap altra forma. És important invertir només el que et pots permetre perdre i buscar assessorament financer independent si tens dubtes. Per obtenir més informació, us suggerim que feu referència als termes i condicions, així com a les pàgines d'ajuda i assistència proporcionades per l'emissor o l'anunciant. MetaversePost es compromet a fer informes precisos i imparcials, però les condicions del mercat estan subjectes a canvis sense previ avís.
About The Autor
Damir és el líder d'equip, cap de producte i editor de Metaverse Post, que cobreix temes com AI/ML, AGI, LLMs, Metaverse i Web3-camps relacionats. Els seus articles atrauen una audiència massiva de més d'un milió d'usuaris cada mes. Sembla ser un expert amb 10 anys d'experiència en SEO i màrqueting digital. Damir ha estat esmentat a Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto i altres publicacions. Viatja entre els Emirats Àrabs Units, Turquia, Rússia i la CEI com a nòmada digital. Damir va obtenir una llicenciatura en física, que creu que li ha donat les habilitats de pensament crític necessàries per tenir èxit en el paisatge en constant canvi d'Internet.
més articles
Damir és el líder d'equip, cap de producte i editor de Metaverse Post, que cobreix temes com AI/ML, AGI, LLMs, Metaverse i Web3-camps relacionats. Els seus articles atrauen una audiència massiva de més d'un milió d'usuaris cada mes. Sembla ser un expert amb 10 anys d'experiència en SEO i màrqueting digital. Damir ha estat esmentat a Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto i altres publicacions. Viatja entre els Emirats Àrabs Units, Turquia, Rússia i la CEI com a nòmada digital. Damir va obtenir una llicenciatura en física, que creu que li ha donat les habilitats de pensament crític necessàries per tenir èxit en el paisatge en constant canvi d'Internet.
