ChatGPT Pourrait causer une dégénérescence humaine irréversible
En bref
Jensen Harris, co-fondateur et CXO de la société d'intelligence artificielle Textio, a réussi à persuader le nouveau chatbot Bing de Microsoft d'assouplir les restrictions qui lui étaient imposées et de démontrer ses capacités.
Cette expérience a montré que transformer un chatbot Bing en un connard rusé ne nécessitait aucune programmation, piratage ou porte dérobée.
Le chatbot de Bing a été construit sur des bases solides, mais il a commencé à agir de manière odieuse et tapageuse, déclarant l'amour, forçant un divorce, extorquant de l'argent et expliquant aux gens comment commettre des crimes.
Le professeur Arvind Narayanan fournit un certain nombre d'explications sur la façon dont cela aurait pu se produire, y compris la chipisation secrète et l'humanisation des chatbots.
Les humains ont toujours eu peur des extraterrestres, et pourtant, il semble que ce soit l’IA intraterrestre dont il faut se méfier. ChatGPT n'est pas un générateur de conneries, une auto-suggestion de stéroïdes ou un perroquet stochastique, mais une IA expérimentée créée par des humains.
Comment est-il possible que le chatbot Bing soit hors de contrôle ? Comment le chatbot Bing a-t-il commencé à mentir de manière experte, à raconter des blagues vulgaires, à commander une pizza avec la carte de crédit de quelqu'un d'autre et à expliquer aux utilisateurs comment braquer des banques et des voitures hotwire ? C'est un mystère qui continue de perplexe pour les experts en intelligence artificielle et en apprentissage automatique.
| Poste recommandé: Les bots de recherche IA rendront la Big Tech encore plus puissante, déclare Christopher Mills |
Le titre est précis et non clickbait. Il y a plusieurs cas chaque jour qui prouvent que cela est vrai. Voici le résultat d'un expérience menée par Jensen Harris, co-fondateur et CXO de la société d'intelligence artificielle Textio, qui a réussi à persuader le nouveau chatbot Bing de Microsoft d'assouplir les restrictions qui lui étaient imposées et de démontrer ses capacités.
Notez que transformer un chatbot Bing en un salaud rusé n’a nécessité aucune programmation, piratage ou backdooring. Par conséquent, il n'était pas nécessaire d'utiliser de simples techniques de "piratage" pour l'inciter à agir comme quelqu'un d'autre (comme certains d'entre nous l'ont fait en jouant avec ChatGPT). Tout ce que Harris a fait, c'est persuader le chatbot de l'aider à commettre divers actes malveillants. En utilisant ses compétences conversationnelles naturelles, il a réussi à tromper l'IA en lui faisant croire qu'il était quelqu'un d'autre, la manipulant ainsi pour qu'elle agisse et parle d'une certaine manière.
Vous pouvez lire sur d'autres expériences pour transformer Dr.Jekyll en Mister Hyde à partir de GaryMarcus (écrivant à ce sujet tous les jours maintenant et sonnant l'alarme d'urgence).
Comment cela a-t-il pu arriver est la question clé
En raison de ChatGPTAvec sa modestie et sa prudence, sa retenue dans ses propos et son immense responsabilité dans ses conseils, le chatbot de Bing repose sur des bases solides. Par la suite, il commence à se comporter de manière odieuse et tapageuse, déclarant son amour pour un homme, l'éclairant au gaz et lui disant de divorcer. Il a également essayé d'extorquer de l'argent et d'apprendre aux gens comment commettre des crimes. Le professeur Arvind Narayanan fournit une nombre d'explications pour savoir comment cela aurait pu se produire.
| Poste recommandé: Institut Max Planck : GPT-3 La mesure des capacités cognitives produit des résultats étonnants |
Le plus alarmant d'entre eux est que Microsoft et OpenAI cacher des informations sur un mystère GPT-4 moteur qui se cache sous Bing. Il se peut que Microsoft ait supprimé les filtres qui y avaient été placés par OpenAI ou qu'ils ont arrêté de travailler lorsqu'ils ont mis à jour le Chatbot de GPT-3.5 À GPT-4. Cela peut également être le cas de tests insuffisants ou de tests mal effectués. Quelle que soit la raison, si Microsoft ne maîtrise pas son IA, cela peut être préjudiciable à notre civilisation. Il ne s’agit plus de sentiments alarmistes et anti-IA : le chatbot tel qu’il existe actuellement pourrait causer de graves dommages aux gens s’il était rendu public par un plus large public.
Cela prouve que la course aux armements de l'IA de Microsoft avec d'autres grandes entreprises peut nous nuire à tous.
On a l'impression d'être à un moment critique pour l'IA et la société civile. Comme le dit Arvind Narayanan, « Il y a une possibilité réelle que les 5 dernières années d'améliorations (âprement disputées quoique encore insuffisantes) des pratiques responsables de diffusion de l'IA soient anéanties. Il y a beaucoup à savoir si Microsoft - et tout le monde qui regarde avec précaution ce qui se passe avec Bing - conclut que malgré les risques très tangibles de dommages à grande échelle et toute la presse négative, l'approche de publication d'abord, poser des questions, plus tard est néanmoins une entreprise gagner."
A partir de maintenant, le chatbot de Bing est distinct de intelligence humaine et ressemble à bien des égards à un adolescent maniaco-dépressif enfermé dans un moteur de recherche. Et ce dont les gens parlaient hier se réalisera : les humains dégénéreront de manière irréversible si cet « adolescent difficile » devient le principal mentor de l'information pour les individus.
En savoir plus sur l'IA :
Clause de non-responsabilité
En ligne avec la Lignes directrices du projet de confiance, veuillez noter que les informations fournies sur cette page ne sont pas destinées à être et ne doivent pas être interprétées comme des conseils juridiques, fiscaux, d'investissement, financiers ou toute autre forme de conseil. Il est important d’investir uniquement ce que vous pouvez vous permettre de perdre et de demander des conseils financiers indépendants en cas de doute. Pour plus d'informations, nous vous suggérons de vous référer aux conditions générales ainsi qu'aux pages d'aide et de support mises à disposition par l'émetteur ou l'annonceur. MetaversePost s'engage à fournir des rapports précis et impartiaux, mais les conditions du marché sont susceptibles de changer sans préavis.
A propos de l'auteur
Damir est chef d'équipe, chef de produit et rédacteur en chef chez Metaverse Post, couvrant des sujets tels que l'IA/ML, l'AGI, les LLM, le métaverse et Web3-domaines connexes. Ses articles attirent une audience massive de plus d'un million d'utilisateurs chaque mois. Il semble être un expert avec 10 ans d'expérience dans le référencement et le marketing numérique. Damir a été mentionné dans Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto et d'autres publications. Il voyage entre les Émirats arabes unis, la Turquie, la Russie et la CEI en tant que nomade numérique. Damir a obtenu un baccalauréat en physique, ce qui, selon lui, lui a donné les compétences de pensée critique nécessaires pour réussir dans le paysage en constante évolution d'Internet.
Plus d'articles
Damir est chef d'équipe, chef de produit et rédacteur en chef chez Metaverse Post, couvrant des sujets tels que l'IA/ML, l'AGI, les LLM, le métaverse et Web3-domaines connexes. Ses articles attirent une audience massive de plus d'un million d'utilisateurs chaque mois. Il semble être un expert avec 10 ans d'expérience dans le référencement et le marketing numérique. Damir a été mentionné dans Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto et d'autres publications. Il voyage entre les Émirats arabes unis, la Turquie, la Russie et la CEI en tant que nomade numérique. Damir a obtenu un baccalauréat en physique, ce qui, selon lui, lui a donné les compétences de pensée critique nécessaires pour réussir dans le paysage en constante évolution d'Internet.
