Cornell University : L'IA est l'arme ultime de tromperie contre laquelle nous sommes impuissants
En bref
L'expérience de Stanford a révélé une vulnérabilité insurmontable de l'intuition linguistique des gens, révélant la faible probabilité d'identifier la paternité de l'IA.
Cela est dû à la capacité de l'IA comme ChatGPT fabriquer des contrefaçons si habilement que les gens sont incapables de les distinguer de la vérité.
La nouvelle « expérience de Stanford » a révélé une vulnérabilité insurmontable de l'intuition linguistique des gens. À cause de cela, la probabilité que nous identifions la paternité de l'IA est considérablement réduite.
Il y a de nombreuses préoccupations pour le monde aujourd'hui en raison de la ChatGPT révolution. Le plus évident est que l'IA aime ChatGPT est capable de fabriquer des contrefaçons de manière si experte que les gens sont incapables de les distinguer de la vérité. Les résultats des essais entrepris ont démontré l'énorme capacité des ChatGPT super capacité à tromper. Cependant, il n'était pas clair comment cette superpuissance fonctionnait - que possède l'IA qui peut faire croire à des personnes très intelligentes et éduquées ce qu'elle fait ?
| Lire la suite: 20+ meilleurs chatbots Telegram AI de 2023 |
Une nouvelle "expérience de Stanford" a été menée par le Stanford Social Networking Lab en collaboration avec le Cornell University Research Center pour répondre à cette question.
Le résultat d'une série de six expériences impliquant 4,600 XNUMX personnes est sensationnel et déprimant.
Les gens ont été chargés de déterminer si les auto-présentations ont été écrites par une personne ou une IA. Selon les chercheurs, la présentation de soi est l'un des éléments les plus personnels et les plus conséquents de la communication linguistique, car notre attitude envers toute déclaration dépend en grande partie de qui (comme nous le croyons) est son auteur.
Au cœur de la perception linguistique des gens se trouvent les heuristiques. Le terme heuristique fait référence aux raccourcis mentaux que les gens prennent pour arriver à des décisions, résoudre des problèmes et porter des jugements. Il aide les gens à alléger leur charge de travail mental et à éviter la surcharge cognitive.
"Une analyse informatique des caractéristiques du langage montre que les jugements humains sur le langage généré par l'IA sont entravés par des heuristiques intuitives mais erronées telles que l'association de pronoms à la première personne, l'utilisation de contractions ou des sujets familiaux avec un langage écrit par l'homme", indique l'étude. Des expériences ont montré que lorsqu'ils perçoivent un texte écrit par l'IA, les gens utilisent automatiquement les mêmes heuristiques que lorsqu'ils communiquent avec d'autres personnes. Et c'est une erreur fondamentale. Le fait est que ce sont des heuristiques intuitives pour nous, et l'IA les lit facilement et fonctionne avec elles comme une table de multiplication.
En conséquence, l'IA peut utiliser l'heuristique pour créer un texte que les gens perçoivent comme "plus humain qu'humain". Cela augmente considérablement le potentiel trompeur des textes et des discours de l'IA, nous encourageant à faire davantage confiance à cette « personne la plus humaine » qu'aux déclarations de personnes réelles.
Les chances que les personnes identifient une auto-présentation écrite par l'IA sont de 50/50. Les choses sont encore pires dans les communications romantiques des gens. Presque 70% d'adultes ne peut pas faire la distinction entre une lettre d'amour écrite par ChatGPT et une lettre écrite par une personne.
Découvrez notre article sur ChatGPT:
Clause de non-responsabilité
En ligne avec la Lignes directrices du projet de confiance, veuillez noter que les informations fournies sur cette page ne sont pas destinées à être et ne doivent pas être interprétées comme des conseils juridiques, fiscaux, d'investissement, financiers ou toute autre forme de conseil. Il est important d’investir uniquement ce que vous pouvez vous permettre de perdre et de demander des conseils financiers indépendants en cas de doute. Pour plus d'informations, nous vous suggérons de vous référer aux conditions générales ainsi qu'aux pages d'aide et de support mises à disposition par l'émetteur ou l'annonceur. MetaversePost s'engage à fournir des rapports précis et impartiaux, mais les conditions du marché sont susceptibles de changer sans préavis.
A propos de l'auteur
Damir est chef d'équipe, chef de produit et rédacteur en chef chez Metaverse Post, couvrant des sujets tels que l'IA/ML, l'AGI, les LLM, le métaverse et Web3-domaines connexes. Ses articles attirent une audience massive de plus d'un million d'utilisateurs chaque mois. Il semble être un expert avec 10 ans d'expérience dans le référencement et le marketing numérique. Damir a été mentionné dans Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto et d'autres publications. Il voyage entre les Émirats arabes unis, la Turquie, la Russie et la CEI en tant que nomade numérique. Damir a obtenu un baccalauréat en physique, ce qui, selon lui, lui a donné les compétences de pensée critique nécessaires pour réussir dans le paysage en constante évolution d'Internet.
Plus d'articles
Damir est chef d'équipe, chef de produit et rédacteur en chef chez Metaverse Post, couvrant des sujets tels que l'IA/ML, l'AGI, les LLM, le métaverse et Web3-domaines connexes. Ses articles attirent une audience massive de plus d'un million d'utilisateurs chaque mois. Il semble être un expert avec 10 ans d'expérience dans le référencement et le marketing numérique. Damir a été mentionné dans Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto et d'autres publications. Il voyage entre les Émirats arabes unis, la Turquie, la Russie et la CEI en tant que nomade numérique. Damir a obtenu un baccalauréat en physique, ce qui, selon lui, lui a donné les compétences de pensée critique nécessaires pour réussir dans le paysage en constante évolution d'Internet.
