Advies SMW Technologie
30 maart 2023

Cornell University: AI is het ultieme wapen van misleiding, waartegen we machteloos zijn

In het kort

Het Stanford-experiment heeft een onoverkomelijke kwetsbaarheid van de taalintuïtie van mensen aan het licht gebracht, waardoor de kans klein is dat het auteurschap van AI wordt geïdentificeerd.

Dit komt door het vermogen van AI zoals ChatGPT vervalsingen zo vakkundig te vervaardigen dat mensen ze niet van de waarheid kunnen onderscheiden.

Het nieuwe "Stanford-experiment" heeft onthuld een onoverkomelijke kwetsbaarheid van de taalkundige intuïtie van mensen. Hierdoor is de kans dat we het auteurschap van AI identificeren aanzienlijk kleiner.

Er zijn tegenwoordig tal van zorgen voor de wereld als gevolg van de ChatGPT revolutie. Het meest voor de hand liggende is dat AI leuk is ChatGPT is in staat vervalsingen zo vakkundig te vervaardigen dat mensen ze niet van de waarheid kunnen onderscheiden. De resultaten van de uitgevoerde proeven hebben de enorme capaciteit van de ChatGPT super vermogen om te bedriegen. Het was echter onduidelijk hoe deze superkracht werkte: wat bezit AI waardoor zeer slimme en goed opgeleide mensen kunnen geloven wat het doet?

Cornell University: AI heeft het ultieme misleidingswapen, waartegen we machteloos zijn
Lees verder: 20+ beste Telegram AI-chatbots van 2023

Een nieuw "Stanford-experiment" werd uitgevoerd door het Stanford Social Networking Lab in samenwerking met het Cornell University Research Center om deze vraag te beantwoorden.

Het resultaat van een reeks van zes experimenten met 4,600 mensen is sensationeel en deprimerend.

Mensen kregen de taak om te bepalen of zelfpresentaties door een persoon of een AI waren geschreven. Volgens de onderzoekers is zelfpresentatie een van de meest persoonlijke en consequente elementen van taalkundige communicatie, omdat onze houding ten opzichte van een uitspraak grotendeels afhangt van wie (zoals we geloven) de auteur is.

De kern van de taalperceptie van mensen zijn heuristieken. De term heuristiek verwijst naar de mentale snelkoppelingen die mensen nemen om tot beslissingen te komen, problemen op te lossen en oordelen te vormen. Het helpt mensen hun mentale werklast te verlichten en cognitieve overbelasting te voorkomen.

"Een computationele analyse van taalkenmerken laat zien dat menselijke beoordelingen van door AI gegenereerde taal worden belemmerd door intuïtieve maar gebrekkige heuristieken, zoals het associëren van voornaamwoorden in de eerste persoon, het gebruik van samentrekkingen of familieonderwerpen met door mensen geschreven taal", aldus de studie. Experimenten hebben aangetoond dat mensen bij het waarnemen van een door AI geschreven tekst automatisch dezelfde heuristieken gebruiken als bij het communiceren met andere mensen. En dit is een fundamentele fout. Het feit is dat dit intuïtieve heuristieken voor ons zijn, en AI leest ze gemakkelijk en werkt ermee als een tafel van vermenigvuldiging.

Als gevolg hiervan kan AI heuristieken gebruiken om tekst te creëren die mensen als "meer menselijk dan menselijk" beschouwen. Dit vergroot het misleidende potentieel van AI-teksten en -spraak enorm, en moedigt ons aan om deze "meest menselijke persoon" meer te vertrouwen dan de verklaringen van echte mensen.
De kans dat mensen een door AI geschreven zelfpresentatie herkennen, is 50/50. In de romantische communicatie van mensen is het nog erger. Bijna 70% van volwassenen kan geen onderscheid maken tussen een liefdesbrief geschreven door ChatGPT en een brief geschreven door een persoon.

Lees meer over ChatGPT:

Disclaimer

In lijn met de Richtlijnen voor vertrouwensprojectenHoud er rekening mee dat de informatie op deze pagina niet bedoeld is en niet mag worden geïnterpreteerd als juridisch, fiscaal, beleggings-, financieel of enige andere vorm van advies. Het is belangrijk om alleen te beleggen wat u zich kunt veroorloven te verliezen en onafhankelijk financieel advies in te winnen als u twijfels heeft. Voor meer informatie raden wij u aan de algemene voorwaarden en de hulp- en ondersteuningspagina's van de uitgever of adverteerder te raadplegen. MetaversePost streeft naar nauwkeurige, onpartijdige berichtgeving, maar de marktomstandigheden kunnen zonder voorafgaande kennisgeving worden gewijzigd.

Over de auteur

Damir is de teamleider, productmanager en redacteur bij Metaverse Post, met onderwerpen als AI/ML, AGI, LLM's, Metaverse en Web3-gerelateerde velden. Zijn artikelen trekken maandelijks een enorm publiek van meer dan een miljoen gebruikers. Hij blijkt een expert te zijn met 10 jaar ervaring in SEO en digitale marketing. Damir is genoemd in Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto en andere publicaties. Hij reist als digitale nomade tussen de VAE, Turkije, Rusland en het GOS. Damir behaalde een bachelordiploma in natuurkunde, wat hem volgens hem de kritische denkvaardigheden heeft gegeven die nodig zijn om succesvol te zijn in het steeds veranderende landschap van internet. 

Meer artikelen
Damir Jalalov
Damir Jalalov

Damir is de teamleider, productmanager en redacteur bij Metaverse Post, met onderwerpen als AI/ML, AGI, LLM's, Metaverse en Web3-gerelateerde velden. Zijn artikelen trekken maandelijks een enorm publiek van meer dan een miljoen gebruikers. Hij blijkt een expert te zijn met 10 jaar ervaring in SEO en digitale marketing. Damir is genoemd in Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto en andere publicaties. Hij reist als digitale nomade tussen de VAE, Turkije, Rusland en het GOS. Damir behaalde een bachelordiploma in natuurkunde, wat hem volgens hem de kritische denkvaardigheden heeft gegeven die nodig zijn om succesvol te zijn in het steeds veranderende landschap van internet. 

Hot Stories
Schrijf je in op onze nieuwsbrief.
Laatste Nieuws

Van Ripple tot The Big Green DAO: hoe cryptocurrency-projecten bijdragen aan liefdadigheid

Laten we initiatieven onderzoeken die het potentieel van digitale valuta voor goede doelen benutten.

Meer weten

AlphaFold 3, Med-Gemini en anderen: de manier waarop AI de gezondheidszorg transformeert in 2024

AI manifesteert zich op verschillende manieren in de gezondheidszorg, van het blootleggen van nieuwe genetische correlaties tot het versterken van robotchirurgische systemen...

Meer weten
Sluit u aan bij onze innovatieve technologiegemeenschap
Lees meer
Lees meer
Crypto Exchange Jupiter introduceert Jupiter Swap V3, Dynamic Slippage, naast andere belangrijke updates in de komende weken
markten Nieuwsverslag Technologie
Crypto Exchange Jupiter introduceert Jupiter Swap V3, Dynamic Slippage, naast andere belangrijke updates in de komende weken
14 June 2024
Polygon introduceert zijn governance-hub, die een uniforme, transparante interface biedt voor gemeenschapsbestuur
Nieuwsverslag Technologie
Polygon introduceert zijn governance-hub, die een uniforme, transparante interface biedt voor gemeenschapsbestuur 
14 June 2024
Binance registreert meer dan 30 miljoen nieuwe gebruikers in 2024, klantenactiva overschrijden de mijlpaal van $100 miljard
markten Nieuwsverslag Technologie
Binance registreert meer dan 30 miljoen nieuwe gebruikers in 2024, klantenactiva overschrijden de mijlpaal van $100 miljard
14 June 2024
Amazon ondersteunt generatieve AI-startups met een investering van $230 miljoen en wijst $80 miljoen toe aan zijn tweede AWS Generative AI Accelerator-programma
Business Nieuwsverslag Technologie
Amazon ondersteunt generatieve AI-startups met een investering van $230 miljoen en wijst $80 miljoen toe aan zijn tweede AWS Generative AI Accelerator-programma
14 June 2024