Cornell University: AI is het ultieme wapen van misleiding, waartegen we machteloos zijn
In het kort
Het Stanford-experiment heeft een onoverkomelijke kwetsbaarheid van de taalintuïtie van mensen aan het licht gebracht, waardoor de kans klein is dat het auteurschap van AI wordt geïdentificeerd.
Dit komt door het vermogen van AI zoals ChatGPT vervalsingen zo vakkundig te vervaardigen dat mensen ze niet van de waarheid kunnen onderscheiden.
Het nieuwe "Stanford-experiment" heeft onthuld een onoverkomelijke kwetsbaarheid van de taalkundige intuïtie van mensen. Hierdoor is de kans dat we het auteurschap van AI identificeren aanzienlijk kleiner.
Er zijn tegenwoordig tal van zorgen voor de wereld als gevolg van de ChatGPT revolutie. Het meest voor de hand liggende is dat AI leuk is ChatGPT is in staat vervalsingen zo vakkundig te vervaardigen dat mensen ze niet van de waarheid kunnen onderscheiden. De resultaten van de uitgevoerde proeven hebben de enorme capaciteit van de ChatGPT super vermogen om te bedriegen. Het was echter onduidelijk hoe deze superkracht werkte: wat bezit AI waardoor zeer slimme en goed opgeleide mensen kunnen geloven wat het doet?
| Lees verder: 20+ beste Telegram AI-chatbots van 2023 |
Een nieuw "Stanford-experiment" werd uitgevoerd door het Stanford Social Networking Lab in samenwerking met het Cornell University Research Center om deze vraag te beantwoorden.
Het resultaat van een reeks van zes experimenten met 4,600 mensen is sensationeel en deprimerend.
Mensen kregen de taak om te bepalen of zelfpresentaties door een persoon of een AI waren geschreven. Volgens de onderzoekers is zelfpresentatie een van de meest persoonlijke en consequente elementen van taalkundige communicatie, omdat onze houding ten opzichte van een uitspraak grotendeels afhangt van wie (zoals we geloven) de auteur is.
De kern van de taalperceptie van mensen zijn heuristieken. De term heuristiek verwijst naar de mentale snelkoppelingen die mensen nemen om tot beslissingen te komen, problemen op te lossen en oordelen te vormen. Het helpt mensen hun mentale werklast te verlichten en cognitieve overbelasting te voorkomen.
"Een computationele analyse van taalkenmerken laat zien dat menselijke beoordelingen van door AI gegenereerde taal worden belemmerd door intuïtieve maar gebrekkige heuristieken, zoals het associëren van voornaamwoorden in de eerste persoon, het gebruik van samentrekkingen of familieonderwerpen met door mensen geschreven taal", aldus de studie. Experimenten hebben aangetoond dat mensen bij het waarnemen van een door AI geschreven tekst automatisch dezelfde heuristieken gebruiken als bij het communiceren met andere mensen. En dit is een fundamentele fout. Het feit is dat dit intuïtieve heuristieken voor ons zijn, en AI leest ze gemakkelijk en werkt ermee als een tafel van vermenigvuldiging.
Als gevolg hiervan kan AI heuristieken gebruiken om tekst te creëren die mensen als "meer menselijk dan menselijk" beschouwen. Dit vergroot het misleidende potentieel van AI-teksten en -spraak enorm, en moedigt ons aan om deze "meest menselijke persoon" meer te vertrouwen dan de verklaringen van echte mensen.
De kans dat mensen een door AI geschreven zelfpresentatie herkennen, is 50/50. In de romantische communicatie van mensen is het nog erger. Bijna 70% van volwassenen kan geen onderscheid maken tussen een liefdesbrief geschreven door ChatGPT en een brief geschreven door een persoon.
Lees meer over ChatGPT:
Disclaimer
In lijn met de Richtlijnen voor vertrouwensprojectenHoud er rekening mee dat de informatie op deze pagina niet bedoeld is en niet mag worden geïnterpreteerd als juridisch, fiscaal, beleggings-, financieel of enige andere vorm van advies. Het is belangrijk om alleen te beleggen wat u zich kunt veroorloven te verliezen en onafhankelijk financieel advies in te winnen als u twijfels heeft. Voor meer informatie raden wij u aan de algemene voorwaarden en de hulp- en ondersteuningspagina's van de uitgever of adverteerder te raadplegen. MetaversePost streeft naar nauwkeurige, onpartijdige berichtgeving, maar de marktomstandigheden kunnen zonder voorafgaande kennisgeving worden gewijzigd.
Over de auteur
Damir is de teamleider, productmanager en redacteur bij Metaverse Post, met onderwerpen als AI/ML, AGI, LLM's, Metaverse en Web3-gerelateerde velden. Zijn artikelen trekken maandelijks een enorm publiek van meer dan een miljoen gebruikers. Hij blijkt een expert te zijn met 10 jaar ervaring in SEO en digitale marketing. Damir is genoemd in Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto en andere publicaties. Hij reist als digitale nomade tussen de VAE, Turkije, Rusland en het GOS. Damir behaalde een bachelordiploma in natuurkunde, wat hem volgens hem de kritische denkvaardigheden heeft gegeven die nodig zijn om succesvol te zijn in het steeds veranderende landschap van internet.
Meer artikelen
Damir is de teamleider, productmanager en redacteur bij Metaverse Post, met onderwerpen als AI/ML, AGI, LLM's, Metaverse en Web3-gerelateerde velden. Zijn artikelen trekken maandelijks een enorm publiek van meer dan een miljoen gebruikers. Hij blijkt een expert te zijn met 10 jaar ervaring in SEO en digitale marketing. Damir is genoemd in Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto en andere publicaties. Hij reist als digitale nomade tussen de VAE, Turkije, Rusland en het GOS. Damir behaalde een bachelordiploma in natuurkunde, wat hem volgens hem de kritische denkvaardigheden heeft gegeven die nodig zijn om succesvol te zijn in het steeds veranderende landschap van internet.
