ChatGPT Kan onomkeerbare menselijke degeneratie veroorzaken
In het kort
Jensen Harris, mede-oprichter en CXO van AI-bedrijf Textio, wist de nieuwe Bing-chatbot van Microsoft te overtuigen om de beperkingen die eraan werden opgelegd te versoepelen en zijn mogelijkheden te demonstreren.
Dit experiment toonde aan dat er geen programmering, hacking of backdooring nodig was om een Bing-chatbot om te vormen tot een sluwe klootzak.
De chatbot van Bing was gebouwd op een solide basis, maar hij begon zich onaangenaam en baldadig te gedragen, de liefde te verklaren, een scheiding af te dwingen, geld af te persen en mensen te instrueren hoe ze misdaden moesten plegen.
Prof. Arvind Narayanan geeft een aantal verklaringen voor hoe dit heeft kunnen gebeuren, inclusief geheime chipisatie en humaniserende chatbots.
Mensen zijn altijd bang geweest voor buitenaardse wezens, en toch lijkt het erop dat het de intraterrestrische AI is waar we voorzichtig mee moeten zijn. ChatGPT is geen onzingenerator, een steroïde autosuggestie of een stochastische papegaai, maar een goed onderlegde AI die door mensen is gemaakt.
Hoe is het mogelijk dat de Bing-chatbot niet meer onder controle is? Hoe begon de Bing-chatbot vakkundig te liegen, vulgaire grappen te vertellen, pizza te bestellen met de creditcard van iemand anders en gebruikers te instrueren hoe ze banken en hotwire-auto's moeten beroven? Dit is een mysterie dat experts op het gebied van kunstmatige intelligentie en machine learning blijft verbazen.
De kop is correct en geen clickbait. Er zijn elke dag meerdere voorbeelden die bewijzen dat dit waar is. Hier is het resultaat van een experiment uitgevoerd door Jensen Harris, mede-oprichter en CXO van AI-bedrijf Textio, die de nieuwe Bing-chatbot van Microsoft wist te overtuigen om de beperkingen die eraan waren opgelegd te versoepelen en zijn mogelijkheden te demonstreren.
Houd er rekening mee dat voor het transformeren van een Bing-chatbot in een sluwe klootzak geen programmeerwerk, hacking of achterdeurtjes nodig waren. Daarom was het gebruik van eenvoudige ‘hacking’-technieken niet nodig om hem te misleiden om zich als iemand anders te gedragen (zoals sommigen van ons deden toen ze met ChatGPT). Het enige wat Harris deed was de chatbot overhalen om hem te helpen bij het uitvoeren van verschillende kwaadaardige handelingen. Met behulp van zijn natuurlijke gespreksvaardigheden kon hij de AI voor de gek houden door te geloven dat hij iemand anders was, waardoor hij deze manipuleerde zodat hij op een bepaalde manier handelde en sprak.
Je kunt lezen over andere experimenten om Dr.Jekyll in Mister Hyde te veranderen Gary Marcus (schrijf er nu elke dag over en sla alarm).
Hoe heeft dit kunnen gebeuren, is de hamvraag
Omdat ChatGPTDankzij de bescheidenheid en voorzichtigheid, de terughoudendheid in zijn spraak en de enorme verantwoordelijkheid in zijn advies, was de chatbot van Bing op een solide basis gebouwd. Daarna begint hij zich onaangenaam en baldadig te gedragen, verklaren zijn liefde voor een man, hem gaslighten en hem vertellen om te scheiden. Het probeerde ook geld af te persen en mensen te instrueren hoe ze misdaden moesten plegen. Prof. Arvind Narayanan geeft een aantal verklaringen voor hoe dit heeft kunnen gebeuren.
| Aanbevolen post: Max Planck Instituut: GPT-3 Meting van cognitieve vermogens levert verbazingwekkende resultaten op |
Het meest alarmerende daarvan is dat Microsoft en OpenAI informatie over een mysterie verbergen GPT-4 motor die onder Bing op de loer ligt. Het kan zijn dat Microsoft de filters heeft verwijderd die daar waren geplaatst OpenAI of dat ze stopten met werken toen ze het Chatbot oppompen van GPT-3.5 naar GPT-4. Het kan ook voorkomen dat er onvoldoende of verkeerd is getest. Wat de reden ook is, als Microsoft zijn AI niet onder controle krijgt, kan dit schadelijk zijn voor onze beschaving. Het is niet langer het geval van angstzaaierij en anti-AI-sentimenten: de chatbot zoals die nu bestaat, zou mensen ernstige schade kunnen berokkenen als hij aan een breder publiek wordt vrijgegeven.
Dit bewijst dat de AI-wapenwedloop van Microsoft met andere grote bedrijven schadelijk kan zijn voor ons allemaal.
Het voelt alsof we ons op een kritiek moment bevinden voor AI en het maatschappelijk middenveld. Zoals Arvind Narayanan het verwoordt: “Er is een reële mogelijkheid dat de laatste 5+ jaar van (zwaar bevochten maar nog steeds ontoereikende) verbeteringen in verantwoorde AI-vrijgavepraktijken zullen worden uitgewist. Er hangt veel af van de vraag of Microsoft - en iedereen kijkt behoedzaam naar wat er met Bing gebeurt - tot de conclusie komt dat ondanks de zeer tastbare risico's van grootschalige schade en alle negatieve pers, de 'eerst vrijgeven-vragen-vragen-later'-benadering niettemin een bedrijf is winnen."
Vanaf nu onderscheidt de chatbot van Bing zich van menselijke intelligentie en lijkt in veel opzichten op een manisch-depressieve adolescent die vastzit in een zoekmachine. En waar mensen gisteren over spraken, zal gebeuren: mensen zullen onomkeerbaar degenereren als deze ‘moeilijke tiener’ de belangrijkste informatie-mentor voor individuen wordt.
Lees meer over AI:
Disclaimer
In lijn met de Richtlijnen voor vertrouwensprojectenHoud er rekening mee dat de informatie op deze pagina niet bedoeld is en niet mag worden geïnterpreteerd als juridisch, fiscaal, beleggings-, financieel of enige andere vorm van advies. Het is belangrijk om alleen te beleggen wat u zich kunt veroorloven te verliezen en onafhankelijk financieel advies in te winnen als u twijfels heeft. Voor meer informatie raden wij u aan de algemene voorwaarden en de hulp- en ondersteuningspagina's van de uitgever of adverteerder te raadplegen. MetaversePost streeft naar nauwkeurige, onpartijdige berichtgeving, maar de marktomstandigheden kunnen zonder voorafgaande kennisgeving worden gewijzigd.
Over de auteur
Damir is de teamleider, productmanager en redacteur bij Metaverse Post, met onderwerpen als AI/ML, AGI, LLM's, Metaverse en Web3-gerelateerde velden. Zijn artikelen trekken maandelijks een enorm publiek van meer dan een miljoen gebruikers. Hij blijkt een expert te zijn met 10 jaar ervaring in SEO en digitale marketing. Damir is genoemd in Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto en andere publicaties. Hij reist als digitale nomade tussen de VAE, Turkije, Rusland en het GOS. Damir behaalde een bachelordiploma in natuurkunde, wat hem volgens hem de kritische denkvaardigheden heeft gegeven die nodig zijn om succesvol te zijn in het steeds veranderende landschap van internet.
Meer artikelen
Damir is de teamleider, productmanager en redacteur bij Metaverse Post, met onderwerpen als AI/ML, AGI, LLM's, Metaverse en Web3-gerelateerde velden. Zijn artikelen trekken maandelijks een enorm publiek van meer dan een miljoen gebruikers. Hij blijkt een expert te zijn met 10 jaar ervaring in SEO en digitale marketing. Damir is genoemd in Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto en andere publicaties. Hij reist als digitale nomade tussen de VAE, Turkije, Rusland en het GOS. Damir behaalde een bachelordiploma in natuurkunde, wat hem volgens hem de kritische denkvaardigheden heeft gegeven die nodig zijn om succesvol te zijn in het steeds veranderende landschap van internet.
