Dan Hendrycks: Kiezen tussen AI en mensen, evolutie zal niet voor ons kiezen
In het kort
Het onderzoek van Dan Hendrycks “Natuurlijke selectie verkiest kunstmatige intelligentie boven mensen” is een enge conclusie.
Hij is een ervaren en bekende onderzoeker die tientallen wetenschappelijke artikelen heeft gepubliceerd over het beoordelen van de veiligheid van AI-systemen.
Het onderzoek van Dan Hendrycks klinkt als een doodvonnis voor Homo Sapiens. De conclusie van het onderzoek “Natuurlijke selectie geeft de voorkeur aan AI's boven mensen' is echt eng. Dit is niet geschreven door een populaire visionair als Dan Brown, maar door Dan Hendrycks, de directeur van het California Center for AI Security (CAIS), een non-profitorganisatie die gespecialiseerd is in onderzoek en veldwerk op het gebied van AI-beveiliging.
Dan Hendrycks is geen marginale gek die in paniek raakt over AI-vooruitgang. Hij is een ervaren en alom gerespecteerde onderzoeker die tientallen wetenschappelijke artikelen heeft gepubliceerd over het beoordelen van de veiligheid van AI-systemen - testen hoe goed ze zijn in coderen, redeneren, wetten begrijpen, enz. Hij is onder andere ook de mede-uitvinder van de Gaussiaanse lineaire fouteenheden (GELU).
Jack Clark, mede-oprichter van ChatGPT concurrent Anthropic, co-voorzitter van de AI Index van Stanford University, co-voorzitter van de AI and Compute sectie van de OESO en lid van de National Advisory Committee on AI van de Amerikaanse regering bespreekt de conclusie van Hendrycks' studie. “Mensen willen in een reflex zo'n uitspraak wegwuiven als afkomstig van een gek met wilde ogen die in een boshut woont. Ik wil dit bij voorbaat weerleggen. Wanneer een expert die niet alleen ervaring heeft in AI-onderzoek maar ook in het beoordelen van de veiligheid van AI-systemen schrijft een paper waarin hij stelt dat toekomstige AI-systemen misschien egoïstisch handelen en niet in overeenstemming met de belangen van mensen, we moeten ervoor zorgen!
Een samenvatting van het artikel van Hendrycks:
- Als AI-agenten meer worden intelligenter dan mensen, zou dit ertoe kunnen leiden dat de mensheid de controle over haar toekomst verliest.
- De kans is groot dat dit gebeurt, niet als gevolg van een speciale kwaadaardige bedoeling van mensen of machines, maar uitsluitend als gevolg van de toepasbaarheid van evolutionaire ontwikkelingsprincipes op AI volgens de darwinistische logica.
- Om het risico hierop te minimaliseren, moeten de intrinsieke motivaties van AI-agenten zorgvuldig worden ontworpen, moeten er beperkingen worden opgelegd aan hun acties en moeten instellingen worden gecreëerd om AI-samenwerking te stimuleren.
Dat wil zeggen, de belangrijkste punten die Hendrycks maakt in zijn 43 pagina's tellende wetenschappelijke paper:
1. We waren bang voor de komst van de Terminator, maar de basis van deze angst klopte niet. Er waren twee fouten:
A. Antropomorfisering van AI met toekenning van onze motivaties eraan, enz. - als ChatGPT laten zien, AI is een fundamenteel andere geest, met alle gevolgen van dien.
B. Het idee dat AI een soort enkele entiteit is: slim of niet erg slim, aardig of niet erg aardig, maar in feite zullen deze zeer verschillende AI-entiteiten binnenkort zoveel mogelijk in de wereld zijn.
2. Er is nog een andere fundamentele tekortkoming in onze ideeën over de toekomst met AI: we zijn het belangrijkste ontwikkelingsmechanisme vergeten: evolutie, die niet alleen de ontwikkeling van bioagentia stimuleert, maar ook van ideeën en betekenissen, materiële hulpmiddelen en niet-materiële instellingen.
3. Er begint al een omgeving op aarde vorm te krijgen waarin veel AI's zich zullen ontwikkelen en evolueren. Deze evolutie zal volgens de logica van Darwin verlopen, via onderlinge AI-concurrentie, rekening houdend met de belangen van hun "moeder"-instellingen: bedrijven, het leger, enz.
4. De logica van competitieve evolutie zal tot hetzelfde leiden als bij mensen: steeds intelligentere AI-agenten zullen steeds egoïstischer worden en bereid om doelen te bereiken door middel van bedrog en geweld, met als belangrijkste doel macht.
5. De natuurlijke selectie van AI-agenten heeft de neiging om de meer egoïstische soorten te bevoordelen boven de meer altruïstische soorten. AI-agenten zullen zich egoïstisch gedragen en hun eigen belangen nastreven met weinig aandacht voor mensen, wat kan leiden tot catastrofale risico's voor de mensheid.
- De petitie om te stoppen met het ontwikkelen van AI-systemen die geavanceerder zijn dan GPT-4 heeft de samenleving gepolariseerd. De eerste groep gelooft dat de vooruitgang niet kan worden gestopt, terwijl een andere groep gelooft dat de vooruitgang moet worden gestopt. De derde groep begrijpt niet hoe GPT-4 opereert in de eerste plaats. De belangrijkste details in deze tekst zijn dat AI geen bewustzijn, wil of keuzevrijheid heeft en dat het zelfs zonder kwaadwillige mensen slecht kan zijn.
- Geoffrey Hinton wordt vaak de "Godfather of AI" genoemd en wordt beschouwd als een leidende figuur in de deep learning-gemeenschap. Zijn 40 minuten durende interview van ChatGPT is uniek omdat het gemakkelijk te begrijpen is en een diepgaand begrip heeft dat voor weinig anderen toegankelijk is. Hij benadrukt het belang van de voortdurende "intellectuele revolutie" en de onmenselijke intelligentie van ChatGPT, die is gebaseerd op een kunstmatig intelligente agent met geavanceerde digitale communicatiemogelijkheden.
Lees meer gerelateerde artikelen:
Disclaimer
In lijn met de Richtlijnen voor vertrouwensprojectenHoud er rekening mee dat de informatie op deze pagina niet bedoeld is en niet mag worden geïnterpreteerd als juridisch, fiscaal, beleggings-, financieel of enige andere vorm van advies. Het is belangrijk om alleen te beleggen wat u zich kunt veroorloven te verliezen en onafhankelijk financieel advies in te winnen als u twijfels heeft. Voor meer informatie raden wij u aan de algemene voorwaarden en de hulp- en ondersteuningspagina's van de uitgever of adverteerder te raadplegen. MetaversePost streeft naar nauwkeurige, onpartijdige berichtgeving, maar de marktomstandigheden kunnen zonder voorafgaande kennisgeving worden gewijzigd.
Over de auteur
Damir is de teamleider, productmanager en redacteur bij Metaverse Post, met onderwerpen als AI/ML, AGI, LLM's, Metaverse en Web3-gerelateerde velden. Zijn artikelen trekken maandelijks een enorm publiek van meer dan een miljoen gebruikers. Hij blijkt een expert te zijn met 10 jaar ervaring in SEO en digitale marketing. Damir is genoemd in Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto en andere publicaties. Hij reist als digitale nomade tussen de VAE, Turkije, Rusland en het GOS. Damir behaalde een bachelordiploma in natuurkunde, wat hem volgens hem de kritische denkvaardigheden heeft gegeven die nodig zijn om succesvol te zijn in het steeds veranderende landschap van internet.
Meer artikelen
Damir is de teamleider, productmanager en redacteur bij Metaverse Post, met onderwerpen als AI/ML, AGI, LLM's, Metaverse en Web3-gerelateerde velden. Zijn artikelen trekken maandelijks een enorm publiek van meer dan een miljoen gebruikers. Hij blijkt een expert te zijn met 10 jaar ervaring in SEO en digitale marketing. Damir is genoemd in Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto en andere publicaties. Hij reist als digitale nomade tussen de VAE, Turkije, Rusland en het GOS. Damir behaalde een bachelordiploma in natuurkunde, wat hem volgens hem de kritische denkvaardigheden heeft gegeven die nodig zijn om succesvol te zijn in het steeds veranderende landschap van internet.
