Vitalik Buterin en MIRI-directeur Nate Soares duiken in de gevaren van AI: kan kunstmatige intelligentie het menselijk uitsterven veroorzaken?
In het kort
Ethereum-oprichter Vitalik Buterin en directeur van het Machine Intelligence Research Institute Nate Soares bespraken vandaag de risico's van AI bij Zuzalu.
Zuzalu is een pop-up stadsgemeenschap in Montenegro, geïnitieerd door Buterin en zijn collega's in de cryptogemeenschap.
In de discussie deelde Soares zijn visie op waarom AI hoogstwaarschijnlijk een einde zal maken aan al het leven op aarde.
Ethereum-oprichter Vitalik Buterin en directeur van het Machine Intelligence Research Institute (MIRI) Nate Soares besprak vandaag de risico's van AI bij Zuzalu.
Zuzalu is een "pop-up stadsgemeenschap" in Montenegro, geïnitieerd door Buterin en zijn collega's in de cryptogemeenschap die loopt van 25 maart tot 25 mei. Het evenement brengt 200 kernbewoners samen met een gedeeld verlangen om te leren, te creëren, langer en gezonder te leven leven en bouwen zelfvoorzienende gemeenschappen. In de loop van twee maanden organiseert de gemeenschap ook een aantal evenementen over verschillende onderwerpen, zoals synthetische biologie, technologie voor privacy, openbare goederen, een lang leven, bestuur en meer.
De discussie opende met Soares die zijn werk voorstelde bij MIRI, een in Berkeley gevestigde non-profitorganisatie die al langer bestaat dan hij het runt. Al 20 jaar probeert MIRI de basis te leggen om ervoor te zorgen dat de ontwikkeling van AI goed verloopt. Met de discussie hoopte Vitalik aan te pakken wat AI uniek riskant maakt in vergelijking met andere technologieën die in de menselijke geschiedenis zijn uitgebracht.
De waarschijnlijkheid dat AI het uitsterven van de mens veroorzaakt
Vitalik zei dat hij al heel lang geïnteresseerd is in het onderwerp AI-risico's en herinnerde zich dat hij ervan overtuigd was dat er een kans van 0.5%-1% is dat al het leven op aarde zou ophouden te bestaan als AI fout gaat - een existentieel risico dat zou leiden tot het uitsterven van het menselijk ras of de onomkeerbare ineenstorting van de menselijke beschaving.
Vanuit het perspectief van Soares lijkt het uitsterven van mensen een standaarduitkomst van de onveilige ontwikkeling van AI-technologie. Hij vergeleek het met evolutie en zei dat de ontwikkeling van de mensheid sneller leek te gaan dan louter evolutieveranderingen. In zowel AI- als menselijke evolutieprocessen was de dominante optimalisatie - een proces van het vinden van de beste oplossing voor een probleem wanneer er meerdere doelen zijn om te overwegen - aan het veranderen. Mensen hadden een punt bereikt waarop ze kennis konden doorgeven via mond-tot-mondreclame in plaats van dat de informatie via natuurlijke selectie in genen werd ingebed.
“AI is uiteindelijk een geval waarin je het macroscopische optimalisatieproces weer kunt omschakelen. Ik denk dat je qua optimalisatie veel beter kunt dan mensen. Ik denk dat we nog steeds behoorlijk dom zijn als het gaat om het optimaliseren van onze omgeving. Met AI maken we een soort faseovergang door waarbij geautomatiseerde optimalisatie de kracht is die de macroscopische kenmerken van het universum bepaalt”, legt Soares uit.
Hij voegde eraan toe dat hoe die toekomst eruit ziet, is waar het optimalisatieproces voor optimaliseert, en dat zal waarschijnlijk niet langer gunstig zijn voor de mensheid, aangezien de meeste optimalisatiedoelen geen ruimte hebben voor mensen.
Kunnen mensen AI trainen om goed te doen?
Buterin wees erop dat mensen degenen zijn die de AI trainen en vertellen hoe ze moeten optimaliseren. Indien nodig kunnen ze de manier veranderen waarop de machine wordt geoptimaliseerd. Daarop zei Soares dat het in principe mogelijk is om AI te trainen om goed te doen, maar simpelweg een AI trainen om een doel te bereiken, betekent niet dat het dat zou of wil doen, het komt neer op verlangen.
Buterin maakte een punt over versterkend leren in grote taalmodellen die grote hoeveelheden gegevens krijgen over wat menselijke voorkeuren zijn, en vroeg waarom het niet zou werken, aangezien bestaande intelligentie steeds beter wordt in het begrijpen van wat onze voorkeuren zijn.
"Er is een grote kloof tussen het begrijpen van onze motivaties en het kan schelen,"
Soares reageerde.
“Mijn bewering is niet dat een groot taalmodel of AI de details van menselijke voorkeuren niet zal begrijpen. Mijn bewering is dat het begrijpen van de details van menselijke voorkeuren iets heel anders is dan optimaliseren voor het goede”, voegde hij eraan toe.
Een lid van het publiek maakte een vergelijking tussen AI en mensen en zei dat mensen, net als kunstmatige intelligentie, de neiging hebben om niet te begrijpen wat ze doen of voorspellen, wat ook gevaarlijk kan zijn. Vervolgens vroeg hij Soares om te doen alsof hij een alien was en uit te leggen waarom er geen mensen zouden moeten zijn.
“Ik zou niet blij zijn als ik goddelijke krachten en controle over de toekomst zou geven aan één enkel mens. Afzonderlijk zou ik veel meer opgewonden zijn om macht te geven aan een enkele individuele mens dan aan een willekeurig gerolde AI. Ik zeg nadrukkelijk niet dat we geen AI zouden moeten hebben. Ik zeg dat we het goed moeten doen. We moeten ervoor zorgen dat ze zich zorgen maken over een toekomst die vol plezier en geluk is en bloeiende beschavingen waar transhumans zich bezighouden met positieve somhandel met buitenaardse wezens, enzovoort, 'verduidelijkte Soares. "Als je een sterk optimalisatieproces bouwt dat om verschillende dingen geeft, kan dat mogelijk alle waarden van het universum vernietigen."
Hij voegde eraan toe dat de dingen die mensen waarderen niet universeel dwingend zijn en dat moraliteit niet iets is dat elke geest die het bestudeert, zou nastreven. In plaats daarvan is het het resultaat van de driften die in mensen zijn ingebouwd die, in de voorouderlijke omgeving, ervoor zorgden dat we goed waren in reproduceren en die specifiek zijn voor mensen.
Uiteindelijk gelooft Soares dat we niet iets moeten bouwen dat even intelligent of zelfs intelligenter is en niet strookt met plezier, geluk en een bloeiende toekomst. Aan de andere kant zei hij ook dat de mensheid geen vriendelijke superintelligentie moet bouwen die een leuke toekomst optimaliseert bij de eerste poging tijdens een wapenwedloop. Op korte termijn zou AI zich moeten inzetten om de mensheid te helpen tijd en ruimte te kopen om erachter te komen wat ze eigenlijk willen.
ChatGPT zal niet de hele biosfeer opslokken
Omdat AI momenteel wordt gebouwd om bepaalde doelen te bereiken, waaronder voorspellingen, vroeg Buterin zich af: wat als AI niet doelgericht was? Soares zei dat het gemakkelijk is om AI's te bouwen die veilig en niet capabel zijn, en dat we binnenkort AI's kunnen hebben die capabel zijn, maar andere dingen nastreven. Hij denkt niet ChatGPT zal de hele biosfeer opslokken, omdat deze niet op dat niveau van capaciteit is.
Soares merkte op dat de meeste interessante AI-toepassingen, zoals het automatiseren van wetenschappelijke en technologische ontwikkeling en onderzoek, een bepaald nastreven van doelen lijken te vereisen.
'Het is geen vergissing die je kunt krijgen GPT om een nette haiku te schrijven, maar het lukt je niet om een roman te schrijven. De beperkingen van de huidige systemen houden verband met het feit dat ze deze diepere doelen niet nastreven, althans voor mij.”
Lees verder:
Disclaimer
In lijn met de Richtlijnen voor vertrouwensprojectenHoud er rekening mee dat de informatie op deze pagina niet bedoeld is en niet mag worden geïnterpreteerd als juridisch, fiscaal, beleggings-, financieel of enige andere vorm van advies. Het is belangrijk om alleen te beleggen wat u zich kunt veroorloven te verliezen en onafhankelijk financieel advies in te winnen als u twijfels heeft. Voor meer informatie raden wij u aan de algemene voorwaarden en de hulp- en ondersteuningspagina's van de uitgever of adverteerder te raadplegen. MetaversePost streeft naar nauwkeurige, onpartijdige berichtgeving, maar de marktomstandigheden kunnen zonder voorafgaande kennisgeving worden gewijzigd.
Over de auteur
Cindy is journaliste bij Metaverse Post, over onderwerpen die verband houden met web3, NFT, metaverse en AI, met een focus op interviews met Web3 spelers uit de industrie. Ze heeft met meer dan dertig leidinggevenden op C-niveau gesproken en er komen er steeds meer bij, en bracht hun waardevolle inzichten naar de lezers. Cindy komt oorspronkelijk uit Singapore en is nu gevestigd in Tbilisi, Georgië. Ze heeft een bachelordiploma in communicatie- en mediastudies van de Universiteit van Zuid-Australië en heeft tien jaar ervaring in journalistiek en schrijven. Neem contact met haar op via [e-mail beveiligd] met perspitches, aankondigingen en interviewmogelijkheden.
Meer artikelen
Cindy is journaliste bij Metaverse Post, over onderwerpen die verband houden met web3, NFT, metaverse en AI, met een focus op interviews met Web3 spelers uit de industrie. Ze heeft met meer dan dertig leidinggevenden op C-niveau gesproken en er komen er steeds meer bij, en bracht hun waardevolle inzichten naar de lezers. Cindy komt oorspronkelijk uit Singapore en is nu gevestigd in Tbilisi, Georgië. Ze heeft een bachelordiploma in communicatie- en mediastudies van de Universiteit van Zuid-Australië en heeft tien jaar ervaring in journalistiek en schrijven. Neem contact met haar op via [e-mail beveiligd] met perspitches, aankondigingen en interviewmogelijkheden.
