Technische experts ondertekenen een open brief waarin wordt opgeroepen tot een tijdelijke pauze bij het trainen van AI-systemen die geavanceerder zijn dan de huidige technologie GPT-4
In het kort
Meer dan 1100 ondertekenaars hebben de open brief ondertekend waarin wordt opgeroepen tot een pauze van gigantische AI-experimenten.
Onder de ondertekenaars zijn onder meer Elon Musk, Steve Wozniak en Emad Mostaque.
De open brief uitte zorgen over informatievooroordelen door AI, automatisering van taken en het risico van AI voor de menselijke beschaving.
Meer dan 1,100 ondertekenaars, waaronder toonaangevende technologie-experts, hebben een ondertekend open brief waarin wordt opgeroepen tot een pauze van zes maanden bij het trainen van AI-systemen die geavanceerder zijn dan GPT-4.
De brief is geschreven door het Future of Life Institute, een non-profitorganisatie die zich inzet voor het verminderen van de wereldwijde catastrofale en existentiële risico's waarmee de mensheid wordt geconfronteerd, met name het existentiële risico van geavanceerde kunstmatige intelligentie.
Onder verwijzing naar de alom onderschreven Asilomar AI-principes, waarin staat dat "geavanceerde AI een ingrijpende verandering in de geschiedenis van het leven op aarde kan betekenen, en moet worden gepland en beheerd met evenredige zorg en middelen", zegt de brief dat het niveau van planning en beheer gebeurt niet.
De brief gaat verder met te zeggen dat AI-laboratoria zich in een “uit de hand gelopen” race bevinden om steeds krachtigere kunstmatige intelligentie te ontwikkelen die niemand kan begrijpen, voorspellen of op betrouwbare wijze kan controleren. Zoals hedendaagse AI-systemen dat leuk vinden GPT-4 wel concurreren met mensen over algemene taken uit de brief bezorgdheid over informatiebias door AI, taakautomatisering en het risico de controle over de menselijke beschaving te verliezen.
“We roepen alle AI-labs op om de training van AI-systemen die krachtiger zijn dan onmiddellijk gedurende minimaal 6 maanden te pauzeren GPT-4. Deze pauze moet openbaar en verifieerbaar zijn en alle belangrijke actoren omvatten. Als een dergelijke pauze niet snel kan worden ingevoerd, moeten regeringen ingrijpen en een moratorium instellen.”
staat in de brief.
De brief smeekt AI-labs en technische experts om de pauzeperiode te gebruiken om veiligheidsprotocollen te ontwikkelen en te implementeren voor geavanceerd AI-ontwerp en -ontwikkeling die streng worden gecontroleerd en gecontroleerd door onafhankelijke externe experts.
De Amerikaanse journalist Jeff Jarvis had echter kritiek op de brief, gezegde dat het een "excellent voorbeeld van morele paniek" is.
Enkele van de leidende geesten in technologie en machine learning die de brief hebben ondertekend samen met DeepMind-onderzoekswetenschappers en verschillende universiteitsprofessoren van over de hele wereld:
- Yoshua Bengio, University of Montréal, Turing Laureaat voor het ontwikkelen van deep learning, hoofd van het Montreal Institute for Learning Algorithms
- Stuart Russell, Berkeley, hoogleraar informatica, directeur van het Center for Intelligent Systems, en co-auteur van het standaardhandboek "Artificial Intelligence: a Modern Approach"
- Elon Musk, CEO van SpaceX, Tesla en Twitter
- Emad Mostaque, CEO, Stability AI
- Jaan Tallinn, mede-oprichter van Skype, Centrum voor de studie van existentiële risico's, Future of Life Institute
- Gary Marcus, New York University, AI-onderzoeker, emeritus hoogleraar
- Marc Rotenberg, Centrum voor AI en digitaal beleid (CAIDP), voorzitter
In een recente brief, schreef Rotenberg dat de CAIDP een klacht zal indienen bij de Federal Trade Commission, waarin wordt opgeroepen tot een onderzoek naar Open AI en ChatGPT, evenals een verbod op verdere commerciële introductie van het product totdat er veiligheidsmaatregelen zijn getroffen.
OpenAI CEO Sam Altman heeft dat gedaan toegegeven dat "we ook genoeg tijd nodig hebben voor onze instellingen om erachter te komen wat ze moeten doen" en dat de samenleving niet ver verwijderd is van "potentieel enge" generatieve AI-tools.
“We vragen de FTC om “op de pauzeknop te drukken”, zodat onze instellingen, onze wetten en onze samenleving de kans krijgen om bij te praten. We moeten zeggenschap hebben over de technologieën die we creëren voordat we de controle verliezen”, stelt de CAIDP-brief.
Elders, EU-wetgevers streven ernaar om tegen het einde van het jaar een deal met EU-landen te ondertekenen om AI-regels te implementeren, hoewel dit een knelpunt kan worden als de debatten over hoe AI moet worden bestuurd, heviger worden.
Lees verder:
Disclaimer
In lijn met de Richtlijnen voor vertrouwensprojectenHoud er rekening mee dat de informatie op deze pagina niet bedoeld is en niet mag worden geïnterpreteerd als juridisch, fiscaal, beleggings-, financieel of enige andere vorm van advies. Het is belangrijk om alleen te beleggen wat u zich kunt veroorloven te verliezen en onafhankelijk financieel advies in te winnen als u twijfels heeft. Voor meer informatie raden wij u aan de algemene voorwaarden en de hulp- en ondersteuningspagina's van de uitgever of adverteerder te raadplegen. MetaversePost streeft naar nauwkeurige, onpartijdige berichtgeving, maar de marktomstandigheden kunnen zonder voorafgaande kennisgeving worden gewijzigd.
Over de auteur
Cindy is journaliste bij Metaverse Post, over onderwerpen die verband houden met web3, NFT, metaverse en AI, met een focus op interviews met Web3 spelers uit de industrie. Ze heeft met meer dan dertig leidinggevenden op C-niveau gesproken en er komen er steeds meer bij, en bracht hun waardevolle inzichten naar de lezers. Cindy komt oorspronkelijk uit Singapore en is nu gevestigd in Tbilisi, Georgië. Ze heeft een bachelordiploma in communicatie- en mediastudies van de Universiteit van Zuid-Australië en heeft tien jaar ervaring in journalistiek en schrijven. Neem contact met haar op via [e-mail beveiligd] met perspitches, aankondigingen en interviewmogelijkheden.
Meer artikelen
Cindy is journaliste bij Metaverse Post, over onderwerpen die verband houden met web3, NFT, metaverse en AI, met een focus op interviews met Web3 spelers uit de industrie. Ze heeft met meer dan dertig leidinggevenden op C-niveau gesproken en er komen er steeds meer bij, en bracht hun waardevolle inzichten naar de lezers. Cindy komt oorspronkelijk uit Singapore en is nu gevestigd in Tbilisi, Georgië. Ze heeft een bachelordiploma in communicatie- en mediastudies van de Universiteit van Zuid-Australië en heeft tien jaar ervaring in journalistiek en schrijven. Neem contact met haar op via [e-mail beveiligd] met perspitches, aankondigingen en interviewmogelijkheden.
