OpenAI Maakt alarm over superintelligentie en het potentieel van AI om de menselijke capaciteiten in het volgende decennium te overtreffen
In het kort
OpenAI roept op tot regulering van superintelligentie, waarbij de noodzaak van bestuur wordt benadrukt in het licht van de snelle vorderingen van AI.
Er wordt verwacht dat AI-systemen de menselijke expertise zullen overtreffen productiviteit van bedrijven binnen tien jaar, Volgens OpenAI.
OpenAI benadrukt het belang van publiek toezicht en democratische controle voor krachtige AI-systemen.
OpenAI, de maker van ChatGPT, heeft een tot nadenken stemmende oproep gedaan voor de regulatie van superintelligentie, die parallellen trekt met de regelgeving voor kernenergie. In een recente blogpost, OpenAI benadrukte de mogelijke implicaties van de snelle vooruitgang van AI en benadrukte de dringende behoefte aan governance in dit evoluerende landschap. Het bedrijf verklaarde dat AI-systemen binnen tien jaar experts en de grootste bedrijven zouden overtreffen op het gebied van productiviteit en vaardigheden.
"We moeten ook de risico's van de huidige AI-technologie verkleinen, maar superintelligentie vereist een speciale behandeling en coördinatie", aldus Sam Altman, Greg Brockman en Ilya Sutskever van OpenAI benadrukte.
Superintelligentie beschrijft een entiteit die de algehele menselijke intelligentie of enkele specifieke aspecten van intelligentie overtreft. Volgens de auteurs zal AI-superintelligentie een ongeëvenaard niveau van kracht hebben, met zowel positieve als negatieve aspecten.
De ontwikkeling en risico's van de onvermijdelijke superintelligentie
OpenAI heeft drie belangrijke ideeën geïdentificeerd die een cruciale rol spelen bij het navigeren door de succesvolle ontwikkeling van superintelligentie. Deze omvatten coördinatie tussen leidende ontwikkelingsinspanningen, de oprichting van een internationale autoriteit vergelijkbaar met de International Atomic Energy Agency (IAEA) en de ontwikkeling van technische capaciteiten voor veiligheid.
Terwijl OpenAI erkent dat AI-systemen risico's met zich meebrengen, deze risico's zijn vergelijkbaar met die van andere internetgerelateerde technologieën. Altman, Brockman en Sutskever spreken ook hun vertrouwen uit dat de huidige benaderingen van de samenleving om deze risico's te beheersen geschikt zijn. De grootste zorg gaat echter over toekomstige systemen die een ongekende kracht zullen hebben.
"De systemen waar we ons zorgen over maken, zullen daarentegen macht hebben die verder gaat dan welke technologie dan ook die tot nu toe is gemaakt, en we moeten oppassen dat we de focus erop niet verwateren door vergelijkbare normen toe te passen op technologie ver onder deze lat", aldus de blogpost.
De auteurs stellen dat krachtige AI-systemen publiek toezicht en democratische controle nodig hebben. Ze leggen ook uit waarom ze deze technologie aan het bouwen zijn OpenAI: om een betere wereld te creëren en de risico's van het stoppen ervan te vermijden. AI helpt op verschillende gebieden, waaronder onderwijs, creativiteit en productiviteit, evenals algemene economische groei.
OpenAI vindt het moeilijk en riskant stoppen met superintelligentie van ontstaan. Superintelligentie heeft aanzienlijke voordelen, wordt elk jaar goedkoper, er werken meer mensen aan, en het maakt deel uit van het technologietraject van het bedrijf.
Ilman Sjajajev, techpreneur in AI en mede-oprichter van Farcana-laboratoria, deelde een paar opmerkingen over het nieuws. Projecties geven aan dat superintelligentie, als ze niet goed wordt beheerd, een van de meest destructieve uitvindingen aller tijden van de mens kan zijn. Gesprekken over de inzet van de technologie blijven echter verdeeldheid zaaien, aangezien deze nog niet is ontwikkeld. Aandringen op een stopzetting van de ontwikkeling op basis van angst voor voorspellingen kan de mensheid de kansen ontnemen die de nieuwe technologie mogelijk in petto heeft.
"OpenAIDe gedecentraliseerde bestuursbenadering van het bedrijf kan helpen om de brede veiligheid ervan te behouden. Met de juiste regelgeving kan het programma worden stopgezet in het geval dat het gebeurt vormt een bedreiging. Als deze beveiligingen aanwezig zijn, dan kan superintelligentie een innovatie zijn die het onderzoeken waard is”, aldus Shazhaev.
Door openlijk zijn standpunten over AI-superintelligentie en voorgestelde regelgevende maatregelen te bespreken, OpenAI lijkt weloverwogen discussies te bevorderen en verschillende perspectieven uit te nodigen.
Sam Altman gelooft sterk in wijdverspreide beschikbaarheid van AI voor het publiek. Hij erkent dat het onmogelijk is om alle problemen van tevoren te voorzien en pleit ervoor om problemen in een zo vroeg mogelijk stadium aan te pakken. Altman benadrukt echter ook het belang van onafhankelijke audits voor systemen zoals ChatGPT voor vrijlating. Hij erkent verder de mogelijkheid om maatregelen te implementeren, zoals het beperken van het tempo van het maken van nieuwe modellen of het oprichten van een commissie de veiligheid van AI-modellen beoordelen voor marktrelease. Met name voorspelt Altman dat de hoeveelheid intelligentie in het universum elke 18 maanden zal verdubbelen.
Lees verder:
Disclaimer
In lijn met de Richtlijnen voor vertrouwensprojectenHoud er rekening mee dat de informatie op deze pagina niet bedoeld is en niet mag worden geïnterpreteerd als juridisch, fiscaal, beleggings-, financieel of enige andere vorm van advies. Het is belangrijk om alleen te beleggen wat u zich kunt veroorloven te verliezen en onafhankelijk financieel advies in te winnen als u twijfels heeft. Voor meer informatie raden wij u aan de algemene voorwaarden en de hulp- en ondersteuningspagina's van de uitgever of adverteerder te raadplegen. MetaversePost streeft naar nauwkeurige, onpartijdige berichtgeving, maar de marktomstandigheden kunnen zonder voorafgaande kennisgeving worden gewijzigd.
Over de auteur
Agne is een journalist die de laatste trends en ontwikkelingen in de metaverse, AI en Web3 industrieën voor de Metaverse Post. Haar passie voor het vertellen van verhalen heeft ertoe geleid dat ze talloze interviews heeft gehouden met experts op deze gebieden, waarbij ze altijd op zoek is naar spannende en boeiende verhalen. Agne heeft een bachelordiploma in literatuur en een uitgebreide achtergrond in het schrijven over een breed scala aan onderwerpen, waaronder reizen, kunst en cultuur. Ze heeft zich ook vrijwillig aangemeld als redacteur voor de dierenrechtenorganisatie, waar ze hielp het bewustzijn over dierenwelzijnskwesties te vergroten. Neem contact met haar op [e-mail beveiligd].
Meer artikelen
Agne is een journalist die de laatste trends en ontwikkelingen in de metaverse, AI en Web3 industrieën voor de Metaverse Post. Haar passie voor het vertellen van verhalen heeft ertoe geleid dat ze talloze interviews heeft gehouden met experts op deze gebieden, waarbij ze altijd op zoek is naar spannende en boeiende verhalen. Agne heeft een bachelordiploma in literatuur en een uitgebreide achtergrond in het schrijven over een breed scala aan onderwerpen, waaronder reizen, kunst en cultuur. Ze heeft zich ook vrijwillig aangemeld als redacteur voor de dierenrechtenorganisatie, waar ze hielp het bewustzijn over dierenwelzijnskwesties te vergroten. Neem contact met haar op [e-mail beveiligd].
