AI-experts en publieke figuren slaan alarm over het risico op uitsterven van AI
In het kort
Prominente AI-experts en invloedrijke figuren geven uitdrukking aan hun gedeelde mening zorgen over de risico’s die aan AI verbonden zijn.
Ondanks aanzienlijke vooruitgang op het gebied van AI, blijven veel uitdagingen met betrekking tot AI-risico's onopgelost.
Prominente AI-experts en publieke figuren hebben in een verklaring gewaarschuwd dat AI een bedreiging kan vormen voor het voortbestaan van de mensheid, vergelijkbaar met of zelfs groter dan de risico's van pandemieën en een nucleaire oorlog. De 350 ondertekenaars stellen dat AI onvoorziene en catastrofale gevolgen kan hebben, zoals het ontketenen van autonome wapens, het ontwrichten van sociale en economische systemen of het creëren van superintelligente agenten die mensen te slim af kunnen zijn en kunnen overmeesteren.
Ze roepen beleidsmakers op om deze risico's serieus te nemen en maatregelen te nemen om veilige en voordelige AI-ontwikkeling te waarborgen. De verklaring is ondertekend door enkele van de leidende figuren op het gebied van onderzoek en ontwikkeling op het gebied van AI, zoals OpenAI CEO Sam Altman, de mede-oprichter van Skype Jaan Tallinn, DeepMind CEO Demis Hassabis en AI-computerwetenschapper Geoffrey Hinton, evenals invloedrijke publieke persoonlijkheden, zoals muzikant Grimes en podcaster Sam Harris.
Onder de ondertekenaars waren de winnaars van de Turing Award 2018 voor hun bijdragen aan deep learning: Geoffrey Hinton en Yoshua Bengio. Ze werden vergezeld door professoren van prestigieuze universiteiten zoals Harvard en Tsinghua University in China, evenals Max Tegmark van MIT.
"Het verkleinen van het risico van uitsterven door AI zou een wereldwijde prioriteit moeten zijn, naast andere risico's op maatschappelijke schaal, zoals pandemieën en een nucleaire oorlog,"
de brief gepubliceerd door CAIS-staten.
Het Centrum voor AI-Veiligheid (CAIS), een non-profitorganisatie gevestigd in San Francisco, heeft tot doel de veiligheidsproblemen met betrekking tot kunstmatige intelligentie aan te pakken. Hoewel CAIS de potentiële voordelen van AI erkent, benadrukt het de noodzaak om het veilig te ontwikkelen en te gebruiken. Ondanks aanzienlijke vorderingen op het gebied van AI blijven tal van fundamentele uitdagingen op het gebied van AI-veiligheid onopgelost, meent het bedrijf. Volgens haar website is het de missie van CAIS om risico's te beperken door veiligheidsonderzoek uit te voeren, een gemeenschap van AI-veiligheidsonderzoekers te bevorderen en te pleiten voor veiligheidsnormen.
“Er zijn veel “belangrijke en urgente risico’s van AI”, niet alleen het risico van uitsterven; bijvoorbeeld systemische vooringenomenheid, verkeerde informatie, kwaadwillig gebruik, cyberaanvallen en bewapening. Dit zijn allemaal belangrijke risico's die moeten worden aangepakt. Samenlevingen kunnen meerdere risico's tegelijk beheersen; het is niet 'of/of' maar 'ja/en'. Vanuit het oogpunt van risicobeheer, net zoals het roekeloos zou zijn om uitsluitend prioriteit te geven aan aanwezige schade, zou het ook roekeloos zijn om ze ook te negeren.
Dan Hendrycks, de directeur van CAIS schreef te volgen op Twitter.
In maart meer dan 1,100 technische experts Gesigneerd een open brief waarin wordt geëist dat de training van AI-systemen zes maanden lang wordt stopgezet GPT-4. Europese wetgevers onlangs ook goedgekeurd strengere conceptwetgeving, de zogenaamde AI-wet, die AI-tools regelt ChatGPT. De wet bevat vereisten voor veiligheidscontroles, gegevensbeheer en risicobeperking voor fundamentele AI-modellen en verbiedt praktijken zoals manipulatieve technieken en bepaald gebruik van biometrie.
Lees verder:
- OpenAI onthult de nieuwste aanpak om de veiligheid van AI te waarborgen
- Gaat Google een tekst-naar-avatar-generator voor gamers aankondigen?
- CodeWhisperer van Amazon geeft ontwikkelaars de voorsprong die ze nodig hebben in de AI-arena
- Vitalik Buterin en MIRI-directeur Nate Soares duiken in de gevaren van AI
Disclaimer
In lijn met de Richtlijnen voor vertrouwensprojectenHoud er rekening mee dat de informatie op deze pagina niet bedoeld is en niet mag worden geïnterpreteerd als juridisch, fiscaal, beleggings-, financieel of enige andere vorm van advies. Het is belangrijk om alleen te beleggen wat u zich kunt veroorloven te verliezen en onafhankelijk financieel advies in te winnen als u twijfels heeft. Voor meer informatie raden wij u aan de algemene voorwaarden en de hulp- en ondersteuningspagina's van de uitgever of adverteerder te raadplegen. MetaversePost streeft naar nauwkeurige, onpartijdige berichtgeving, maar de marktomstandigheden kunnen zonder voorafgaande kennisgeving worden gewijzigd.
Over de auteur
Agne is een journalist die de laatste trends en ontwikkelingen in de metaverse, AI en Web3 industrieën voor de Metaverse Post. Haar passie voor het vertellen van verhalen heeft ertoe geleid dat ze talloze interviews heeft gehouden met experts op deze gebieden, waarbij ze altijd op zoek is naar spannende en boeiende verhalen. Agne heeft een bachelordiploma in literatuur en een uitgebreide achtergrond in het schrijven over een breed scala aan onderwerpen, waaronder reizen, kunst en cultuur. Ze heeft zich ook vrijwillig aangemeld als redacteur voor de dierenrechtenorganisatie, waar ze hielp het bewustzijn over dierenwelzijnskwesties te vergroten. Neem contact met haar op [e-mail beveiligd].
Meer artikelen
Agne is een journalist die de laatste trends en ontwikkelingen in de metaverse, AI en Web3 industrieën voor de Metaverse Post. Haar passie voor het vertellen van verhalen heeft ertoe geleid dat ze talloze interviews heeft gehouden met experts op deze gebieden, waarbij ze altijd op zoek is naar spannende en boeiende verhalen. Agne heeft een bachelordiploma in literatuur en een uitgebreide achtergrond in het schrijven over een breed scala aan onderwerpen, waaronder reizen, kunst en cultuur. Ze heeft zich ook vrijwillig aangemeld als redacteur voor de dierenrechtenorganisatie, waar ze hielp het bewustzijn over dierenwelzijnskwesties te vergroten. Neem contact met haar op [e-mail beveiligd].
