Nieuwsverslag Technologie
27 oktober 2023

AI-leiders waarschuwen voor toenemende risico's en ethische zorgen bij snelle ontwikkelingen

In een recente beleidsverklaringhebben prominente figuren op het gebied van AI, waaronder Bengio, Hinton, Russell, Harari en Kahneman, de noodklok geluid over de snelle vooruitgang en de groeiende maatschappelijke risico’s die met AI gepaard gaan.

AI-leiders waarschuwen voor toenemende risico's en ethische zorgen bij snelle ontwikkelingen

AI ontwikkelt zich snel. GPT-2 Kon vier jaar geleden niet van 0 tot 100 tellen, maar moderne modellen kunnen code schrijven, geweldige afbeeldingen maken en intellectuele begeleiding bieden. En omdat we in een race zitten, kan de vooruitgang nog sneller gaan. Bovendien ontwikkelt AI zich sneller door bijvoorbeeld te helpen bij het programmeren van nieuwe systemen en het verzamelen van gegevens voor de training ervan.

Zodra de vooruitgang het menselijke niveau bereikt, is er geen reden om te denken dat deze zal vertragen of stoppen. In bepaalde regio's hebben kunstmatige systemen in dit opzicht al beter gepresteerd dan mensen mogelijkheden zoals een snellere verwerking snelheden, grotere gegevensverwerkingscapaciteiten en grootschalige schaalbaarheid. Bedrijven beschikken over de financiële middelen om trainingsprogramma’s uit te voeren die de huidige limiet ruimschoots overschrijden.

De auteurs denken dat de kans groot is dat er binnen ongeveer tien jaar een betere AI-generalist zal ontstaan. menselijke capaciteiten te boven gaan op veel belangrijke domeinen.

Wat gaat er hierna gebeuren? Alle levens kunnen worden verbeterd als ze op de juiste manier worden beheerd en verdeeld. De slecht gekozen optie brengt aanzienlijke risico's met zich mee, waarop we slecht voorbereid zijn. In plaats van te worden ingezet voor veiligheid en schadepreventie, worden aanzienlijke middelen gebruikt om AI-systemen te bouwen die steeds krachtiger worden. Dit moet veranderen; Het op zichzelf nastreven van vaardigheden is onvoldoende. En dit proces duurt langer dan verwacht. We moeten plannen maken voor hogere risico's voordat deze zich voordoen, door te anticiperen op de escalatie van de huidige dreigingen en de opkomst van nieuwe. We hebben niet zoveel tijd voor AI als het tientallen jaren duurt voordat het geaccepteerd wordt klimaatverandering.

Er bestaan ​​talloze risico's op maatschappelijk niveau, waaronder een toename van het onrecht, een verslechtering van de stabiliteit en een verslechtering van de algemene perceptie van de werkelijkheid. Hier zijn terroristen en criminelen betrokken bij uitgebreide activiteiten. AI zou zich kunnen concentreren in de handen van een klein aantal spelers, wat zou leiden tot grotere mondiale ongelijkheid, geautomatiseerde oorlogsvoering, massamanipulatie die op elk individu is toegesneden, en alomtegenwoordige surveillance.

Als autonoom AI wordt geavanceerder en kan plannen, in de wereld handelen en haar doelstellingen bereiken, zullen deze risico's alleen maar toenemen. Deze doelstellingen zijn wellicht niet in ons belang en kunnen, in het geval van slechte actoren, zelfs schadelijk zijn. Het is momenteel onduidelijk hoe we het probleem van AI-uitlijning kunnen oplossen, waarbij AI-gedrag moet worden afgestemd op onze ingewikkelde doelstellingen. Bovendien is het heel eenvoudig om veiligheidsmaatregelen over het hoofd te zien tijdens het racen met de bedoeling om te winnen.

Reguliere software is voor mensen moeilijk te controleren, laat staan ​​geavanceerde AI-systemen die steeds bedrevener worden in social engineering, hacking, bedrog en strategische planning. Dit is iets dat autonome AI-systemen van mensen kunnen oppikken of zelf kunnen creëren.

Deze systemen hebben het vermogen coalities te vormen met individuen en andere systemen, vertrouwen te winnen, financiering veilig te stellen en besluitvormers te beïnvloeden. Net als wormen zijn ze in staat tot zelfreplicatie door het hele netwerk. Er worden al enorme hoeveelheden code geschreven met de hulp van AI-assistenten; in de toekomst kunnen systemen exploits in tal van cruciale systemen integreren. AI-systemen hebben het vermogen om biologische of autonome wapens in open gevechten te gebruiken of te bedreigen. Dit is slechts een voortzetting van de huidige bewegingen richting biologisch onderzoek, kunstmatige intelligentie en de automatisering van oorlogsvoering. Mensen vinden het misschien te uitdagend om tussenbeide te komen en zich te verzetten.

In veel gevallen zijn wij bereid om hen de touwtjes in handen te geven, zonder dat ze erom hoeven te vragen. Veel individuen en bedrijven zijn bereid dergelijke systemen zelf in een concurrerende omgeving te implementeren, uit angst dat ze achterop raken bij de concurrentie.

Het volledige document is te vinden hier.

Disclaimer

In lijn met de Richtlijnen voor vertrouwensprojectenHoud er rekening mee dat de informatie op deze pagina niet bedoeld is en niet mag worden geïnterpreteerd als juridisch, fiscaal, beleggings-, financieel of enige andere vorm van advies. Het is belangrijk om alleen te beleggen wat u zich kunt veroorloven te verliezen en onafhankelijk financieel advies in te winnen als u twijfels heeft. Voor meer informatie raden wij u aan de algemene voorwaarden en de hulp- en ondersteuningspagina's van de uitgever of adverteerder te raadplegen. MetaversePost streeft naar nauwkeurige, onpartijdige berichtgeving, maar de marktomstandigheden kunnen zonder voorafgaande kennisgeving worden gewijzigd.

Over de auteur

Damir is de teamleider, productmanager en redacteur bij Metaverse Post, met onderwerpen als AI/ML, AGI, LLM's, Metaverse en Web3-gerelateerde velden. Zijn artikelen trekken maandelijks een enorm publiek van meer dan een miljoen gebruikers. Hij blijkt een expert te zijn met 10 jaar ervaring in SEO en digitale marketing. Damir is genoemd in Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto en andere publicaties. Hij reist als digitale nomade tussen de VAE, Turkije, Rusland en het GOS. Damir behaalde een bachelordiploma in natuurkunde, wat hem volgens hem de kritische denkvaardigheden heeft gegeven die nodig zijn om succesvol te zijn in het steeds veranderende landschap van internet. 

Meer artikelen
Damir Jalalov
Damir Jalalov

Damir is de teamleider, productmanager en redacteur bij Metaverse Post, met onderwerpen als AI/ML, AGI, LLM's, Metaverse en Web3-gerelateerde velden. Zijn artikelen trekken maandelijks een enorm publiek van meer dan een miljoen gebruikers. Hij blijkt een expert te zijn met 10 jaar ervaring in SEO en digitale marketing. Damir is genoemd in Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto en andere publicaties. Hij reist als digitale nomade tussen de VAE, Turkije, Rusland en het GOS. Damir behaalde een bachelordiploma in natuurkunde, wat hem volgens hem de kritische denkvaardigheden heeft gegeven die nodig zijn om succesvol te zijn in het steeds veranderende landschap van internet. 

Van Ripple tot The Big Green DAO: hoe cryptocurrency-projecten bijdragen aan liefdadigheid

Laten we initiatieven onderzoeken die het potentieel van digitale valuta voor goede doelen benutten.

Meer weten

AlphaFold 3, Med-Gemini en anderen: de manier waarop AI de gezondheidszorg transformeert in 2024

AI manifesteert zich op verschillende manieren in de gezondheidszorg, van het blootleggen van nieuwe genetische correlaties tot het versterken van robotchirurgische systemen...

Meer weten
Sluit u aan bij onze innovatieve technologiegemeenschap
Lees meer
Lees meer
Tokenized RWA's overbruggen de kloof tussen DeFi en TradFi
Advies Toplijsten Business Markten Software Technologie
Tokenized RWA's overbruggen de kloof tussen DeFi en TradFi
24 juni 2024
Het huidige correctieniveau van Bitcoin ligt nog steeds onder het gemiddelde, zegt Crypto-analist van Rekt Capital
Markten Nieuwsverslag Technologie
Het huidige correctieniveau van Bitcoin ligt nog steeds onder het gemiddelde, zegt Crypto-analist van Rekt Capital
24 juni 2024
Kernontwikkelaars Open Source SRC Protocol's Indexer Code, inclusief SRC-20, SRC-721 en SRC-101 tokenstandaarden
Nieuwsverslag Software Technologie
Kernontwikkelaars Open Source SRC Protocol's Indexer Code, inclusief SRC-20, SRC-721 en SRC-101 tokenstandaarden
24 juni 2024
De opkomst en ondergang van de advertentieambities van Oracle: een droom van $ 2 miljard valt uiteen
Advies Business Lifestyle Markten Technologie
De opkomst en ondergang van de advertentieambities van Oracle: een droom van $ 2 miljard valt uiteen
24 juni 2024