6 maanden pauze in AI-training is een goed idee, maar het is misschien niet genoeg
In het kort
Het verhaal van de petitie en de publicatie van Yudkovsky's artikel hebben de samenleving gepolariseerd.
Het prisoner's dilemma en de speltheorie suggereren dat een kritieke massa van gezonde mensen op verschillende plaatsen nodig is om dergelijke problemen op te lossen.
Er zijn echter een paar maren aan dit idee, zoals het gebrek aan bewustzijn, wil en keuzevrijheid in de digitale evolutie.
Het verhaal van de petitie om te stoppen met de ontwikkeling van AI-systemen die geavanceerder zijn dan GPT-4 heeft de samenleving merkbaar gepolariseerd. De release van Yudkovsky's dit artikel vragen om het stopzetten van de verdere ontwikkeling van GPT modellen gooiden olie op het vuur, vooral zijn passages over het bombarderen van datacenters.
Uit wat online te zien is, lijken er veel minder voorstanders van de petitie te zijn dan tegenstanders, die drie hoofdargumenten hebben:
| 1 | – Vooruitgang is niet te stoppen. – De petitie is uitgevonden door OpenAI concurrenten. – China zal niet wachten. |
| 2 | – Je moet niet bang zijn voor AI maar voor mensen. - GPT heeft geen bewustzijn, wil, ambities of keuzevrijheid, dus er valt niets te vrezen. - GPT-4 Het is waanzinnig ver verwijderd van het tot slaaf maken van de wereld, omdat het niets begrijpt, domme fouten maakt en over het algemeen behoorlijk dom is. - GPT-4 zal de wereld niet kunnen besturen omdat deze geen armen/benen heeft. |
| 3 | – De derde groep begrijpt niet hoe GPT-4 opereert in de eerste plaats. |
We zullen ons niet concentreren op de derde groep omdat hun houding voortkomt uit onwetendheid. Dat wil niet zeggen dat alle AI-tegenstanders alles weten over AI; je kunt genoeg anti-AI-mensen vinden die geen begrip hebben van de technologie en wat het inhoudt, hoewel Yudkovsky zelf veel dieper in het onderwerp AI zit, dus hij kan niet worden beschuldigd van onwetendheid.
Laten we eens kijken naar de eerste groep mensen: zij die geloven dat vooruitgang niet te stoppen is. Ze bieden verschillende maar toch vergelijkbare argumenten, en over het algemeen ontkennen die mensen de mogelijkheden van AI en de vooruitzichten die de acceptatie ervan met zich meebrengt niet en geloven ze dat de ontwikkeling van AI hoe dan ook zal doorgaan.
De eerste stelling over onstuitbare vooruitgang is een slogan die niet waar hoeft te zijn. Mensen lijken sommige wetenschappelijke experimenten te hebben stopgezet, en veel ooit geaccepteerde onderzoeksprojecten worden niet meer als ethisch beschouwd, en soortgelijke projecten zouden tegenwoordig nooit meer worden toegestaan. Hoeveel meer vooruitgang in het verleden werd echter tegengehouden door de inquisitie en andere religieuze vervolging, boekverboden en moorden op wetenschappers in China (en andere landen)? Dat is iets dat we nooit volledig zullen kunnen begrijpen vanwege de overlevingsvoorkeur.
Andere stellingen hebben betrekking op de benadering die kan worden samengevat als "als wij het niet zijn, dan zijn zij het wel". Hoewel deze manier van denken misschien begrijpelijker is, lijkt het ook niet de juiste oplossing. Het lijkt sterk op het prisoner's dilemma in de speltheorie.
De tweede groep argumenten is de meest interessante. Hoewel ik het er persoonlijk tot op zekere hoogte mee eens ben, zijn er een paar maren die moeten worden aangepakt. Ja, AI heeft geen bewustzijn, wil, keuzevrijheid, enz. COVID-19 ook niet, en toch heeft het wereldwijd grote schade aangericht. Iets hoeft geen gevoel van keuzevrijheid en bewustzijn te hebben om gevaarlijk te worden; een scenario dat het leven op aarde wordt weggevaagd door een virus is niet ondenkbaar. Als zijn werk gedaan is, kan hij de stoelen op de tafels zetten, de lichten uitdoen en voor altijd vertrekken.
Om de biologische analogie voort te zetten, is er een prachtig artikel, "The Surprising Creativity of Digital Evolution: A Collection of Anekdotes from the Evolutionary Computation and Artificial Life Research Communities", dat veel voorbeelden geeft van wanneer processen in een onverwachte richting gaan. Zelfs zonder een evolutionair proces kan alles in de verkeerde generalisatie terechtkomen "Onjuiste generalisatie van doelen: waarom correcte specificaties niet genoeg zijn voor correcte doelen." Het de vrije loop laten in een optimalisatieproces kan fout gaan wordt besproken in “Risico's van geleerde optimalisatie in geavanceerde machine learning-systemen. '
Tegelijkertijd houden we over het algemeen geen rekening met de risico's van kwaadwillig gebruik van AI En elk misbruik, wat alleen maar het argument voedt dat we bang moeten zijn voor mensen en niet voor AI zelf. De waarheid is echter dat AI slecht kan zijn, zelfs zonder kwaadwillende mensen.
Ik ben het er ook mee eens dat het model domme fouten maakt, maar mensen ook, en toch weten we dat ze schade kunnen aanrichten. Hoewel modellen veel fouten maken, kunnen ze ook veel geweldige, coole en complexe problemen oplossen die de gemiddelde persoon niet kan oplossen. Uit het beruchte werk “Sparks of Artificial General Intelligence: Early Experiments with GPT-4”, Het viel mij op dat AI Fermi-problemen, zij het niet altijd correct, kon oplossen, nogal complexe wiskundige problemen. De theorie van de geest en “een soort van vermogen om de acties van anderen te begrijpen” zijn ook erg indrukwekkend. Al deze dingen wijzen op de intelligentie van AI; bestaat, maar niet helemaal zoals de onze.
Het elimineren van ten minste enkele van de fouten die AI-modellen maken, is over het algemeen goed te doen, dus hun intelligentie kan alleen maar groeien. Het enige dat u hoeft te doen, is een module toevoegen voor nauwkeurige berekeningen, een feitenbasis en validatie met een ander model.
Het belangrijkste in dit hele verhaal is de snelheid van de ontwikkeling van AI. GPT modellen zijn in een duizelingwekkend tempo enorm gegroeid. Nu zijn er ChatGPT plugins beschikbaar, u kunt gebruiken GPT modellen om code te schrijven, API's zijn beschikbaar voor het grote publiek en je kunt externe tools gebruiken zonder voorafgaande training.
GPT-4zal de wereld uiteraard niet veroveren, maar het kan de economie wel flink opschudden. GPT-5, en de toekomstige iteratie van het model, is misschien niet ver vooruit en zal waarschijnlijk met veel sterkere mogelijkheden komen. En laten we eerlijk zijn, we kunnen niet hopen de nog niet bestaande modellen te begrijpen; we zijn nog niet eens in de buurt gekomen van het begrijpen van de modellen die al bestaan. In die zin kan een pauze van zes maanden een goed idee zijn, maar het is misschien gewoon niet genoeg.
En gezien het feit dat de AI-race is begonnen, is er geen tijd om te leren.
Over het algemeen heb ik met het oog op dit alles ook de petitie ondertekend. Hoewel ik niet geloof dat het op enigerlei wijze zal helpen.
Lees meer gerelateerde onderwerpen:
Disclaimer
In lijn met de Richtlijnen voor vertrouwensprojectenHoud er rekening mee dat de informatie op deze pagina niet bedoeld is en niet mag worden geïnterpreteerd als juridisch, fiscaal, beleggings-, financieel of enige andere vorm van advies. Het is belangrijk om alleen te beleggen wat u zich kunt veroorloven te verliezen en onafhankelijk financieel advies in te winnen als u twijfels heeft. Voor meer informatie raden wij u aan de algemene voorwaarden en de hulp- en ondersteuningspagina's van de uitgever of adverteerder te raadplegen. MetaversePost streeft naar nauwkeurige, onpartijdige berichtgeving, maar de marktomstandigheden kunnen zonder voorafgaande kennisgeving worden gewijzigd.
Over de auteur
Damir is de teamleider, productmanager en redacteur bij Metaverse Post, met onderwerpen als AI/ML, AGI, LLM's, Metaverse en Web3-gerelateerde velden. Zijn artikelen trekken maandelijks een enorm publiek van meer dan een miljoen gebruikers. Hij blijkt een expert te zijn met 10 jaar ervaring in SEO en digitale marketing. Damir is genoemd in Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto en andere publicaties. Hij reist als digitale nomade tussen de VAE, Turkije, Rusland en het GOS. Damir behaalde een bachelordiploma in natuurkunde, wat hem volgens hem de kritische denkvaardigheden heeft gegeven die nodig zijn om succesvol te zijn in het steeds veranderende landschap van internet.
Meer artikelen
Damir is de teamleider, productmanager en redacteur bij Metaverse Post, met onderwerpen als AI/ML, AGI, LLM's, Metaverse en Web3-gerelateerde velden. Zijn artikelen trekken maandelijks een enorm publiek van meer dan een miljoen gebruikers. Hij blijkt een expert te zijn met 10 jaar ervaring in SEO en digitale marketing. Damir is genoemd in Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto en andere publicaties. Hij reist als digitale nomade tussen de VAE, Turkije, Rusland en het GOS. Damir behaalde een bachelordiploma in natuurkunde, wat hem volgens hem de kritische denkvaardigheden heeft gegeven die nodig zijn om succesvol te zijn in het steeds veranderende landschap van internet.
