05 april 2023

6-månaders paus i AI-träning är en bra idé, men det kanske inte räcker

Publicerad: 05 april 2023 kl. 7 Uppdaterad: 59 april 05 kl. 2023

I korthet

Berättelsen om petitionen och frigivningen av Yudkovskys artikel har polariserat samhället.

Fångens dilemma och spelteori tyder på att det behövs en kritisk massa av sansade människor på olika platser för att sådana problem ska kunna lösas.

Det finns dock några men till denna idé, såsom bristen på medvetenhet, vilja och handlingskraft i digital evolution.

Historien om petition att sluta utveckla AI-system mer avancerade än GPT-4 har märkbart polariserat samhället. Utgivningen av Yudkovskys Artikeln ber om att stänga av vidareutveckling av GPT modeller satte bränsle på elden, särskilt hans passager om bombningen av datacenter.

6-månaders paus för träning Ai är bra, men inte tillräckligt

Av vad som kan observeras online verkar det finnas mycket färre anhängare av petitionen än motståndare, som har tre huvudargument:

1	– Framsteg kan inte stoppas. – Petitionen uppfanns av OpenAI konkurrenter. – Kina väntar inte.
2	– Man ska inte vara rädd för AI utan för människor. - GPT har inget medvetande, vilja, strävanden eller handlingskraft, så det finns inget att frukta. - GPT-4 är vansinnigt långt ifrån att förslava världen för att den inte förstår någonting, gör fåniga misstag och är i allmänhet ganska dum. - GPT-4 kommer inte att kunna styra världen eftersom den inte har armar/ben.
3	– Den tredje gruppen förstår inte hur GPT-4 verkar i första hand.

Vi kommer inte att koncentrera oss på det tredje gänget eftersom deras ställning kommer från okunnighet. Därmed inte sagt att alla AI-motståndare vet allt om AI; du kan hitta massor av anti-AI-människor som saknar förståelse för tekniken och vad den innebär, även om Yudkovsky själv är mycket djupare in i ämnet AI, så han kan inte anklagas för okunskap.

Låt oss ta en titt på den första gruppen människor – de som tror att framsteg inte kan stoppas. De erbjuder olika men ändå likartade argument, och totalt sett förnekar dessa människor inte AI:s kapacitet och de framtidsutsikter som dess antagande ger och tror att AI-utvecklingen kommer att fortsätta oavsett vad.

Den första tesen om ostoppbara framsteg är en slogan som inte behöver vara sann. Folk verkar ha stoppat vissa vetenskapliga experiment, och många en gång accepterade forskningsprojekt anses inte längre vara etiska, och liknande skulle aldrig tillåtas idag. Men hur mycket mer framsteg i det förflutna stoppades av inkvisitionen och annan religiös förföljelse, bokförbud och mord på vetenskapsmän i Kina (och andra länder)? Det är något vi aldrig kommer att kunna förstå fullt ut på grund av överlevnadsfördomen.

Andra teser involverar ett tillvägagångssätt som kan sammanfattas som "om inte vi, kommer det att vara dem." Även om denna tankegång kan vara mer förståelig, verkar det inte heller vara den rätta lösningen. Det är väldigt likt fångens dilemma i spelteorin.

Den andra gruppen av argument är den mest intressanta. Även om jag personligen håller med om det till viss del, finns det några men som måste åtgärdas. Ja, AI har inget medvetande, vilja, byrå etc. Inte heller covid-19, och ändå orsakade det förödelse över hela världen. Något behöver inte ha en känsla av handlingskraft och medvetenhet för att bli farligt; ett scenario att livet på jorden utplånas på grund av ett virus är inte otänkbart. När sitt jobb är gjort kan den ställa stolarna på borden, släcka lamporna och lämna för alltid.

För att fortsätta med den biologiska analogin finns det en underbar artikel, "The Surprising Creativity of Digital Evolution: A Collection of Anecdotes from the Evolutionary Computation and Artificial Life Research Communities", som ger många exempel på när processer går i en oväntad riktning. Även utan en evolutionär process kan allt gå in i fel generalisering "Målfelgeneralisering: Varför korrekta specifikationer inte är tillräckligt för korrekta mål." Att ge fria händer till en optimeringsprocess kan gå fel diskuteras i "Risker från inlärd optimering i avancerade maskininlärningssystem. "

Samtidigt tar vi generellt inte hänsyn till riskerna med skadlig användning av AI och någon missbruka, vilket bara matar argumentet att vi måste vara rädda för människor och inte AI själv. Men sanningen är att AI kan vara dåligt även utan illvilliga människor.

Jag håller också med om att modellen gör dumma misstag, men det gör människor också, och ändå vet vi att de kan göra skada. Även om modeller gör många misstag, kan de också lösa många fantastiska, coola och komplexa problem som en vanlig person inte kan lösa. Från det ökända verket "Sparks of Artificial General Intelligence: Early Experiments with GPT-4” Jag slogs av att AI kunde lösa, om än inte alltid korrekt, Fermi-problem, ganska komplexa matematiska problem. Dess teori om sinne och "liksom förmågan att förstå" andras handlingar är också mycket imponerande. Alla dessa saker pekar mot AI:s intelligens; existerande, men inte riktigt som vår.

Att eliminera åtminstone några av de misstag AI-modeller gör är i allmänhet genomförbart, så deras intelligens kanske bara växer. Allt du behöver göra är att lägga till en modul för korrekta beräkningar, en faktabas och validering med en annan modell.

Det viktigaste i hela den här historien är hastigheten på AI:s utveckling. GPT modeller har växt enormt i en svindlande takt. Nu finns det ChatGPT insticksmoduler tillgänglig, kan du använda GPT modeller för att skriva kod, API:er är tillgängliga för den stora allmänheten, och du kan använda externa verktyg utan föregående utbildning.

GPT-4, naturligtvis, kommer inte att erövra världen, men det kan skaka ekonomin mycket. GPT-5, och den framtida iterationen av modellen, kanske inte ligger särskilt långt fram och kommer sannolikt att komma med mycket starkare förmågor. Och låt oss inse det, vi kan inte hoppas på att förstå de ännu inte existerande modellerna; vi har inte ens kommit i närheten av att förstå de modeller som redan finns. I den meningen kan ett sex månaders uppehåll vara en bra idé, men det kanske helt enkelt inte räcker.

Och med tanke på att AI-lopp har börjat, det finns ingen tid att lära sig.

I allmänhet, med tanke på allt detta, undertecknade jag också uppropet. Fast jag tror inte att det kommer att hjälpa på något sätt.

Läs mer relaterade ämnen:

Taggar:

Villkor

I linje med den Riktlinjer för Trust Project, vänligen notera att informationen på den här sidan inte är avsedd att vara och inte ska tolkas som juridisk, skattemässig, investerings-, finansiell eller någon annan form av rådgivning. Det är viktigt att bara investera det du har råd att förlora och att söka oberoende finansiell rådgivning om du har några tvivel. För ytterligare information föreslår vi att du hänvisar till villkoren samt hjälp- och supportsidorna som tillhandahålls av utfärdaren eller annonsören. MetaversePost är engagerad i korrekt, opartisk rapportering, men marknadsförhållandena kan ändras utan föregående meddelande.

Om författaren

Damir är teamledare, produktchef och redaktör på Metaverse Post, som täcker ämnen som AI/ML, AGI, LLMs, Metaverse och Web3-relaterade områden. Hans artiklar lockar en massiv publik på över en miljon användare varje månad. Han verkar vara en expert med 10 års erfarenhet av SEO och digital marknadsföring. Damir har nämnts i Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto och andra publikationer. Han reser mellan Förenade Arabemiraten, Turkiet, Ryssland och OSS som en digital nomad. Damir tog en kandidatexamen i fysik, som han tror har gett honom de kritiska tänkande färdigheter som behövs för att bli framgångsrik i det ständigt föränderliga landskapet på internet.

fler artiklar

Damir Yalalov