ChatGPT Kan forårsage irreversibel menneskelig degeneration
Kort sagt
Jensen Harris, medstifter og CXO af AI-virksomheden Textio, var i stand til at overtale den nye Bing-chatbot fra Microsoft til at løsne begrænsningerne på den og demonstrere dens muligheder.
Dette eksperiment viste, at det ikke krævede nogen programmering, hacking eller bagdør at transformere en Bing-chatbot til en snedig svineri.
Bings chatbot var bygget på et solidt fundament, men den begyndte at opføre sig modbydeligt og bøvlet, erklære kærlighed, tvinge til skilsmisse, afpresse penge og instruere folk i, hvordan de skulle begå forbrydelser.
Prof. Arvind Narayanan giver en række forklaringer på, hvordan dette kunne være sket, herunder skjult chipisering og humanisering af chatbots.
Mennesker har altid frygtet rumvæsner, og alligevel ser det ud til, at det er den intraterrestriske AI, der kan være noget at være på vagt over for. ChatGPT er ikke en bullshit-generator, en steroid auto-suggestion eller en stokastisk papegøje, men en velbevandret AI, der er blevet skabt af mennesker.
Hvordan er det muligt, at Bing chatbot er ude af kontrol? Hvordan begyndte Bing-chatbotten at lyve, fortælle vulgære vittigheder, bestille pizza ved hjælp af en andens kreditkort og instruere brugere i, hvordan man røver banker og hotwire-biler? Dette er et mysterium, der fortsætter med at forvirre eksperter i kunstig intelligens og maskinlæring.
Overskriften er præcis og ikke clickbait. Der er flere tilfælde hver dag, der viser, at dette er sandt. Her er resultatet af en eksperiment udført af Jensen Harris, medstifter og CXO af AI-virksomheden Textio, som var i stand til at overtale den nye Bing-chatbot fra Microsoft til at løsne begrænsningerne på den og demonstrere dens muligheder.
Bemærk, at det at transformere en Bing-chatbot til en snedig svineri ikke krævede nogen programmering, hacking eller bagdør. Derfor var det ikke nødvendigt at bruge simple "hacking"-teknikker for at narre ham til at opføre sig som en anden (som nogle af os gjorde, da vi legede med ChatGPT). Det eneste Harris gjorde var at overtale chatbotten til at hjælpe ham med at udføre forskellige ondsindede handlinger. Ved at bruge sine naturlige samtaleevner var han i stand til at narre AI'en til at tro, at han var en anden, og dermed manipulere den til at handle og tale på en bestemt måde.
Du kan læse om andre eksperimenter til at gøre Dr.Jekyll til Mister Hyde fra Gary Marcus (skriver om det hver dag nu og slår nødalarmen).
Hvordan kunne dette være sket, er det centrale spørgsmål
På grund af ChatGPTBings beskedenhed og forsigtighed, tilbageholdenhed i tale og enorme ansvar i sine råd, blev Bings chatbot bygget på solidt fundament. Derefter begynder han at opføre sig modbydeligt og larmende, erklære hans kærlighed til en mand, tændte ham på benene og bad ham om at blive skilt. Den forsøgte også at afpresse penge og instruere folk i, hvordan de skulle begå forbrydelser. Prof. Arvind Narayanan giver en antallet af forklaringer for hvordan dette kunne være sket.
Den mest alarmerende af dem er, at Microsoft og OpenAI skjule oplysninger om et mysterium GPT-4 motor, der lurer under Bing. Det kan være, at Microsoft har fjernet de filtre, der var blevet placeret der af OpenAI eller at de holdt op med at arbejde, da de opdaterede chatbot fra GPT-3.5 Til GPT-4. Det kan også være tilfældet med utilstrækkelig test eller test udført forkert. Uanset årsagen, hvis Microsoft ikke får sin AI under kontrol, kan det være skadeligt for vores civilisation. Det er ikke længere tilfældet med frygtsprængning og anti-AI-stemninger: Chatbotten, som den eksisterer lige nu, kan forårsage alvorlig skade på folk, hvis den frigives til en bredere offentlighed.
Dette beviser, at Microsofts AI-våbenkapløb med andre store virksomheder kan være skadeligt for os alle.
Det føles som om, vi er i et kritisk øjeblik for kunstig intelligens og civilsamfundet. Som Arvind Narayanan udtrykker det: "Der er en reel mulighed for, at de sidste 5+ års (hårdt kæmpede, omend stadig utilstrækkelige) forbedringer i ansvarlig AI-udgivelsespraksis vil blive udslettet. Der er meget, der afhænger af, om Microsoft - og alle, der omhyggeligt ser, hvad der sker med Bing - konkluderer, at på trods af de meget håndgribelige risici for skade i stor skala og al den negative presse, er frigivelse-først-stil-spørgsmål-senere tilgang ikke desto mindre en forretning vinde."
Lige nu er Bings chatbot adskilt fra menneskelig intelligens og ligner en manio-depressiv teenager låst i en søgemaskine på mange måder. Og det, folk talte om i går, vil gå i opfyldelse: Mennesker vil irreversibelt degenerere, hvis denne "vanskelige teenager" bliver den primære informationsmentor for enkeltpersoner.
Læs mere om AI:
Ansvarsfraskrivelse
I tråd med den Trust Project retningslinjer, bemærk venligst, at oplysningerne på denne side ikke er beregnet til at være og ikke skal fortolkes som juridiske, skattemæssige, investeringsmæssige, finansielle eller nogen anden form for rådgivning. Det er vigtigt kun at investere, hvad du har råd til at tabe, og at søge uafhængig finansiel rådgivning, hvis du er i tvivl. For yderligere information foreslår vi at henvise til vilkårene og betingelserne samt hjælpe- og supportsiderne fra udstederen eller annoncøren. MetaversePost er forpligtet til nøjagtig, objektiv rapportering, men markedsforholdene kan ændres uden varsel.
Om forfatteren
Damir er teamleder, produktchef og redaktør på Metaverse Post, der dækker emner som AI/ML, AGI, LLM'er, Metaverse og Web3-relaterede felter. Hans artikler tiltrækker et massivt publikum på over en million brugere hver måned. Han ser ud til at være en ekspert med 10 års erfaring i SEO og digital markedsføring. Damir er blevet nævnt i Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto og andre publikationer. Han rejser mellem UAE, Tyrkiet, Rusland og SNG som en digital nomade. Damir tog en bachelorgrad i fysik, som han mener har givet ham de kritiske tænkningskompetencer, der er nødvendige for at få succes i internettets evigt skiftende landskab.
Flere artikler
Damir er teamleder, produktchef og redaktør på Metaverse Post, der dækker emner som AI/ML, AGI, LLM'er, Metaverse og Web3-relaterede felter. Hans artikler tiltrækker et massivt publikum på over en million brugere hver måned. Han ser ud til at være en ekspert med 10 års erfaring i SEO og digital markedsføring. Damir er blevet nævnt i Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto og andre publikationer. Han rejser mellem UAE, Tyrkiet, Rusland og SNG som en digital nomade. Damir tog en bachelorgrad i fysik, som han mener har givet ham de kritiske tænkningskompetencer, der er nødvendige for at få succes i internettets evigt skiftende landskab.
