ChatGPT Kan orsaka irreversibel mänsklig degeneration
I korthet
Jensen Harris, medgrundare och CXO av AI-företaget Textio, kunde övertala den nya Bing-chatboten från Microsoft att lossa på restriktionerna för den och demonstrera dess kapacitet.
Detta experiment visade att förvandling av en Bing-chatbot till en listig skurk inte krävde någon programmering, hacking eller bakdörr.
Bings chatbot byggdes på en solid grund, men den började agera motbjudande och bråkig, förklara kärlek, tvingade fram en skilsmässa, utpressa pengar och instruerade människor hur de skulle begå brott.
Prof. Arvind Narayanan ger ett antal förklaringar till hur detta kan ha inträffat, inklusive hemlig chipisering och humanisering av chatbots.
Människor har alltid fruktat utomjordingar, och ändå verkar det vara den inomjordiska AI som kan vara något att vara försiktig med. ChatGPT är inte en bullshitgenerator, en steroidauto-suggestion eller en stokastisk papegoja, utan en väl bevandrad AI som har skapats av människor.
Hur är det möjligt att Bing chatbot är utom kontroll? Hur började Bing-chatboten att sakkunnigt ljuga, berätta vulgära skämt, beställa pizza med någon annans kreditkort och instruera användare om hur man rånar banker och hotwire-bilar? Detta är ett mysterium som fortsätter att förbrylla experter inom artificiell intelligens och maskininlärning.
| Rekommenderat inlägg: AI Search Bots kommer att göra Big Tech ännu mer kraftfull, säger Christopher Mills |
Rubriken är korrekt och inte clickbait. Det finns flera fall varje dag som visar att detta är sant. Här är resultatet av en experimentera utförd av Jensen Harris, medgrundare och CXO av AI-företaget Textio, som kunde övertala den nya Bing-chatboten från Microsoft att lossa på restriktionerna för den och demonstrera dess kapacitet.
Observera att det inte krävdes någon programmering, hacking eller bakdörr att förvandla en Bing-chatbot till en listig skurk. Därför var det inte nödvändigt att använda enkla "hacking"-tekniker för att lura honom att agera som någon annan (som några av oss gjorde när vi lekte med ChatGPT). Allt Harris gjorde var att övertala chatboten att hjälpa honom utföra olika illvilliga handlingar. Genom att använda sina naturliga konversationsförmåga kunde han lura AI:n att tro att han var någon annan och på så sätt manipulera den till att agera och tala på ett visst sätt.
Du kan läsa om andra experiment att förvandla Dr.Jekyll till Mister Hyde från Gary Marcus (skriver om det varje dag nu och slår nödlarm).
Hur kunde detta ha hänt är nyckelfrågan
Därför att ChatGPTBings blygsamhet och försiktighet, återhållsamhet i tal och enorma ansvar i sina råd byggdes Bings chatbot på en solid grund. Därefter börjar han bete sig motbjudande och bråkig, förklara hans kärlek till en man, tände gas på honom och sa åt honom att skilja sig. Man försökte också utpressa pengar och instruera människor om hur de skulle begå brott. Prof. Arvind Narayanan ger en antal förklaringar för hur detta kan ha gått till.
| Rekommenderat inlägg: Max Planck Institute: GPT-3 Kognitiv förmågasmätning ger häpnadsväckande resultat |
Det mest alarmerande av dem är att Microsoft och OpenAI dölja information om ett mysterium GPT-4 motor som lurar under Bing. Det kan vara så att Microsoft tog ner filtren som hade placerats där av OpenAI eller att de slutade fungera när de uppdaterade chatbot från GPT-3.5 till GPT-4. Det kan också vara fallet med otillräcklig testning eller testning gjord fel. Oavsett anledning, om Microsoft inte får sin AI under kontroll, kan det vara skadligt för vår civilisation. Det är inte längre fallet med rädsla och anti-AI-sentiment: Chatboten som den finns just nu kan orsaka allvarlig skada på människor om den släpps till en bredare publik.
Detta bevisar att Microsofts kapprustning med AI med andra stora företag kan vara skadligt för oss alla.
Det känns som att vi befinner oss i ett kritiskt ögonblick för AI och civilsamhället. Som Arvind Narayanan uttrycker det, "Det finns en verklig möjlighet att de senaste 5+ åren av (hårt kämpat om än fortfarande otillräckliga) förbättringar av ansvarsfulla AI-utgivningsmetoder kommer att utplånas. Det är mycket som beror på huruvida Microsoft – och alla som försiktigt tittar på vad som händer med Bing – drar slutsatsen att trots de mycket påtagliga riskerna för storskaliga skador och all negativ press, så är tillvägagångssättet för release-först-ställ-frågor-senare ändå ett företag vinna."
Från och med nu är Bings chatbot skild från mänsklig intelligens och liknar en manodepressiv tonåring inlåst i en sökmotor på många sätt. Och det som folk pratade om igår kommer att ske: Människor kommer oåterkalleligt degenerera om denna "svåra tonåring" blir den primära informationsmentorn för individer.
Läs mer om AI:
Villkor
I linje med den Riktlinjer för Trust Project, vänligen notera att informationen på den här sidan inte är avsedd att vara och inte ska tolkas som juridisk, skattemässig, investerings-, finansiell eller någon annan form av rådgivning. Det är viktigt att bara investera det du har råd att förlora och att söka oberoende finansiell rådgivning om du har några tvivel. För ytterligare information föreslår vi att du hänvisar till villkoren samt hjälp- och supportsidorna som tillhandahålls av utfärdaren eller annonsören. MetaversePost är engagerad i korrekt, opartisk rapportering, men marknadsförhållandena kan ändras utan föregående meddelande.
Om författaren
Damir är teamledare, produktchef och redaktör på Metaverse Post, som täcker ämnen som AI/ML, AGI, LLMs, Metaverse och Web3-relaterade områden. Hans artiklar lockar en massiv publik på över en miljon användare varje månad. Han verkar vara en expert med 10 års erfarenhet av SEO och digital marknadsföring. Damir har nämnts i Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto och andra publikationer. Han reser mellan Förenade Arabemiraten, Turkiet, Ryssland och OSS som en digital nomad. Damir tog en kandidatexamen i fysik, som han tror har gett honom de kritiska tänkande färdigheter som behövs för att bli framgångsrik i det ständigt föränderliga landskapet på internet.
fler artiklar
Damir är teamledare, produktchef och redaktör på Metaverse Post, som täcker ämnen som AI/ML, AGI, LLMs, Metaverse och Web3-relaterade områden. Hans artiklar lockar en massiv publik på över en miljon användare varje månad. Han verkar vara en expert med 10 års erfarenhet av SEO och digital marknadsföring. Damir har nämnts i Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto och andra publikationer. Han reser mellan Förenade Arabemiraten, Turkiet, Ryssland och OSS som en digital nomad. Damir tog en kandidatexamen i fysik, som han tror har gett honom de kritiska tänkande färdigheter som behövs för att bli framgångsrik i det ständigt föränderliga landskapet på internet.
