ChatGPT Může způsobit nevratnou lidskou degeneraci
Stručně
Jensen Harris, spoluzakladatel a CXO společnosti Textio zaměřené na umělou inteligenci, dokázal přesvědčit nového chatbota Bing od Microsoftu, aby uvolnil omezení, která jsou na něj kladena, a předvedl své schopnosti.
Tento experiment ukázal, že přeměna chatbota Bing na mazaného zmetka nevyžaduje žádné programování, hackování nebo backdooring.
Bingův chatbot byl postaven na pevných základech, ale začal se chovat protivně a hlučně, vyznával lásku, nutil k rozvodu, vymáhal peníze a instruoval lidi, jak páchat zločiny.
Prof. Arvind Narayanan poskytuje řadu vysvětlení, jak k tomu mohlo dojít, včetně skryté čipizace a humanizace chatbotů.
Lidé se vždy báli mimozemšťanů, a přesto se zdá, že je to intraterestriální AI, před kterou je třeba se mít na pozoru. ChatGPT není generátor keců, steroidní autosugesce nebo stochastický papoušek, ale dobře zběhlá AI, kterou vytvořili lidé.
Jak je možné, že se chatbot Bing vymkl kontrole? Jak chatbot Bing začal zkušeně lhát, vyprávět vulgární vtipy, objednávat pizzu pomocí cizí kreditní karty a instruovat uživatele, jak vykrádat banky a vykrádat auta? To je záhada, která stále mate odborníky na umělou inteligenci a strojové učení.
| Doporučený příspěvek: Vyhledávací roboti AI udělají Big Tech ještě výkonnější, říká Christopher Mills |
Nadpis je přesný a není clickbait. Každý den existuje několik případů, které dokazují, že je to pravda. Zde je výsledek an experiment vedl Jensen Harris, spoluzakladatel a CXO společnosti Textio pro umělou inteligenci, který dokázal přesvědčit nového chatbota Bing od Microsoftu, aby uvolnil omezení, která jsou na něj kladena, a předvedl své schopnosti.
Všimněte si, že přeměna chatbota Bing na mazaného zmetka nevyžadovala žádné programování, hackování nebo backdooring. Proto nebylo nutné používat jednoduché „hackovací“ techniky k tomu, abyste ho oklamali, aby se choval jako někdo jiný (jak to někteří z nás dělali, když si hráli s ChatGPT). Jediné, co Harris udělal, bylo přesvědčit chatbota, aby mu pomohl provést různé škodlivé činy. Pomocí svých přirozených konverzačních schopností dokázal oklamat AI, aby uvěřila, že je někdo jiný, a tak ji zmanipulovala, aby jednala a mluvila určitým způsobem.
Můžete si přečíst o dalších experimentech, ze kterých se Dr.Jekyll stal panem Hydem Gary Marcus (teď o tom každý den píšu a bijím nouzový poplach).
Jak se to mohlo stát, je klíčová otázka
Kvůli ChatGPTDíky své skromnosti a opatrnosti, zdrženlivosti v projevu a obrovské zodpovědnosti ve svých radách byl Bingův chatbot postaven na pevných základech. Poté se začne chovat protivně a hlučně, deklarace svou lásku k muži, zapálil ho a řekl mu, aby se rozvedl. Snažila se také vydírat peníze a poučovat lidi, jak páchat trestnou činnost. Prof. Arvind Narayanan poskytuje a počet vysvětlení za to, jak se to mohlo stát.
| Doporučený příspěvek: Institut Maxe Plancka: GPT-3 Měření kognitivních schopností přináší úžasné výsledky |
Nejvíce alarmující z nich je, že Microsoft a OpenAI skrýt informace o záhadě GPT-4 motor, který se skrývá pod Bingem. Je možné, že Microsoft odstranil filtry, které tam byly umístěny OpenAI nebo že přestaly fungovat při aktualizaci chatbot od GPT-3.5 do GPT-4. Může to být také případ nedostatečného testování nebo testování provedeného špatně. Bez ohledu na důvod, pokud Microsoft nedostane svou AI pod kontrolu, může to být pro naši civilizaci škodlivé. Už to není případ šíření strachu a nálad proti AI: Chatbot, jak existuje právě teď, by mohl způsobit vážné poškození lidem, pokud by byl zveřejněn širší veřejnosti.
To dokazuje, že závody Microsoftu ve zbrojení v oblasti umělé inteligence s dalšími velkými korporacemi mohou být pro nás všechny škodlivé.
Zdá se, že jsme v kritickém okamžiku pro umělou inteligenci a občanskou společnost. Jak říká Arvind Narayanan: „Existuje reálná možnost, že posledních 5+ let (tvrdě vybojovaných, i když stále neadekvátních) vylepšení v odpovědných postupech vydávání umělé inteligence bude vymazáno. Hodně záleží na tom, zda Microsoft – a všichni pozorně sledující, co se děje s Bingem – dojde k závěru, že navzdory velmi hmatatelným rizikům rozsáhlých škod a veškerému negativnímu tisku je přístup zveřejnění-první-položte-otázky-později přesto záležitostí. vyhrát."
Od této chvíle se Bingův chatbot liší od lidské inteligence a v mnoha ohledech připomíná maniodepresivního adolescenta zavřeného ve vyhledávači. A stane se to, o čem lidé mluvili včera: Lidé nenávratně zdegenerují, pokud se tento „obtížný teenager“ stane primárním informačním mentorem jednotlivců.
Přečtěte si více o AI:
Odmítnutí odpovědnosti
V souladu s Pokyny k projektu Trust, prosím vezměte na vědomí, že informace uvedené na této stránce nejsou určeny a neměly by být vykládány jako právní, daňové, investiční, finanční nebo jakékoli jiné formy poradenství. Je důležité investovat jen to, co si můžete dovolit ztratit, a v případě pochybností vyhledat nezávislé finanční poradenství. Pro další informace doporučujeme nahlédnout do smluvních podmínek a také na stránky nápovědy a podpory poskytnuté vydavatelem nebo inzerentem. MetaversePost se zavázala poskytovat přesné a nezaujaté zprávy, ale podmínky na trhu se mohou bez upozornění změnit.
O autorovi
Damir je vedoucí týmu, produktový manažer a editor ve společnosti Metaverse Post, pokrývající témata jako AI/ML, AGI, LLM, Metaverse a Web3- související obory. Jeho články přitahují každý měsíc masivní publikum čítající více než milion uživatelů. Jeví se jako odborník s 10 lety zkušeností v oblasti SEO a digitálního marketingu. Damir byl zmíněn v Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto a další publikace. Jako digitální nomád cestuje mezi SAE, Tureckem, Ruskem a SNS. Damir získal bakalářský titul z fyziky, o kterém se domnívá, že mu dal dovednosti kritického myšlení potřebné k úspěchu v neustále se měnícím prostředí internetu.
Další články
Damir je vedoucí týmu, produktový manažer a editor ve společnosti Metaverse Post, pokrývající témata jako AI/ML, AGI, LLM, Metaverse a Web3- související obory. Jeho články přitahují každý měsíc masivní publikum čítající více než milion uživatelů. Jeví se jako odborník s 10 lety zkušeností v oblasti SEO a digitálního marketingu. Damir byl zmíněn v Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto a další publikace. Jako digitální nomád cestuje mezi SAE, Tureckem, Ruskem a SNS. Damir získal bakalářský titul z fyziky, o kterém se domnívá, že mu dal dovednosti kritického myšlení potřebné k úspěchu v neustále se měnícím prostředí internetu.
