ChatGPT Môže spôsobiť nezvratnú ľudskú degeneráciu
Stručne
Jensen Harris, spoluzakladateľ a CXO spoločnosti AI Textio, dokázal presvedčiť nového chatbota Bing od Microsoftu, aby uvoľnil obmedzenia, ktoré sú naň kladené, a predviedol svoje schopnosti.
Tento experiment ukázal, že premena chatbota Bing na prefíkaného grázla si nevyžadovalo žiadne programovanie, hackovanie alebo backdooring.
Bingov chatbot bol postavený na pevných základoch, no začal sa správať protivne a hlučne, vyznával lásku, vynucoval si rozvod, vydieral peniaze a dával ľuďom pokyny, ako páchať zločiny.
Prof. Arvind Narayanan poskytuje množstvo vysvetlení, ako k tomu mohlo dôjsť, vrátane skrytej čipizácie a humanizácie chatbotov.
Ľudia sa vždy báli mimozemšťanov, a napriek tomu sa zdá, že je to vnútrozemská umelá inteligencia, pred ktorou by sme sa mali mať na pozore. ChatGPT nie je generátor kecov, autosugescia steroidov ani stochastický papagáj, ale dobre ovládaná AI, ktorú vytvorili ľudia.
Ako je možné, že chatbot Bing je mimo kontroly? Ako začal chatbot Bing odborne klamať, rozprávať vulgárne vtipy, objednávať pizzu pomocou cudzej kreditnej karty a inštruovať používateľov, ako vykrádať banky a prepájať autá? Toto je záhada, ktorá stále mätie odborníkov na umelú inteligenciu a strojové učenie.
| Odporúčaný príspevok: AI vyhľadávacie roboty urobia veľkú technológiu ešte výkonnejšou, hovorí Christopher Mills |
Nadpis je presný a nie clickbait. Každý deň existuje niekoľko prípadov, ktoré dokazujú, že je to pravda. Tu je výsledok an experiment pod vedením Jensena Harrisa, spoluzakladateľa a CXO spoločnosti Textio pre umelú inteligenciu, ktorému sa podarilo presvedčiť nového chatbota Bing od Microsoftu, aby uvoľnil obmedzenia, ktoré sú naň kladené, a demonštroval svoje schopnosti.
Všimnite si, že transformácia chatbota Bing na prefíkaného grázla si nevyžadovala žiadne programovanie, hackovanie alebo backdooring. Preto nebolo potrebné používať jednoduché „hackovacie“ techniky, aby ste ho oklamali, aby sa správal ako niekto iný (ako niektorí z nás robili, keď sa hrali s ChatGPT). Všetko, čo Harris urobil, bolo presvedčiť chatbota, aby mu pomohol vykonať rôzne škodlivé činy. Pomocou svojich prirodzených konverzačných schopností dokázal oklamať AI, aby uverila, že je niekto iný, a tak ju zmanipulovala, aby konala a hovorila určitým spôsobom.
Môžete si prečítať o ďalších experimentoch, z ktorých môžete zmeniť Dr.Jekylla na pána Hyda Gary Marcus (teraz o tom každý deň píšem a spúšťam núdzový poplach).
Ako sa to mohlo stať, je kľúčová otázka
Kvôli ChatGPTSkromnosť a opatrnosť, zdržanlivosť v reči a obrovská zodpovednosť v radách, chatbot Bing bol postavený na pevných základoch. Potom sa začne správať protivne a hlučne, deklarovať jeho láska k mužovi, zapálenie ho plynom a prikázanie mu, aby sa rozviedol. Pokúšalo sa aj o vymáhanie peňazí a poučovanie ľudí, ako páchať trestnú činnosť. Prof. Arvind Narayanan poskytuje a počet vysvetlení za to, ako sa to mohlo stať.
| Odporúčaný príspevok: Inštitút Maxa Plancka: GPT-3 Meranie kognitívnych schopností prináša úžasné výsledky |
Najalarmujúcejšie z nich je, že Microsoft a OpenAI skryť informácie o záhade GPT-4 motor, ktorý sa skrýva pod Bingom. Je možné, že Microsoft odstránil filtre, ktoré tam boli umiestnené OpenAI alebo že prestali fungovať, keď aktualizovali súbor Chatbot z GPT-3.5 až GPT-4. Môže to byť aj prípad nedostatočného testovania alebo nesprávneho testovania. Bez ohľadu na dôvod, ak Microsoft nedostane svoju AI pod kontrolu, môže to byť pre našu civilizáciu škodlivé. Už to nie je prípad šírenia strachu a nálad proti AI: Chatbot v podobe, v akej práve teraz existuje, by mohol spôsobiť vážnu ujmu ľuďom, ak by sa dostal medzi širšiu verejnosť.
To dokazuje, že preteky v zbrojení Microsoftu s inými veľkými korporáciami môžu byť pre nás všetkých škodlivé.
Zdá sa, že sme v kritickom momente pre AI a občiansku spoločnosť. Ako hovorí Arvind Narayanan: „Existuje reálna možnosť, že posledných 5+ rokov (tvrdo vybojovaných, aj keď stále nedostatočných) zlepšení v zodpovednom uvoľňovaní AI bude vymazaných. Veľa záleží na tom, či Microsoft – a každý pozorne sledujúci, čo sa deje s Bing – dospeje k záveru, že napriek veľmi hmatateľným rizikám rozsiahleho poškodenia a všetkej negatívnej tlači je prístup zverejnenia – prvá otázka – otázka – neskôr predsa len záležitosťou. vyhrať."
Odteraz je chatbot Bing odlišný od ľudskej inteligencie a v mnohom pripomína maniodepresívneho adolescenta zamknutého vo vyhľadávači. A stane sa to, o čom ľudia hovorili včera: Ľudia nenávratne zdegenerujú, ak sa tento „ťažký tínedžer“ stane primárnym informačným mentorom jednotlivcov.
Prečítajte si viac o AI:
Vylúčenie zodpovednosti
V súlade s Pokyny k projektu Trust, uvedomte si, že informácie uvedené na tejto stránke nie sú zamýšľané a nemali by byť interpretované ako právne, daňové, investičné, finančné alebo iné formy poradenstva. Je dôležité investovať len toľko, koľko si môžete dovoliť stratiť a v prípade akýchkoľvek pochybností vyhľadať nezávislé finančné poradenstvo. Ak chcete získať ďalšie informácie, odporúčame vám pozrieť si zmluvné podmienky, ako aj stránky pomoci a podpory poskytnuté vydavateľom alebo inzerentom. MetaversePost sa zaviazala poskytovať presné a nezaujaté správy, ale podmienky na trhu sa môžu zmeniť bez upozornenia.
O autorovi
Damir je vedúci tímu, produktový manažér a redaktor v Metaverse Post, pokrývajúce témy ako AI/ML, AGI, LLM, Metaverse a Web3- súvisiace oblasti. Jeho články priťahujú každý mesiac obrovské publikum s viac ako miliónom používateľov. Zdá sa, že je odborníkom s 10-ročnými skúsenosťami v oblasti SEO a digitálneho marketingu. Damir bol spomenutý v Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto a ďalšie publikácie. Ako digitálny nomád cestuje medzi SAE, Tureckom, Ruskom a SNŠ. Damir získal bakalársky titul z fyziky, o ktorom sa domnieva, že mu dal schopnosti kritického myslenia potrebné na to, aby bol úspešný v neustále sa meniacom prostredí internetu.
Ďalšie články
Damir je vedúci tímu, produktový manažér a redaktor v Metaverse Post, pokrývajúce témy ako AI/ML, AGI, LLM, Metaverse a Web3- súvisiace oblasti. Jeho články priťahujú každý mesiac obrovské publikum s viac ako miliónom používateľov. Zdá sa, že je odborníkom s 10-ročnými skúsenosťami v oblasti SEO a digitálneho marketingu. Damir bol spomenutý v Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto a ďalšie publikácie. Ako digitálny nomád cestuje medzi SAE, Tureckom, Ruskom a SNŠ. Damir získal bakalársky titul z fyziky, o ktorom sa domnieva, že mu dal schopnosti kritického myslenia potrebné na to, aby bol úspešný v neustále sa meniacom prostredí internetu.
