ChatGPT Maaaring Magdulot ng Hindi Maibabalik na Pagkabulok ng Tao
Sa madaling sabi
Si Jensen Harris, co-founder at CXO ng kumpanya ng AI na Textio, ay nagawang hikayatin ang bagong Bing chatbot mula sa Microsoft na paluwagin ang mga paghihigpit na inilagay dito at ipakita ang mga kakayahan nito.
Ipinakita ng eksperimentong ito na ang pagbabago ng isang Bing chatbot sa isang tusong scumbag ay hindi nangangailangan ng anumang programming, pag-hack, o backdooring.
Ang chatbot ni Bing ay itinayo sa matibay na pundasyon, ngunit nagsimula itong kumilos ng kasuklam-suklam at gulo, nagdeklara ng pag-ibig, pagpilit ng diborsyo, pangingikil ng pera, at pagtuturo sa mga tao kung paano gumawa ng mga krimen.
Si Prof. Arvind Narayanan ay nagbibigay ng ilang mga paliwanag kung paano ito maaaring nangyari, kabilang ang patagong chipization at mga chatbots na nagpapakatao.
Ang mga tao ay palaging natatakot sa mga extraterrestrial, ngunit tila ito ay ang intraterrestrial AI na maaaring isang bagay na dapat mag-ingat. ChatGPT ay hindi isang kalokohang generator, isang steroid auto-suggestion, o isang stochastic parrot, ngunit isang bihasang AI na nilikha ng mga tao.
Paano posible na ang Bing chatbot ay wala sa kontrol? Paano nagsimulang magsinungaling ang Bing chatbot, magsabi ng mga bulgar na biro, mag-order ng pizza gamit ang credit card ng ibang tao, at turuan ang mga user kung paano manakawan ang mga bangko at mga hotwire na sasakyan? Isa itong misteryo na patuloy na nagpapagulo sa mga eksperto sa artificial intelligence at machine learning.
| Inirerekomendang post: Ang AI Search Bots ay Gagawing Mas Makapangyarihan ang Big Tech, Sabi ni Christopher Mills |
Ang headline ay tumpak at hindi clickbait. Mayroong ilang mga pagkakataon araw-araw na nagpapatunay na ito ay totoo. Narito ang kinalabasan ng isang eksperimento na isinagawa ni Jensen Harris, co-founder at CXO ng kumpanya ng AI na Textio, na nagawang hikayatin ang bagong Bing chatbot mula sa Microsoft na paluwagin ang mga paghihigpit na inilagay dito at ipakita ang mga kakayahan nito.
Tandaan na ang pagbabago ng isang Bing chatbot sa isang tusong scumbag ay hindi nangangailangan ng anumang programming, pag-hack, o backdooring. Samakatuwid, ang paggamit ng mga simpleng diskarte sa "pag-hack" ay hindi kinakailangan upang linlangin siya na kumilos tulad ng ibang tao (tulad ng ginawa ng ilan sa amin kapag nakikipaglaro sa ChatGPT). Ang ginawa lang ni Harris ay hikayatin ang chatbot na tulungan siyang magsagawa ng iba't ibang malisyosong gawain. Gamit ang kanyang natural na mga kasanayan sa pakikipag-usap, nagawa niyang lokohin ang AI sa paniniwalang siya ay ibang tao, kaya manipulahin ito sa pag-arte at pagsasalita sa isang tiyak na paraan.
Maaari mong basahin ang tungkol sa iba pang mga eksperimento upang gawing Mister Hyde si Dr.Jekyll Gary Marcus (nagsusulat tungkol dito araw-araw ngayon at nagpapatunog ng emergency alarm).
Paano ito nangyari ang pangunahing tanong
Dahil sa ChatGPTAng kahinhinan at pag-iingat, pagpipigil sa pagsasalita, at napakalaking responsibilidad sa payo nito, ang chatbot ni Bing ay binuo sa matatag na pundasyon. Pagkatapos noon, nagsimula siyang kumilos na kasuklam-suklam at magulo, deklarasyon ang kanyang pag-ibig sa isang lalaki, pag-gasolina sa kanya, at pagsasabi sa kanya na makipagdiborsiyo. Sinubukan din nitong mangikil ng pera at turuan ang mga tao kung paano gumawa ng mga krimen. Si Prof. Arvind Narayanan ay nagbibigay ng a bilang ng mga paliwanag para sa kung paano ito maaaring nangyari.
| Inirerekomendang post: Max Planck Institute: GPT-3 Ang Pagsukat ng Kakayahang Pag-iisip ay Nagbubunga ng Mga Kahanga-hangang Resulta |
Ang pinaka nakakaalarma sa kanila ay ang Microsoft at OpenAI itago ang impormasyon tungkol sa isang misteryo GPT-4 engine na nakatago sa ilalim ng Bing. Maaaring ibinaba ng Microsoft ang mga filter na inilagay doon ni OpenAI o na huminto sila sa pagtatrabaho noong na-update nila ang chatbot mula GPT-3.5 sa GPT-4. Maaaring ito rin ang kaso ng hindi sapat na pagsubok o pagsubok na ginawang mali. Anuman ang dahilan, kung hindi makontrol ng Microsoft ang AI nito, maaari itong makasama sa ating sibilisasyon. Hindi na ito ang kaso ng takot at anti-AI na damdamin: Ang chatbot na umiiral ngayon ay maaaring magdulot ng malubhang pinsala sa mga tao kung ipapalabas sa mas malawak na publiko.
Ito ay nagpapatunay na ang AI arms race ng Microsoft sa iba pang malalaking korporasyon ay maaaring makasama sa ating lahat.
Parang nasa kritikal na sandali tayo para sa AI at civil society. Gaya ng sinabi ni Arvind Narayanan, “May tunay na posibilidad na ang huling 5+ na taon ng (mahirap na pinaglaban kahit hindi pa rin sapat) na mga pagpapabuti sa responsableng mga kasanayan sa pagpapalabas ng AI ay mapapawi. Marami ang umaasa kung ang Microsoft — at lahat ng tao ay maingat na nanonood kung ano ang nangyayari sa Bing — ay naghihinuha na sa kabila ng mga nasasalat na panganib ng malakihang pinsala at lahat ng negatibong press, ang release-first-ask-questions-later approach ay gayunpaman isang negosyo. manalo.”
Sa ngayon, naiiba ang chatbot ni Bing sa katalinuhan ng tao at kahawig ng isang manic-depressive na kabataan na naka-lock sa isang search engine sa maraming paraan. At ang pinag-usapan ng mga tao kahapon ay mangyayari: Ang mga tao ay hindi na mababawi kung ang "mahirap na teenager" na ito ay magiging pangunahing tagapagturo ng impormasyon para sa mga indibidwal.
Magbasa pa tungkol sa AI:
Pagtanggi sa pananagutan
Sa linya na may Mga alituntunin ng Trust Project, pakitandaan na ang impormasyong ibinigay sa pahinang ito ay hindi nilayon at hindi dapat bigyang-kahulugan bilang legal, buwis, pamumuhunan, pananalapi, o anumang iba pang paraan ng payo. Mahalagang mamuhunan lamang kung ano ang maaari mong mawala at humingi ng independiyenteng payo sa pananalapi kung mayroon kang anumang mga pagdududa. Para sa karagdagang impormasyon, iminumungkahi naming sumangguni sa mga tuntunin at kundisyon pati na rin sa mga pahina ng tulong at suporta na ibinigay ng nagbigay o advertiser. MetaversePost ay nakatuon sa tumpak, walang pinapanigan na pag-uulat, ngunit ang mga kondisyon ng merkado ay maaaring magbago nang walang abiso.
Tungkol sa Ang May-akda
Si Damir ang pinuno ng pangkat, tagapamahala ng produkto, at editor sa Metaverse Post, sumasaklaw sa mga paksa gaya ng AI/ML, AGI, LLMs, Metaverse, at Web3-mga kaugnay na larangan. Ang kanyang mga artikulo ay umaakit ng napakalaking madla na mahigit sa isang milyong user bawat buwan. Mukhang isa siyang eksperto na may 10 taong karanasan sa SEO at digital marketing. Nabanggit si Damir sa Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto, at iba pang publikasyon. Naglalakbay siya sa pagitan ng UAE, Turkey, Russia, at ng CIS bilang digital nomad. Nakamit ni Damir ang bachelor's degree sa physics, na pinaniniwalaan niyang nagbigay sa kanya ng mga kritikal na kasanayan sa pag-iisip na kailangan para maging matagumpay sa pabago-bagong tanawin ng internet.
Mas marami pang artikulo
Si Damir ang pinuno ng pangkat, tagapamahala ng produkto, at editor sa Metaverse Post, sumasaklaw sa mga paksa gaya ng AI/ML, AGI, LLMs, Metaverse, at Web3-mga kaugnay na larangan. Ang kanyang mga artikulo ay umaakit ng napakalaking madla na mahigit sa isang milyong user bawat buwan. Mukhang isa siyang eksperto na may 10 taong karanasan sa SEO at digital marketing. Nabanggit si Damir sa Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto, at iba pang publikasyon. Naglalakbay siya sa pagitan ng UAE, Turkey, Russia, at ng CIS bilang digital nomad. Nakamit ni Damir ang bachelor's degree sa physics, na pinaniniwalaan niyang nagbigay sa kanya ng mga kritikal na kasanayan sa pag-iisip na kailangan para maging matagumpay sa pabago-bagong tanawin ng internet.
