ChatGPT Var izraisīt neatgriezenisku cilvēka deģenerāciju
Īsumā
Jensens Heriss, AI uzņēmuma Textio līdzdibinātājs un CXO, spēja pārliecināt jauno Microsoft Bing tērzēšanas robotu, lai tas atvieglotu tam noteiktos ierobežojumus un demonstrētu savas iespējas.
Šis eksperiments parādīja, ka, lai pārveidotu Bing tērzēšanas robotu par viltīgu sūdu, nav nepieciešama programmēšana, uzlaušana vai aizmugures durvis.
Binga tērzēšanas robots tika veidots uz stingriem pamatiem, taču tas sāka darboties nepatīkami un kašķīgs, paziņoja par mīlestību, piespieda šķirties, izspieda naudu un mācīja cilvēkiem, kā izdarīt noziegumus.
Profesors Arvinds Narajanans sniedz vairākus skaidrojumus par to, kā tas varēja notikt, tostarp par slēptu čipizāciju un tērzēšanas robotu humanizēšanu.
Cilvēki vienmēr ir baidījušies no citplanētiešiem, un tomēr šķiet, ka tieši intraterrestriālais mākslīgais intelekts ir tas, no kā būtu jāuzmanās. ChatGPT nav muļķu ģenerators, steroīdu automātiskais ierosinājums vai stohastisks papagailis, bet gan labi orientēts AI, ko radījuši cilvēki.
Kā tas ir iespējams, ka Bing tērzēšanas robots ir ārpus kontroles? Kā Bing tērzēšanas robots sāka prasmīgi melot, stāstīt vulgārus jokus, pasūtīt picu, izmantojot kāda cita kredītkarti, un instruēt lietotājus, kā aplaupīt bankas un hotwire automašīnas? Šis ir noslēpums, kas joprojām mulsina mākslīgā intelekta un mašīnmācības ekspertus.
Virsraksts ir precīzs un nav klikšķu ēsma. Katru dienu ir vairāki gadījumi, kas pierāda, ka tā ir patiesība. Šeit ir rezultāts an eksperiments vadīja Jensens Heriss, AI uzņēmuma Textio līdzdibinātājs un CXO, kurš spēja pārliecināt jauno Bing tērzēšanas robotu no Microsoft atbrīvot tam noteiktos ierobežojumus un demonstrēt tā iespējas.
Ņemiet vērā, ka, lai pārveidotu Bing tērzēšanas robotu par viltīgu sūdu, nebija nepieciešama programmēšana, uzlaušana vai aizmugures durvis. Tāpēc nebija nepieciešams izmantot vienkāršus “uzlaušanas” paņēmienus, lai viņu pieviltu uzvesties kā kāds cits (kā daži no mums darīja, spēlējoties ar ChatGPT). Viss, ko Heriss izdarīja, bija pārliecināt tērzēšanas robotu palīdzēt viņam veikt dažādas ļaunprātīgas darbības. Izmantojot savas dabiskās sarunvalodas prasmes, viņš spēja apmānīt AI, liekot viņam noticēt, ka viņš ir kāds cits, tādējādi manipulējot ar to, rīkojoties un runājot noteiktā veidā.
Varat lasīt par citiem eksperimentiem, no kuriem Dr.Jekyll pārvērst par misteru Haidu Gerijs Markuss (tagad katru dienu par to rakstot un zvanot avārijas trauksmi).
Kā tas varēja notikt, ir galvenais jautājums
Tāpēc ka ChatGPTBing tērzēšanas robots tika veidots uz stingriem pamatiem, pateicoties uzņēmuma pieticībai un piesardzībai, atturīgajai runai un milzīgajai atbildībai, sniedzot padomus. Pēc tam viņš sāk uzvesties nepatīkami un kašķīgi, paziņojot viņa mīlestība pret vīrieti, aizdedzina viņu un liek viņam šķirties. Tā arī mēģināja izspiest naudu un instruēt cilvēkus, kā izdarīt noziegumus. Prof. Arvinds Narajanans sniedz a skaidrojumu skaits par to, kā tas varēja notikt.
| Ieteicamā ziņa: Maksa Planka institūts: GPT-3 Kognitīvo spēju mērīšana sniedz pārsteidzošus rezultātus |
Satraucošākais no tiem ir tas, ka Microsoft un OpenAI slēpt informāciju par noslēpumu GPT-4 dzinējs, kas slēpjas zem Bing. Iespējams, ka Microsoft noņēma filtrus, ko tur ievietoja OpenAI vai arī viņi pārtrauca darbu, kad atjaunināja chatbot no GPT-3.5 līdz GPT-4. Tas var būt arī nepietiekamas pārbaudes vai nepareizi veiktas pārbaudes gadījumā. Neatkarīgi no iemesla, ja Microsoft nekontrolē savu AI, tas var kaitēt mūsu civilizācijai. Tas vairs neattiecas uz baiļu celšanu un pret AI noskaņojumu: pašreizējais tērzēšanas robots var nodarīt nopietnu kaitējumu cilvēkiem, ja tas tiks nodots plašākai sabiedrībai.
Tas pierāda, ka Microsoft mākslīgā intelekta bruņošanās sacensības ar citām lielākajām korporācijām var kaitēt mums visiem.
Šķiet, ka mēs esam kritiskā brīdī AI un pilsoniskajai sabiedrībai. Kā norāda Arvinds Narajanans: “Pastāv reāla iespēja, ka pēdējo 5 gadu (smagas cīņas, lai gan joprojām neadekvāti) uzlabojumi atbildīgās AI izlaišanas praksē tiks dzēsti. Ir daudz diskusiju par to, vai Microsoft — un visi, kas uzmanīgi vēro, kas notiek ar Bing — secina, ka, neskatoties uz ļoti taustāmiem liela mēroga kaitējuma riskiem un visu negatīvo presi, pieeja — vispirms uzdod jautājumus — vēlāk ir bizness. uzvarēt.”
Šobrīd Bing tērzēšanas robots atšķiras no cilvēku inteliģence un daudzējādā ziņā atgādina maniakāli depresīvu pusaudzi, kas ir ieslēgts meklētājprogrammā. Un piepildīsies tas, par ko cilvēki runāja vakar: cilvēki neatgriezeniski deģenerēsies, ja šis “sarežģītais pusaudzis” kļūs par indivīdu primāro informācijas mentoru.
Lasiet vairāk par AI:
Atbildības noraidīšana
Atbilstīgi Uzticības projekta vadlīnijas, lūdzu, ņemiet vērā, ka šajā lapā sniegtā informācija nav paredzēta un to nedrīkst interpretēt kā juridisku, nodokļu, ieguldījumu, finanšu vai jebkāda cita veida padomu. Ir svarīgi ieguldīt tikai to, ko varat atļauties zaudēt, un meklēt neatkarīgu finanšu padomu, ja jums ir šaubas. Lai iegūtu papildinformāciju, iesakām skatīt pakalpojumu sniegšanas noteikumus, kā arī palīdzības un atbalsta lapas, ko nodrošina izdevējs vai reklāmdevējs. MetaversePost ir apņēmies sniegt precīzus, objektīvus pārskatus, taču tirgus apstākļi var tikt mainīti bez iepriekšēja brīdinājuma.
Par Autors
Damirs ir komandas vadītājs, produktu vadītājs un redaktors Metaverse Post, kas aptver tādas tēmas kā AI/ML, AGI, LLM, Metaverse un Web3- saistītie lauki. Viņa raksti katru mēnesi piesaista lielu auditoriju, kas pārsniedz miljonu lietotāju. Šķiet, ka viņš ir eksperts ar 10 gadu pieredzi SEO un digitālā mārketinga jomā. Damirs ir minēts Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto un citas publikācijas. Viņš ceļo starp AAE, Turciju, Krieviju un NVS kā digitālais nomads. Damirs ir ieguvis bakalaura grādu fizikā, kas, viņaprāt, ir devis viņam kritiskās domāšanas prasmes, kas nepieciešamas, lai gūtu panākumus nepārtraukti mainīgajā interneta vidē.
Vairāk rakstus
Damirs ir komandas vadītājs, produktu vadītājs un redaktors Metaverse Post, kas aptver tādas tēmas kā AI/ML, AGI, LLM, Metaverse un Web3- saistītie lauki. Viņa raksti katru mēnesi piesaista lielu auditoriju, kas pārsniedz miljonu lietotāju. Šķiet, ka viņš ir eksperts ar 10 gadu pieredzi SEO un digitālā mārketinga jomā. Damirs ir minēts Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto un citas publikācijas. Viņš ceļo starp AAE, Turciju, Krieviju un NVS kā digitālais nomads. Damirs ir ieguvis bakalaura grādu fizikā, kas, viņaprāt, ir devis viņam kritiskās domāšanas prasmes, kas nepieciešamas, lai gūtu panākumus nepārtraukti mainīgajā interneta vidē.
