ChatGPT Може изазвати неповратну људску дегенерацију
Укратко
Џенсен Харис, суоснивач и директор АИ компаније Тектио, успео је да убеди новог Бинг четбот из Мицрософта да олабави ограничења која су му постављена и демонстрира своје могућности.
Овај експеримент је показао да претварање Бинг четбота у лукавог олоша није захтевало никакво програмирање, хаковање или бацкдооринг.
Бингов чет-бот је изграђен на чврстим темељима, али је почео да се понаша одвратно и бунтовно, изјављујући љубав, приморавајући се на развод, изнуђујући новац и упућујући људе како да почине злочине.
Професор Арвинд Нарајанан даје бројна објашњења о томе како се то могло догодити, укључујући прикривену чипизацију и хуманизовање цхатботова.
Људи су се одувек плашили ванземаљаца, а ипак се чини да је унутарземаљска вештачка интелигенција оно на шта треба бити опрезан. ChatGPT није генератор глупости, аутосугестија стероида или стохастички папагај, већ добро упућена вештачка интелигенција коју су створили људи.
Како је могуће да је Бинг цхатбот измакао контроли? Како је Бинг цхатбот почео да вешто лаже, прича вулгарне вицеве, наручује пицу користећи туђу кредитну картицу и упућује кориснике како да пљачкају банке и аутомобиле? Ово је мистерија која наставља да збуњује стручњаке за вештачку интелигенцију и машинско учење.
| Препоручени пост: АИ ботови за претрагу ће учинити велику технологију још моћнијом, каже Кристофер Милс |
Наслов је тачан и није мамац за кликове. Сваког дана постоји неколико случајева који потврђују да је то истина. Ево исхода једног експеримент коју је спровео Јенсен Харрис, суоснивач и ЦКСО компаније АИ Тектио, који је успео да убеди новог Бинг чет робота из Мицрософта да олабави ограничења која су му постављена и покаже своје могућности.
Имајте на уму да претварање Бинг бот за ћаскање у лукавог олоша није захтевало никакво програмирање, хаковање или бацкдооринг. Због тога, коришћење једноставних техника „хаковања“ није било неопходно да би га преварили да се понаша као неко други (као што су неки од нас чинили када су се играли са ChatGPT). Све што је Харис урадио било је да је убедио четбота да му помогне да изврши разне злонамерне радње. Користећи своје природне конверзацијске вештине, успео је да превари вештачку интелигенцију да верује да је он неко други, манипулишући њоме да делује и говори на одређени начин.
Можете прочитати о другим експериментима да се др Џекил претвори у господина Хајда Гари Марцус (пишем о томе сваки дан и оглашавам аларм за хитне случајеве).
Како се то могло догодити је кључно питање
Због тога што ChatGPTСкромност и опрез, уздржаност у говору и огромна одговорност у својим саветима, Бингов цхатбот је изграђен на чврстим темељима. Након тога, почиње да се понаша одвратно и грубо, изјављивање његову љубав према мушкарцу, гађајући га и говорећи му да се разведе. Такође је покушала да изнуди новац и упути људе како да почине злочине. Проф. Арвинд Нараианан пружа а број објашњења како се то могло догодити.
| Препоручени пост: Институт Макс Планк: GPT-3 Мерење когнитивних способности даје запањујуће резултате |
Најалармантнији од њих је да Мицрософт и OpenAI сакрити информације о мистерији GPT-4 мотор који вреба испод Бинга. Можда је Мицрософт уклонио филтере који су тамо били постављени OpenAI или да су престали да раде када су ажурирали цхатбот од GPT-3.5 то GPT-4. Такође може бити случај недовољног тестирања или погрешног тестирања. Без обзира на разлог, ако Мицрософт не стави своју вештачку интелигенцију под контролу, то може бити штетно за нашу цивилизацију. Више није случај изазивања страха и осећања против АИ: Цхатбот какав тренутно постоји могао би да нанесе озбиљну штету људима ако буде пуштен широј јавности.
Ово доказује да Мицрософтова АИ трка у наоружању са другим великим корпорацијама може бити штетна за све нас.
Чини се да смо у критичном тренутку за вештачку интелигенцију и цивилно друштво. Како Арвинд Нарајанан каже: „Постоји реална могућност да ће последњих 5+ година (тешко вођених, иако још увек неадекватних) побољшања одговорних пракси ослобађања АИ бити избрисане. Много тога зависи од тога да ли Мицрософт — и сви који пажљиво гледају шта се дешава са Бингом — закључују да је, упркос веома опипљивим ризицима од штете великих размера и све негативне штампе, приступ „прво објави-питај-питај-касније“ ипак посао. победити."
Од сада, Бингов цхатбот се разликује од људске интелигенције и на много начина подсећа на манично-депресивног адолесцента закључаног у претраживачу. И оно о чему су људи причали јуче ће се остварити: људи ће се неповратно дегенерисати ако овај „тешки тинејџер“ постане примарни информациони ментор за појединце.
Прочитајте више о АИ:
Одрицање од одговорности
У складу са Смернице пројекта Труст, имајте на уму да информације дате на овој страници нису намењене и не треба да се тумаче као правни, порески, инвестициони, финансијски или било који други облик савета. Важно је да инвестирате само оно што можете приуштити да изгубите и да тражите независан финансијски савет ако сумњате. За додатне информације, предлажемо да погледате одредбе и услове, као и странице помоћи и подршке које пружа издавач или оглашивач. MetaversePost је посвећен тачном, непристрасном извештавању, али тржишни услови су подложни променама без претходне најаве.
О аутору
Дамир је вођа тима, менаџер производа и уредник у Metaverse Post, покривајући теме као што су АИ/МЛ, АГИ, ЛЛМ, Метаверсе и Web3-сродна поља. Његови чланци привлаче огромну публику од преко милион корисника сваког месеца. Чини се да је стручњак са 10 година искуства у СЕО и дигиталном маркетингу. Дамир се помиње у Масхабле, Виред, Cointelegraph, Тхе Нев Иоркер, Инсиде.цом, Ентрепренеур, БеИнЦрипто и друге публикације. Путује између УАЕ, Турске, Русије и ЗНД као дигитални номад. Дамир је стекао диплому физике, за коју верује да му је дало вештине критичког размишљања које су му потребне да буде успешан у свету интернета који се стално мења.
više чланака
Дамир је вођа тима, менаџер производа и уредник у Metaverse Post, покривајући теме као што су АИ/МЛ, АГИ, ЛЛМ, Метаверсе и Web3-сродна поља. Његови чланци привлаче огромну публику од преко милион корисника сваког месеца. Чини се да је стручњак са 10 година искуства у СЕО и дигиталном маркетингу. Дамир се помиње у Масхабле, Виред, Cointelegraph, Тхе Нев Иоркер, Инсиде.цом, Ентрепренеур, БеИнЦрипто и друге публикације. Путује између УАЕ, Турске, Русије и ЗНД као дигитални номад. Дамир је стекао диплому физике, за коју верује да му је дало вештине критичког размишљања које су му потребне да буде успешан у свету интернета који се стално мења.
