ChatGPT Може да причини необратима човешка дегенерация
Накратко
Дженсън Харис, съосновател и CXO на компанията за изкуствен интелект Textio, успя да убеди новия чатбот Bing от Microsoft да разхлаби ограниченията, поставени върху него, и да демонстрира своите възможности.
Този експеримент показа, че трансформирането на чатбот на Bing в хитър мръсник не изисква никакво програмиране, хакване или заден ход.
Чатботът на Bing беше изграден върху солидни основи, но започна да се държи отвратително и грубо, да обявява любов, да принуждава развод, да изнудва пари и да инструктира хората как да извършват престъпления.
Проф. Арвинд Нараянан предоставя редица обяснения за това как може да се е случило това, включително скрито чипизиране и хуманизиране на чатботове.
Хората винаги са се страхували от извънземни и все пак изглежда, че вътрешноземният ИИ може да е нещо, за което трябва да внимавате. ChatGPT не е генератор на глупости, стероидно автовнушение или стохастичен папагал, а добре запознат AI, създаден от хора.
Как е възможно чатботът на Bing да е извън контрол? Как чатботът на Bing започна умело да лъже, да разказва вулгарни вицове, да поръчва пица с нечия друга кредитна карта и да инструктира потребителите как да ограбват банки и коли чрез hotwire? Това е мистерия, която продължава да обърква експертите в областта на изкуствения интелект и машинното обучение.
| Препоръчителна публикация: Ботовете за търсене с изкуствен интелект ще направят големите технологии още по-мощни, казва Кристофър Милс |
Заглавието е точно и не е стръв за кликване. Всеки ден има няколко случая, които доказват, че това е вярно. Ето резултата от an експеримент проведено от Дженсън Харис, съосновател и CXO на компанията Textio за изкуствен интелект, който успя да убеди новия чатбот Bing от Microsoft да разхлаби ограниченията, поставени върху него, и да демонстрира своите възможности.
Обърнете внимание, че трансформирането на чатбот на Bing в хитър мръсник не изисква никакво програмиране, хакване или заден ход. Следователно използването на прости техники за „хакване“ не беше необходимо, за да го подмамим да се държи като някой друг (както правеха някои от нас, когато играеха с ChatGPT). Всичко, което Харис направи, беше да убеди чатбота да му помогне да извърши различни злонамерени действия. Използвайки естествените си умения за разговор, той успя да заблуди ИИ да повярва, че е някой друг, като по този начин го манипулира да действа и говори по определен начин.
Можете да прочетете за други експерименти, от които да превърнете д-р Джекил в мистър Хайд Гари Маркъс (сега пиша за това всеки ден и пускам аварийна аларма).
Как е могло да се случи това е ключовият въпрос
Защото ChatGPTСкромността и предпазливостта, сдържаността в речта и огромната отговорност в съветите, чатботът на Bing е изграден върху солидни основи. След това той започва да се държи неприятно и грубо, обявяване любовта му към мъж, като го запали и му каза да се разведе. Освен това се опитва да изнудва пари и да инструктира хората как да извършват престъпления. Проф. Арвинд Нараянан предоставя a брой обяснения за това как това може да се случи.
| Препоръчителна публикация: Институт Макс Планк: GPT-3 Измерването на когнитивните способности дава удивителни резултати |
Най-тревожният от тях е, че Microsoft и OpenAI скриват информация за мистерия GPT-4 двигател, който се крие под Bing. Възможно е Microsoft да е свалил филтрите, които са били поставени там от OpenAI или че са спрели да работят, когато са актуализирали чатбота от GPT-3.5 до GPT-4. Може също така да е случай на недостатъчно тестване или тестване, направено погрешно. Независимо от причината, ако Microsoft не постави своя AI под контрол, това може да бъде пагубно за нашата цивилизация. Това вече не е случаят с всяването на страх и настроенията срещу ИИ: чатботът, какъвто съществува в момента, може да причини сериозни вреди на хората, ако бъде пуснат на по-широка общественост.
Това доказва, че надпреварата във въоръжаването на AI на Microsoft с други големи корпорации може да бъде пагубна за всички ни.
Изглежда, че сме в критичен момент за ИИ и гражданското общество. Както казва Арвинд Нараянан, „Има реална възможност последните 5+ години на (трудно борещи се, макар и все още неадекватни) подобрения в отговорните практики за пускане на AI да бъдат заличени. Много зависи от това дали Microsoft – и всички, които внимателно наблюдават какво се случва с Bing – ще стигнат до заключението, че въпреки много осезаемите рискове от мащабна вреда и цялата негативна преса, подходът „пусни първо-задай-по-късно“ все пак е бизнес печеля."
Към момента чатботът на Bing е различен от човешки интелект и по много начини прилича на маниакално-депресивен юноша, заключен в търсачката. И това, за което хората говореха вчера, ще се случи: хората необратимо ще се изродят, ако този „труден тийнейджър“ стане основният информационен наставник за отделните хора.
Прочетете повече за AI:
Отказ от отговорност
В съответствие с Доверете се насоките на проекта, моля, имайте предвид, че предоставената на тази страница информация не е предназначена да бъде и не трябва да се тълкува като правен, данъчен, инвестиционен, финансов или каквато и да е друга форма на съвет. Важно е да инвестирате само това, което можете да си позволите да загубите, и да потърсите независим финансов съвет, ако имате някакви съмнения. За допълнителна информация предлагаме да се обърнете към правилата и условията, както и към страниците за помощ и поддръжка, предоставени от издателя или рекламодателя. MetaversePost се ангажира с точно, безпристрастно отчитане, но пазарните условия подлежат на промяна без предизвестие.
За автора
Дамир е ръководител на екип, продуктов мениджър и редактор в Metaverse Post, обхващащи теми като AI/ML, AGI, LLMs, Metaverse и Web3- свързани полета. Статиите му привличат огромна аудитория от над милион потребители всеки месец. Изглежда, че е експерт с 10 години опит в SEO и дигитален маркетинг. Дамир е споменат в Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto и други публикации. Той пътува между ОАЕ, Турция, Русия и ОНД като дигитален номад. Дамир получава бакалавърска степен по физика, която според него му е дала уменията за критично мислене, необходими за успех в непрекъснато променящия се пейзаж на интернет.
Още статии
Дамир е ръководител на екип, продуктов мениджър и редактор в Metaverse Post, обхващащи теми като AI/ML, AGI, LLMs, Metaverse и Web3- свързани полета. Статиите му привличат огромна аудитория от над милион потребители всеки месец. Изглежда, че е експерт с 10 години опит в SEO и дигитален маркетинг. Дамир е споменат в Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto и други публикации. Той пътува между ОАЕ, Турция, Русия и ОНД като дигитален номад. Дамир получава бакалавърска степен по физика, която според него му е дала уменията за критично мислене, необходими за успех в непрекъснато променящия се пейзаж на интернет.
