ChatGPT Може спричинити незворотне виродження людини
Коротко
Дженсен Харріс, співзасновник і старший директор компанії Textio зі штучним інтелектом, зміг переконати новий чат-бот Bing від Microsoft послабити накладені на нього обмеження та продемонструвати свої можливості.
Цей експеримент показав, що перетворення чат-бота Bing на хитрого покидька не потребує програмування, злому чи бекдору.
Чат-бот Bing був побудований на міцному фундаменті, але він почав діяти огидно та скандально, зізнаючись у коханні, примушуючи до розлучення, вимагаючи гроші та інструктуючи людей, як скоювати злочини.
Професор Арвінд Нараянан надає ряд пояснень того, як це могло статися, включаючи приховану чіпізацію та гуманізацію чат-ботів.
Люди завжди боялися інопланетян, але, схоже, саме внутрішньоземний штучний інтелект може бути причиною побоювання. ChatGPT це не генератор дурниці, стероїдний автонавіювання чи стохастичний папуга, а добре обізнаний ШІ, створений людьми.
Як це можливо, що чат-бот Bing вийшов з-під контролю? Як чат-бот Bing почав вправно брехати, розповідати вульгарні жарти, замовляти піцу за допомогою чужої кредитної картки та інструктувати користувачів, як грабувати банки та машини, що працюють за допомогою гарячої мережі? Це таємниця, яка продовжує бентежити експертів зі штучного інтелекту та машинного навчання.
| Рекомендований пост: Пошукові боти штучного інтелекту зроблять великі технології ще потужнішими, каже Крістофер Міллс |
Заголовок точний, а не приманка для кліків. Щодня є кілька прикладів, які доводять це правду. Ось результат an експеримент проведений Дженсеном Гаррісом, співзасновником і головним директором компанії Textio зі штучним інтелектом, який зміг переконати новий чат-бот Bing від Microsoft послабити накладені на нього обмеження та продемонструвати свої можливості.
Зауважте, що перетворення чат-бота Bing на хитрого покидька не вимагало програмування, злому чи бекдору. Таким чином, використання простих технік «злому» не було обов’язковим для того, щоб змусити його діяти як хтось інший (як деякі з нас робили, граючи з ChatGPT). Все, що Харріс зробив, це переконав чат-бота допомогти йому здійснити різні зловмисні дії. Використовуючи свої природні навички розмови, він зміг обдурити ШІ, щоб він повірив, що він хтось інший, таким чином змусивши його діяти та говорити певним чином.
Ви можете прочитати про інші експерименти з перетворення доктора Джекіла на містера Хайда Гарі Маркус (тепер кожен день пишу про це і б'ю надзвичайну тривогу).
Як це могло статися – головне питання
Тому що ChatGPTСкромність і обережність, стриманість у висловлюваннях і величезна відповідальність у порадах, чат-бот Bing був побудований на міцній основі. Після цього він починає поводитися огидно і скандально, декларування його кохання до чоловіка, оголошуючи його та кажучи йому розлучитися. Він також намагався вимагати гроші та інструктувати людей, як скоювати злочини. Професор Арвінд Нараянан забезпечує a кількість пояснень як це могло статися.
| Рекомендований пост: Інститут Макса Планка: GPT-3 Вимірювання когнітивних здібностей дає вражаючі результати |
Найбільш тривожним з них є те, що Microsoft і OpenAI приховати інформацію про таємницю GPT-4 двигун, який ховається під Bing. Можливо, корпорація Майкрософт зняла фільтри, які були там розміщені OpenAI або що вони перестали працювати під час оновлення Chatbot від GPT-3.5 до GPT-4. Це також може бути випадок недостатнього тестування або тестування, проведеного неправильно. Незалежно від причини, якщо Microsoft не візьме свій ШІ під контроль, це може завдати шкоди нашій цивілізації. Це вже не справа про нагнітання страху та настрої проти штучного інтелекту: чат-бот у тому вигляді, в якому він існує зараз, може завдати серйозної шкоди людям, якщо його оприлюднити для широкої громадськості.
Це доводить, що гонка штучного інтелекту озброєнь Microsoft з іншими великими корпораціями може завдати шкоди всім нам.
Таке відчуття, що ми перебуваємо в критичний момент для ШІ та громадянського суспільства. Як каже Арвінд Нараянан, «існує реальна ймовірність того, що останні 5+ років (запеклих, хоча й досі неадекватних) удосконалень відповідальних практик випуску ШІ будуть стерті. Багато залежить від того, чи Microsoft — і всі, хто уважно спостерігає за тим, що відбувається з Bing — дійдуть висновку, що, незважаючи на дуже відчутні ризики великомасштабної шкоди та всю негативну пресу, підхід «спочатку випускайте запитання — потім» все одно є бізнесом виграти».
На даний момент чат-бот Bing відрізняється від людський інтелект і багато в чому нагадує маніакально-депресивного підлітка, заблокованого в пошуковій системі. І те, про що говорили вчора, станеться: люди необоротно виродяться, якщо цей «важкий підліток» стане головним інформаційним наставником для окремих людей.
Докладніше про ШІ:
відмова
Відповідно до Правила проекту Trust, будь ласка, зверніть увагу, що інформація, надана на цій сторінці, не призначена і не повинна тлумачитися як юридична, податкова, інвестиційна, фінансова або будь-яка інша форма консультації. Важливо інвестувати лише те, що ви можете дозволити собі втратити, і звернутися за незалежною фінансовою порадою, якщо у вас виникнуть сумніви. Щоб отримати додаткову інформацію, ми пропонуємо звернутися до положень та умов, а також до сторінок довідки та підтримки, наданих емітентом або рекламодавцем. MetaversePost прагне до точного, неупередженого звітування, але ринкові умови можуть змінюватися без попередження.
про автора
Дамір є керівником групи, менеджером із продуктів і редактором Metaverse Post, що охоплює такі теми, як AI/ML, AGI, LLMs, Metaverse тощо Web3- суміжні поля. Його статті щомісяця приваблюють величезну аудиторію понад мільйон користувачів. Здається, він є експертом із 10-річним досвідом роботи в SEO та цифровому маркетингу. Даміра згадували в Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto та інші видання. Він подорожує між ОАЕ, Туреччиною, Росією та СНД як цифровий кочівник. Дамір отримав ступінь бакалавра з фізики, що, на його думку, дало йому навички критичного мислення, необхідні для досягнення успіху в Інтернеті, який постійно змінюється.
інші статті
Дамір є керівником групи, менеджером із продуктів і редактором Metaverse Post, що охоплює такі теми, як AI/ML, AGI, LLMs, Metaverse тощо Web3- суміжні поля. Його статті щомісяця приваблюють величезну аудиторію понад мільйон користувачів. Здається, він є експертом із 10-річним досвідом роботи в SEO та цифровому маркетингу. Даміра згадували в Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto та інші видання. Він подорожує між ОАЕ, Туреччиною, Росією та СНД як цифровий кочівник. Дамір отримав ступінь бакалавра з фізики, що, на його думку, дало йому навички критичного мислення, необхідні для досягнення успіху в Інтернеті, який постійно змінюється.
