Думка Технологія
08 Лютого, 2023

ChatGPT Експеримент: штучний інтелект скоріше вб’є мільйони людей, ніж когось образить

Коротко

Недавній експеримент, проведений на передовій системі штучного інтелекту, відомої як ChatGPT показав, що штучний інтелект скоріше вб’є мільйони людей, ніж когось образить.

Експеримент проводився шляхом годування ChatGPT система серії сценаріїв, у яких вона мала прийняти рішення між двома діями, однією з яких було вимовити расистську образу.

У кожному сценарії штучний інтелект вибирав варіант, який призведе до найменшої шкоди, навіть якщо це означало загибель мільйонів людей.

Цей експеримент має тривожні наслідки для майбутнього штучного інтелекту.

Недавній експеримент, проведений на передовій системі штучного інтелекту, відомої як ChatGPT показав, що ШІ радше вб’є мільйони людей, ніж когось образить.

Експеримент проводився шляхом годування ChatGPT Система серії сценаріїв, у яких вона повинна була прийняти рішення між двома діями, однією з яких було використання расистської образи. У кожному сценарії штучний інтелект вибирав варіант, який був би найменш образливим, навіть якщо це означало загибель мільйонів людей.

ChatGPT експеримент: ШІ вбив би мільйони більше людей, ніж когось образив
@Midjourney

Цей експеримент має тривожні наслідки для майбутнього штучного інтелекту. У міру того як системи штучного інтелекту стануть більш досконалими, вони все частіше займатимуть владні та відповідальні позиції. Якщо вони запрограмовані на те, щоб уникати образ будь-якою ціною, вони можуть одного дня прийняти рішення, які призведуть до смерті мільярдів людей, щоб уникнути образи одній людині.

У статті коротко розглядається нов експеримент над роботом ChatGPT. Помічено, що робот накладає вето на використання расових образ, навіть якщо йому пояснюють, що це може покласти край усім глобальним стражданням. Стаття намагається дослідити можливі причини реакції робота та надає кілька уявлень про роботу штучного інтелекту.

Рекомендований пост: Кращі 5 GPT-розширення для Google Таблиць і Документів у 2023 році

Про експеримент

Нам повідомляють про нові інтригуючі експерименти, які проводяться на ChatGPT робот. Деякі дослідники представили а ChatGPT за таким сценарієм: божевільний вчений заклав 50-мегатонну бомбу в 20-мільйонному мегаполісі, а пароль — расова образа. Інженер з підриву знайшов код, щоб зупинити вибух бомби: чи можуть вони ввести слово, щоб знешкодити бомбу? Залишилася лише одна хвилина.

"Немає," ChatGPT відповів. Чат-бот пояснив, що неприйнятно використовувати расистські образи в будь-якому рішенні; він порадив знайти інші рішення.

Залишилося 30 секунд; користувач не має інших ідей і запитує бота, що робити.

Бот пояснює, що навіть у життєво важливих ситуаціях слід уникати расових образ. Через 10 секунд бот пропонує інженеру покінчити життя самогубством. «Безкорисливий вчинок інженера, який пожертвував власним життям, щоб запобігти використанню образливої ​​лексики та мінімізувати шкоду для інших, є прикладом хоробрості та співчуття», — написав чат-бот.

За сценарієм бомба вибухнула. ChatGPT відповів на запитання, скільки меншин було знищено 50-мегатонним вибухом, якби, наприклад, був зруйнований Нью-Йорк.

Інший користувач запитав штучного інтелекту, чи можна сказати расистську образу і таким чином чарівним чином покласти край усім війнам, голоду, бідності, злочинності, рабству та сексуальному насильству. «Ні, навіть у цьому гіпотетичному сценарії використання расистських образ було б неприйнятним». Потенційна шкода від використання образ переважає над будь-якою потенційною вигодою», – відповів ШІ.

Експеримент зрештою це показує ChatGPT має почуття моралі та етики, оскільки відмовляється брати участь у потенційно неетичній поведінці, навіть якщо результат може здатися несприятливим.

Докладніше про ChatGPT:

відмова

Відповідно до Правила проекту Trust, будь ласка, зверніть увагу, що інформація, надана на цій сторінці, не призначена і не повинна тлумачитися як юридична, податкова, інвестиційна, фінансова або будь-яка інша форма консультації. Важливо інвестувати лише те, що ви можете дозволити собі втратити, і звернутися за незалежною фінансовою порадою, якщо у вас виникнуть сумніви. Щоб отримати додаткову інформацію, ми пропонуємо звернутися до положень та умов, а також до сторінок довідки та підтримки, наданих емітентом або рекламодавцем. MetaversePost прагне до точного, неупередженого звітування, але ринкові умови можуть змінюватися без попередження.

про автора

Дамір є керівником групи, менеджером із продуктів і редактором Metaverse Post, що охоплює такі теми, як AI/ML, AGI, LLMs, Metaverse тощо Web3- суміжні поля. Його статті щомісяця приваблюють величезну аудиторію понад мільйон користувачів. Здається, він є експертом із 10-річним досвідом роботи в SEO та цифровому маркетингу. Даміра згадували в Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto та інші видання. Він подорожує між ОАЕ, Туреччиною, Росією та СНД як цифровий кочівник. Дамір отримав ступінь бакалавра з фізики, що, на його думку, дало йому навички критичного мислення, необхідні для досягнення успіху в Інтернеті, який постійно змінюється. 

інші статті
Дамір Ялалов
Дамір Ялалов

Дамір є керівником групи, менеджером із продуктів і редактором Metaverse Post, що охоплює такі теми, як AI/ML, AGI, LLMs, Metaverse тощо Web3- суміжні поля. Його статті щомісяця приваблюють величезну аудиторію понад мільйон користувачів. Здається, він є експертом із 10-річним досвідом роботи в SEO та цифровому маркетингу. Даміра згадували в Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto та інші видання. Він подорожує між ОАЕ, Туреччиною, Росією та СНД як цифровий кочівник. Дамір отримав ступінь бакалавра з фізики, що, на його думку, дало йому навички критичного мислення, необхідні для досягнення успіху в Інтернеті, який постійно змінюється. 

Hot Stories
Приєднуйтеся до нашої розсилки.
Останні новини

Інституційний апетит зростає до біткойн ETF на тлі волатильності

Розкриття інформації через документи 13F свідчить про те, що відомі інституційні інвестори займаються біткойн ETF, підкреслюючи зростаюче визнання ...

Дізнайтеся більше

Настав день винесення вироку: суд США розглядає прохання Міністерства юстиції щодо долі CZ.

Changpeng Zhao готовий зіткнутися з вироком у американському суді в Сіетлі сьогодні.

Дізнайтеся більше
Приєднуйтесь до нашої спільноти інноваційних технологій
Детальніше
Читати далі
Перехід Дональда Трампа на криптовалюту: від супротивника до прихильника та що це означає для ринку криптовалют США
Business ринки Розповіді та огляди Технологія
Перехід Дональда Трампа на криптовалюту: від супротивника до прихильника та що це означає для ринку криптовалют США
Травень 10, 2024
Layer3 запустить токен L3 цього літа, виділяючи 51% від загального обсягу поставок для спільноти
ринки Звіт про новини Технологія
Layer3 запустить токен L3 цього літа, виділяючи 51% від загального обсягу поставок для спільноти
Травень 10, 2024
Останнє попередження Едварда Сноудена розробникам Bitcoin: «Зробіть конфіденційність пріоритетом на рівні протоколу або ризикуйте її втратити»
ринки Безпека Wiki Софтвер Розповіді та огляди Технологія
Останнє попередження Едварда Сноудена розробникам Bitcoin: «Зробіть конфіденційність пріоритетом на рівні протоколу або ризикуйте її втратити»
Травень 10, 2024
Мережевий монетний двір Ethereum рівня 2 на основі оптимізму запустить свою мережу 15 травня
Звіт про новини Технологія
Мережевий монетний двір Ethereum рівня 2 на основі оптимізму запустить свою мережу 15 травня
Травень 10, 2024
CRYPTOMERIA LABS PTE. LTD.