Ден Хендрікс: Вибираючи між штучним інтелектом і людьми, еволюція не обере нас
Коротко
Дослідження Дена Хендрікса «Природний відбір віддає перевагу штучному інтелекту людям» — страшний висновок.
Він є досвідченим і відомим дослідником, який опублікував десятки наукових робіт з оцінки безпеки систем ШІ.
Дослідження Дена Хендрікса звучать як смертний вирок Homo Sapiens. Висновок дослідження “Природний відбір надає перевагу ШІ, а не людям” справді страшно. Це написав не такий популярний фантазер, як Ден Браун, а Ден Хендрікс, директор Каліфорнійського центру безпеки штучного інтелекту (CAIS), некомерційної організації, що спеціалізується на дослідженнях і польових роботах у сфері безпеки штучного інтелекту.
Ден Хендрікс — не маргінальний божевільний, який панікує через досягнення ШІ. Він є досвідченим і широко поважним дослідником, який опублікував десятки наукових робіт про оцінку безпеки систем штучного інтелекту, перевіряючи їхню здатність кодувати, міркувати, розуміти закони тощо. Серед іншого, він також є співавтором одиниці лінійної похибки Гауса (GELU).
Джек Кларк, співзасновник ChatGPT конкурент Антропік, співголова Індексу штучного інтелекту Стенфордського університету, співголова секції штучного інтелекту та обчислень ОЕСР і член Національного консультативного комітету уряду США з ШІ обговорює висновки дослідження Хендрікса. «Людям рефлекторно хочеться відмахнутися від такого твердження, як від якогось дикоокого божевільного, який живе в лісовій хатині. Я хотів би це заздалегідь спростувати. Коли експерт, який має досвід не лише в дослідженнях ШІ, а й у оцінка безпеки систем ШІ пише статтю, в якій стверджує, що майбутні системи штучного інтелекту можуть діяти егоїстично і не відповідно до інтересів людей, ми повинні про це подбати!
Короткий зміст статті Хендрікса:
- Якщо агентів ШІ стане більше розумніший за людей, це може призвести до того, що людство втратить контроль над своїм майбутнім.
- Це має хороші шанси статися не в результаті якихось особливих злих намірів людей або машин, а виключно в результаті застосовності еволюційних принципів розвитку до штучного інтелекту відповідно до логіки Дарвіна.
- Щоб мінімізувати ризик цього, внутрішня мотивація агентів штучного інтелекту повинна бути ретельно розроблена, накладені обмеження на їхні дії та створені інституції для заохочення співпраці штучного інтелекту.
Тобто, найважливіші моменти, які Хендрікс робить у своїй 43-сторінковій науковій статті:
1. Ми боялися приходу Термінатора, але підстави цих страхів були помилковими. Було дві помилки:
a. Антропоморфізація ШІ з приписуванням йому наших мотивацій тощо—як ChatGPT показали, що штучний інтелект — це принципово інший розум з усіма наслідками, які з цього випливають.
b. Ідея про те, що штучний інтелект – це щось на кшталт єдиної сутності: розумної чи не дуже розумної, доброї чи не дуже доброї, але насправді цих дуже різних суб’єктів штучного інтелекту незабаром буде у світі якомога більше.
2. Є ще одна фундаментальна вада в наших уявленнях про майбутнє зі штучним інтелектом — ми забули про найважливіший механізм розвитку — еволюцію, яка рухає розвитком не лише біоагентів, але й ідей та смислів, матеріальних інструментів і нематеріальних інституцій.
3. На Землі вже почало формуватися середовище, в якому буде розвиватися та еволюціонувати багато ШІ. Ця еволюція буде відбуватися за логікою Дарвіна, через конкуренцію ШІ між собою, враховуючи інтереси своїх «батьківських» інституцій: корпорацій, військових тощо.
4. Логіка конкурентної еволюції призведе до того ж, що й у людей: дедалі розумніші агенти ШІ ставатимуть все більш егоїстичними та готовими досягати цілей обманом і силою, головною метою яких є влада.
5. Природний відбір агентів ШІ надає перевагу більш егоїстичним видам над більш альтруїстичними. Агенти штучного інтелекту поводитимуться егоїстично та переслідуватимуть власні інтереси, не звертаючи уваги на людей, що може призвести до катастрофічних ризиків для людства.
- Прохання припинити розробку більш просунутих систем штучного інтелекту GPT-4 поляризував суспільство. Перша група вважає, що прогрес неможливо зупинити, тоді як інша вважає, що прогрес, а іноді й слід, зупинити. Третя група не розуміє як GPT-4 діє в першу чергу. Найважливіші деталі в цьому тексті полягають у тому, що штучний інтелект не має свідомості, волі чи волі, і що він може бути поганим навіть без зловмисників.
- Джефрі Гінтона часто називають «хрещеним батьком штучного інтелекту» і вважають провідною фігурою в спільноті глибокого навчання. Його 40-хвилинне інтерв'ю з ChatGPT унікальний тим, що його легко зрозуміти та має глибину розуміння, доступну небагатьом іншим. Він підкреслює важливість поточної «інтелектуальної революції» та нелюдського розуму ChatGPT, яка базується на агенті зі штучним інтелектом із розширеними можливостями цифрового зв’язку.
Читайте більше пов’язаних статей:
відмова
Відповідно до Правила проекту Trust, будь ласка, зверніть увагу, що інформація, надана на цій сторінці, не призначена і не повинна тлумачитися як юридична, податкова, інвестиційна, фінансова або будь-яка інша форма консультації. Важливо інвестувати лише те, що ви можете дозволити собі втратити, і звернутися за незалежною фінансовою порадою, якщо у вас виникнуть сумніви. Щоб отримати додаткову інформацію, ми пропонуємо звернутися до положень та умов, а також до сторінок довідки та підтримки, наданих емітентом або рекламодавцем. MetaversePost прагне до точного, неупередженого звітування, але ринкові умови можуть змінюватися без попередження.
про автора
Дамір є керівником групи, менеджером із продуктів і редактором Metaverse Post, що охоплює такі теми, як AI/ML, AGI, LLMs, Metaverse тощо Web3- суміжні поля. Його статті щомісяця приваблюють величезну аудиторію понад мільйон користувачів. Здається, він є експертом із 10-річним досвідом роботи в SEO та цифровому маркетингу. Даміра згадували в Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto та інші видання. Він подорожує між ОАЕ, Туреччиною, Росією та СНД як цифровий кочівник. Дамір отримав ступінь бакалавра з фізики, що, на його думку, дало йому навички критичного мислення, необхідні для досягнення успіху в Інтернеті, який постійно змінюється.
інші статті
Дамір є керівником групи, менеджером із продуктів і редактором Metaverse Post, що охоплює такі теми, як AI/ML, AGI, LLMs, Metaverse тощо Web3- суміжні поля. Його статті щомісяця приваблюють величезну аудиторію понад мільйон користувачів. Здається, він є експертом із 10-річним досвідом роботи в SEO та цифровому маркетингу. Даміра згадували в Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto та інші видання. Він подорожує між ОАЕ, Туреччиною, Росією та СНД як цифровий кочівник. Дамір отримав ступінь бакалавра з фізики, що, на його думку, дало йому навички критичного мислення, необхідні для досягнення успіху в Інтернеті, який постійно змінюється.
