Сем Альтман каже, що кількість інтелекту у Всесвіті подвоюватиметься кожні 18 місяців
Коротко
Розпочався апокаліпсис ШІ, коли кількість інтелекту у Всесвіті подвоюється кожні 18 місяців.
OpenAIСем Альтман колись пожартував, що штучний інтелект призведе до кінця світу, але до цього це буде величезний бізнес.
Ерік Хоел, американський нейробіолог і філософ з Університету Тафтса, стверджує, що на даний момент системи штучного інтелекту не можна вважати розумними, оскільки вони не розуміють світу і не мають особистості, яка проявляється в їхніх намірах і діях.
Байєсовська гіпотеза мозку стверджує, що головна функція мозку — мінімізувати подив. Якщо це правда, можливо, апокаліпсис ШІ вже почався.
Це говорить про те, що ChatGPT а інші вже більш різноманітні у своєму інтелекті, ніж будь-яка людина.
Розпочався апокаліпсис штучного інтелекту, який змінив значення закону Мура. Тепер кількість розуму у Всесвіті подвоюватиметься кожні 18 місяців Сем Альтман, Генеральний директор OpenAI, компанія позаду ChatGPT. Лише сім років тому Сем пожартував: «ШІ, швидше за все, призведе до кінця світу, але перед цим буде величезний бізнес». Зараз люди жартують він не розлучається з «ядерним рюкзаком», щоб дистанційно підривати дата-центри GPT виходить з-під контролю.
| Рекомендований пост: ChatGPT Може спричинити незворотне виродження людини |
Щоб краще зрозуміти, що має на увазі Альтман у своєму твіті, і дізнатися, як не збожеволіти під час буму ШІ, рекомендуємо прочитати Еріка Хоела “Як пережити AI-апокаліпсис здоровій людині.” Хоел — американський нейробіолог і філософ з Університету Тафтса. Це гарне читання, оскільки Хоел чудовий письменник, тому й ми defiнаполегливо рекомендую переглянути цю публікацію.
Давайте просто поглянемо на один із ключових моментів, оскільки він підсумовує глибоке розуміння того, що відбувається, і найближче майбутнє апокаліпсису, який уже настав. Головний аргумент «раціональних технооптимістів», які вважають, що нічого екстраординарного і надто ризикованого з появою не сталося. ChatGPT, полягає в наступному:
- Незважаючи на видатні результати генеративного розмовного ШІ (як ChatGPT, Bing тощо), ці системи ШІ не можна вважати інтелектуальними. Вони не розуміють світу і не мають мотивації агента. Вони не мають особистості, яка проявляється в їхніх намірах і діях, а їхній сприйнятий інтелект є нічим іншим, як симулякром інтелекту. За своєю суттю цей симулякр є лише автозаповнювачем для наступних слів, що відображає у своєму ймовірнісному дзеркалі колосальний нефільтрований корпус написаних людьми текстів з Інтернету.
- Якщо так, то немає ні близької перспективи появи суперінтелекту, ні пов'язаних з ним ризиків (хоча, звичайно, до цього потрібно готуватися, швидше за все, на горизонті десятиліть).
| Рекомендований пост: Пошукові боти штучного інтелекту зроблять великі технології ще потужнішими, каже Крістофер Міллсраді |
Відповідь Хоела на цю аргументацію така:
- Справа в тому, що ChatGPT, наприклад, є просто автозавершенням наступних слів, не означає, що він не може стати (або вже став) інтелектуальним агентом. На відміну від свідомості, інтелект є цілком функціональним поняттям: якщо щось діє розумно, це розумно. Якщо він діє як агент, він є агентом.
- Ось пояснювальний приклад. Існує впливова група вчених — Карл Фрістон (найбільш цитований нейробіолог) і безліч інших відомих імен, — які стверджують, що мета нашого мозку — мінімізувати подив. Ця «байєсовська гіпотеза мозку» сьогодні є однією з основних. Теорія стверджує, що на глобальному рівні мінімізація подиву є основною функцією мозку. І хоча це лише одна з кількох провідних гіпотез про те, як працює мозок, припустімо, що це правда. Уявіть тепер, що інопланетяни знаходять людський мозок, дивляться на нього і кажуть: «О, ця штука просто мінімізує подив! Воно не може бути основою інтелекту і тому не може бути небезпечним для справжніх носіїв розуму. Подумайте: чи справді «звести до мінімуму несподіванки» набагато складніше, ніж автозаповнення тексту? Або це насправді дуже схоже?
- А якщо так, то нелюдський суперрозум може бути вже поруч. І пов’язані з цим ризики вже цілком реальні. Що ще додати? Можливо ChatGPT а інші вже більш універсальні у своїх розумніше будь-якої людини. ChatGPT інші, ймовірно, будуть активними одночасно з таких причин: розумні, ненадійні та не схожі на людський розум, неконтрольовані в будь-якому фундаментальному сенсі, за винятком деяких нашвидкуруч розроблених парканів.
І якщо все це правда, то AI-апокаліпсис вже почався.
Читайте більше пов’язаних тем:
відмова
Відповідно до Правила проекту Trust, будь ласка, зверніть увагу, що інформація, надана на цій сторінці, не призначена і не повинна тлумачитися як юридична, податкова, інвестиційна, фінансова або будь-яка інша форма консультації. Важливо інвестувати лише те, що ви можете дозволити собі втратити, і звернутися за незалежною фінансовою порадою, якщо у вас виникнуть сумніви. Щоб отримати додаткову інформацію, ми пропонуємо звернутися до положень та умов, а також до сторінок довідки та підтримки, наданих емітентом або рекламодавцем. MetaversePost прагне до точного, неупередженого звітування, але ринкові умови можуть змінюватися без попередження.
про автора
Дамір є керівником групи, менеджером із продуктів і редактором Metaverse Post, що охоплює такі теми, як AI/ML, AGI, LLMs, Metaverse тощо Web3- суміжні поля. Його статті щомісяця приваблюють величезну аудиторію понад мільйон користувачів. Здається, він є експертом із 10-річним досвідом роботи в SEO та цифровому маркетингу. Даміра згадували в Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto та інші видання. Він подорожує між ОАЕ, Туреччиною, Росією та СНД як цифровий кочівник. Дамір отримав ступінь бакалавра з фізики, що, на його думку, дало йому навички критичного мислення, необхідні для досягнення успіху в Інтернеті, який постійно змінюється.
інші статті
Дамір є керівником групи, менеджером із продуктів і редактором Metaverse Post, що охоплює такі теми, як AI/ML, AGI, LLMs, Metaverse тощо Web3- суміжні поля. Його статті щомісяця приваблюють величезну аудиторію понад мільйон користувачів. Здається, він є експертом із 10-річним досвідом роботи в SEO та цифровому маркетингу. Даміра згадували в Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto та інші видання. Він подорожує між ОАЕ, Туреччиною, Росією та СНД як цифровий кочівник. Дамір отримав ступінь бакалавра з фізики, що, на його думку, дало йому навички критичного мислення, необхідні для досягнення успіху в Інтернеті, який постійно змінюється.
