Технічні експерти підписали відкритий лист із закликом тимчасово призупинити навчання систем штучного інтелекту, більш просунутих, ніж GPT-4
Коротко
Понад 1100 підписантів підписали відкритий лист із закликом призупинити гігантські експерименти ШІ.
Серед підписантів – Ілон Маск, Стів Возняк та Емад Мостак.
Відкритий лист висловив занепокоєння щодо упередженості інформації з боку ШІ, автоматизація роботи і ризик ШІ для людської цивілізації.
Понад 1,100 підписантів, включаючи провідних технічних експертів, підписали договір відкритий лист закликаючи до шестимісячної паузи в навчанні більш просунутих систем ШІ GPT-4.
Лист був написаний Інститутом майбутнього життя, некомерційною організацією, яка працює над зменшенням глобальних катастрофічних та екзистенціальних ризиків, з якими стикається людство, зокрема екзистенціального ризику від передового штучного інтелекту.
Цитуючи широко схвалені принципи штучного інтелекту Asilomar, в яких сказано, що «розширений штучний інтелект може стати глибокою зміною в історії життя на Землі, його слід планувати та керувати відповідною ретельністю та ресурсами», у листі йдеться, що рівень планування та управління не відбувається.
Далі в листі йдеться про те, що лабораторії штучного інтелекту «вийшли з-під контролю» за розробкою дедалі потужнішого штучного інтелекту, який ніхто не може зрозуміти, передбачити чи надійно контролювати. Як і сучасні системи ШІ GPT-4 може конкурувати з людьми Що стосується загальних завдань, лист викликає занепокоєння щодо упередженості інформації ШІ, автоматизації роботи та ризику втрати контролю над людською цивілізацією.
«Ми закликаємо всі лабораторії ШІ негайно призупинити принаймні на 6 місяців навчання систем ШІ, потужніших за GPT-4. Ця пауза має бути загальнодоступною та доступною для перевірки та включати всіх ключових учасників. Якщо таку паузу не можна вжити швидко, уряди повинні втрутитися та запровадити мораторій»,
у листі йдеться.
Лист закликає лабораторії штучного інтелекту та технічних експертів використати період паузи для розробки та впровадження протоколів безпеки для просунутого проектування та розробки штучного інтелекту, які ретельно перевіряються та контролюються незалежними сторонніми експертами.
Однак американський журналіст Джефф Джарвіс розкритикував лист, приказка що це «найяскравіший зразок моральної паніки».
Деякі з провідних умів у галузі технологій і машинного навчання, які підписали лист разом із науковцями DeepMind і кількома професорами університетів з усього світу, включають:
- Йошуа Бенгіо, Монреальський університет, лауреат Тьюринга за розробку глибокого навчання, керівник Монреальського інституту навчання алгоритмів
- Стюарт Рассел, Берклі, професор комп’ютерних наук, директор Центру інтелектуальних систем і співавтор стандартного підручника «Штучний інтелект: сучасний підхід»
- Ілон Маск, генеральний директор SpaceX, Tesla та Twitter
- Емад Мостаке, генеральний директор, Stability AI
- Яан Таллінн, співзасновник Skype, Центр вивчення екзистенційного ризику, Інститут майбутнього життя
- Гері Маркус, Нью-Йоркський університет, дослідник ШІ, почесний професор
- Марк Ротенберг, президент Центру ШІ та цифрової політики (CAIDP).
В останній листРотенберг написав, що CAIDP подасть скаргу до Федеральної торгової комісії, закликаючи до розслідування відкритого штучного інтелекту та ChatGPT, а також заборона на подальший комерційний випуск продукту до встановлення гарантій.
OpenAI Генеральний директор Сем Альтман має зізнався що «нам також потрібно достатньо часу, щоб наші установи зрозуміли, що робити», і що суспільство недалеко від «потенційно страшних» генеративних інструментів ШІ.
«Ми просимо FTC «натиснути кнопку паузи», щоб у наших інституцій, наших законів і нашого суспільства була можливість надолужити згаяне. Нам потрібно надати право власності на технології, які ми створюємо, перш ніж втратити контроль», — йдеться в листі CAIDP.
В іншому місці, законодавці ЄС мають на меті підписати угоду з країнами ЄС до кінця року щодо впровадження правил штучного інтелекту, хоча це може стати вузьким місцем, оскільки дебати про те, як слід керувати ШІ, посилюються.
Детальніше:
відмова
Відповідно до Правила проекту Trust, будь ласка, зверніть увагу, що інформація, надана на цій сторінці, не призначена і не повинна тлумачитися як юридична, податкова, інвестиційна, фінансова або будь-яка інша форма консультації. Важливо інвестувати лише те, що ви можете дозволити собі втратити, і звернутися за незалежною фінансовою порадою, якщо у вас виникнуть сумніви. Щоб отримати додаткову інформацію, ми пропонуємо звернутися до положень та умов, а також до сторінок довідки та підтримки, наданих емітентом або рекламодавцем. MetaversePost прагне до точного, неупередженого звітування, але ринкові умови можуть змінюватися без попередження.
про автора
Сінді працює журналістом у Metaverse Post, що охоплює теми, пов’язані з web3, NFT, метавсесвіт та ШІ, зосереджуючись на інтерв’ю з Web3 гравців галузі. Вона поспілкувалася з понад 30 керівниками вищого рівня та розповіла читачам про їхні цінні ідеї. Родом із Сінгапуру, Сінді тепер живе в Тбілісі, Грузія. Вона отримала ступінь бакалавра з комунікацій та медіа-досліджень в Університеті Південної Австралії та має десятирічний досвід роботи в журналістиці та письменництві. Зв'яжіться з нею через [захищено електронною поштою] з презентаціями для преси, оголошеннями та можливостями для інтерв’ю.
інші статті
Сінді працює журналістом у Metaverse Post, що охоплює теми, пов’язані з web3, NFT, метавсесвіт та ШІ, зосереджуючись на інтерв’ю з Web3 гравців галузі. Вона поспілкувалася з понад 30 керівниками вищого рівня та розповіла читачам про їхні цінні ідеї. Родом із Сінгапуру, Сінді тепер живе в Тбілісі, Грузія. Вона отримала ступінь бакалавра з комунікацій та медіа-досліджень в Університеті Південної Австралії та має десятирічний досвід роботи в журналістиці та письменництві. Зв'яжіться з нею через [захищено електронною поштою] з презентаціями для преси, оголошеннями та можливостями для інтерв’ю.
