Керівники штучного інтелекту попереджають про зростаючі ризики та етичні проблеми у зв’язку зі швидким прогресом
У нещодавній політичній заяві, видатні діячі в галузі штучного інтелекту, зокрема Бенгіо, Хінтон, Рассел, Харарі та Канеман, забили на сполох щодо швидкого прогресу та зростаючих суспільних ризиків, пов’язаних із ШІ.
AI швидко розвивається. GPT-2 чотири роки тому не вміли рахувати від 0 до 100, але сучасні моделі можуть писати код, створювати дивовижні зображення та пропонувати інтелектуальне керівництво. А оскільки ми перебуваємо в гонці, прогрес може набрати ще більшої швидкості. Крім того, ШІ розвивається швидше, наприклад, допомагаючи в програмуванні нових систем і зборі даних для їх навчання.
Коли прогрес досягає людського рівня, немає причин думати, що він сповільниться або зупиниться. У деяких регіонах штучні системи вже перевершили людину в цьому відношенні, демонструючи свої результати такі можливості, як швидша обробка швидкості, більшої потужності обробки даних і широкомасштабної масштабованості. Підприємства мають фінансові можливості для впровадження навчальних програм, які значно перевищують поточний ліміт.
Автори вважають, що є хороші шанси, що протягом наступних десяти років або близько того з’явиться кращий спеціаліст зі штучного інтелекту широкого профілю, перевершує людські можливості у багатьох важливих областях.
Що буде далі? Усі життя можна покращити, якщо ними правильно керувати та розподіляти. Невдало обраний варіант тягне за собою значні ризики, до яких ми погано готові. Замість того, щоб спрямовуватись на безпеку та запобігання шкоді, значні ресурси використовуються для створення систем ШІ, які стають все більш потужними. Це потрібно змінити; недостатньо розвивати навички самі по собі. І цей процес триває довше, ніж очікувалося. Нам потрібно планувати вищі ризики до їх виникнення, передбачаючи ескалацію поточних загроз і появу нових. У нас немає стільки часу для штучного інтелекту, скільки потрібні десятиліття, щоб його прийняти зміни клімату.
Існують численні ризики на суспільному рівні, включаючи зростання несправедливості, погіршення стабільності та погіршення загального сприйняття реальності. Тут ведуть широку діяльність терористи і злочинці. Штучний інтелект може зосередитися в руках невеликої кількості гравців, що призведе до зростання глобальної нерівності, полегшення автоматизованих війн, масових маніпуляцій, адаптованих до кожної людини, і повсюдного спостереження.
Як автономний ШІ стає більш досконалим і здатним планувати, діяти у світі та досягати своїх цілей, ці ризики лише зростатимуть. Ці цілі можуть не відповідати нашим найкращим інтересам, а у випадку поганих акторів можуть навіть завдати шкоди. Наразі незрозуміло, як вирішити проблему вирівнювання штучного інтелекту, яка передбачає узгодження поведінки штучного інтелекту з нашими складними цілями. Крім того, дуже просто знехтувати заходами безпеки під час змагань з наміром перемогти.
Людям важко контролювати звичайне програмне забезпечення, не кажучи вже про складні системи штучного інтелекту, які стають все більш вправними в соціальній інженерії, хакерстві, обмані та стратегічному плануванні. Це те, що автономні системи ШІ можуть підібрати від людей або створити самостійно.
Ці системи мають здатність створювати коаліції з окремими особами та іншими системами, завойовувати довіру, забезпечувати фінансування та впливати на тих, хто приймає рішення. Подібно до хробаків, вони здатні до самовідтворення по всій мережі. Величезні обсяги коду вже написані за допомогою помічників ШІ; у майбутньому системи можуть включати експлойти в численні важливі системи. Системи штучного інтелекту мають можливість використовувати біологічну або автономну зброю або погрожувати їй у відкритому бою. Це лише продовження сучасні рухи до біологічних досліджень, штучного інтелекту та автоматизації війни. Людям може бути надто складно втрутитися та чинити опір.
У багатьох випадках ми готові віддати їм кермо, навіть не запитуючи. Багато осіб і підприємств готові самостійно впроваджувати такі системи в умовах конкуренції, оскільки бояться, що вони відстануть від конкурентів.
Повний документ можна знайти тут.
відмова
Відповідно до Правила проекту Trust, будь ласка, зверніть увагу, що інформація, надана на цій сторінці, не призначена і не повинна тлумачитися як юридична, податкова, інвестиційна, фінансова або будь-яка інша форма консультації. Важливо інвестувати лише те, що ви можете дозволити собі втратити, і звернутися за незалежною фінансовою порадою, якщо у вас виникнуть сумніви. Щоб отримати додаткову інформацію, ми пропонуємо звернутися до положень та умов, а також до сторінок довідки та підтримки, наданих емітентом або рекламодавцем. MetaversePost прагне до точного, неупередженого звітування, але ринкові умови можуть змінюватися без попередження.
про автора
Дамір є керівником групи, менеджером із продуктів і редактором Metaverse Post, що охоплює такі теми, як AI/ML, AGI, LLMs, Metaverse тощо Web3- суміжні поля. Його статті щомісяця приваблюють величезну аудиторію понад мільйон користувачів. Здається, він є експертом із 10-річним досвідом роботи в SEO та цифровому маркетингу. Даміра згадували в Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto та інші видання. Він подорожує між ОАЕ, Туреччиною, Росією та СНД як цифровий кочівник. Дамір отримав ступінь бакалавра з фізики, що, на його думку, дало йому навички критичного мислення, необхідні для досягнення успіху в Інтернеті, який постійно змінюється.
інші статті
Дамір є керівником групи, менеджером із продуктів і редактором Metaverse Post, що охоплює такі теми, як AI/ML, AGI, LLMs, Metaverse тощо Web3- суміжні поля. Його статті щомісяця приваблюють величезну аудиторію понад мільйон користувачів. Здається, він є експертом із 10-річним досвідом роботи в SEO та цифровому маркетингу. Даміра згадували в Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto та інші видання. Він подорожує між ОАЕ, Туреччиною, Росією та СНД як цифровий кочівник. Дамір отримав ступінь бакалавра з фізики, що, на його думку, дало йому навички критичного мислення, необхідні для досягнення успіху в Інтернеті, який постійно змінюється.
