Експерти зі штучного інтелекту та громадські діячі б’ють тривогу щодо ризику зникнення штучного інтелекту
Коротко
Відомі експерти зі штучного інтелекту та впливові особи висловлюють свою думку занепокоєння щодо ризиків, пов’язаних із ШІ.
Незважаючи на значний прогрес у ШІ, багато проблем, пов’язаних із ризиком ШІ, залишаються невирішеними.
Відомі експерти зі штучного інтелекту та громадські діячі виступили із заявою, в якій попереджають, що штучний інтелект може становити загрозу для виживання людства, порівнянну з ризиками пандемій і ядерної війни або навіть більшу за них. 350 підписантів стверджують, що штучний інтелект може мати непередбачені та катастрофічні наслідки, такі як розв’язування автономної зброї, підрив соціальних та економічних систем або створення суперрозумних агентів, які могли б перехитрити та здолати людей.
Вони закликають політиків серйозно поставитися до цих ризиків і вжити заходів для забезпечення безпечної та корисної розробки ШІ. The заяву підписаний деякими провідними діячами в галузі досліджень і розробок ШІ, як-от OpenAI Генеральний директор Сем Альтман, співзасновник Skype Яан Таллінн, генеральний директор DeepMind Деміс Хассабіс і вчений зі штучного інтелекту Джеффрі Хінтон, а також впливові публічні особистості, такі як музикант Граймс і подкастер Сем Гарріс.
Серед підписантів були лауреати премії Тюрінга 2018 року за внесок у глибоке навчання: Джеффрі Хінтон і Йошуа Бенгіо. До них приєдналися професори престижних університетів, таких як Гарвард і Університет Цінхуа в Китаї, а також Макс Тегмарк з MIT.
«Зменшення ризику зникнення через ШІ повинно бути глобальним пріоритетом поряд з іншими ризиками суспільного масштабу, такими як пандемії та ядерна війна»,
– йдеться в листі, опублікованому CAIS.
Центр безпеки ШІ (CAIS), некомерційна організація, що базується в Сан-Франциско, має на меті вирішити проблеми безпеки, пов’язані зі штучним інтелектом. Визнаючи потенційні переваги ШІ, CAIS наголошує на необхідності його розробки та безпечного використання. Незважаючи на значний прогрес у ШІ, численні фундаментальні проблеми безпеки ШІ залишаються невирішеними, вважає компанія. Згідно з веб-сайтом CAIS, місія CAIS полягає в зменшенні ризиків шляхом проведення досліджень безпеки, сприяння спільноті дослідників безпеки ШІ та пропаганди стандартів безпеки.
«Існує багато «важливих і невідкладних ризиків від штучного інтелекту», а не тільки ризик зникнення; наприклад, системне упередження, дезінформація, зловмисне використання, кібератаки та використання зброї. Це всі важливі ризики, на які необхідно звернути увагу. Суспільство може керувати кількома ризиками одночасно; це не «або/або», а «так/і». З точки зору управління ризиками, так само, як було б безрозсудно віддавати виняткову пріоритетність поточній шкоді, було б також безрозсудно ігнорувати їх»,
Ден Хендрікс, директор CAIS пише на Twitter.
У березні понад 1,100 технічних експертів підписаний відкритого листа з вимогою припинити на півроку навчання систем ШІ GPT-4. Європейські законодавці теж нещодавно затверджений більш суворий проект законодавства, відомий як Закон про штучний інтелект, який регулює такі інструменти, як ШІ ChatGPT. Закон містить вимоги щодо перевірки безпеки, управління даними та зниження ризиків для базових моделей штучного інтелекту та забороняє такі практики, як маніпуляції та певне використання біометрії.
Детальніше:
- OpenAI Розкриває свій останній підхід до забезпечення безпеки ШІ
- Чи збирається Google анонсувати генератор тексту в аватар для геймерів?
- CodeWhisperer від Amazon дає розробникам необхідні переваги на арені ШІ
- Віталік Бутерін і директор MIRI Нейт Соарес досліджують небезпеки ШІ
відмова
Відповідно до Правила проекту Trust, будь ласка, зверніть увагу, що інформація, надана на цій сторінці, не призначена і не повинна тлумачитися як юридична, податкова, інвестиційна, фінансова або будь-яка інша форма консультації. Важливо інвестувати лише те, що ви можете дозволити собі втратити, і звернутися за незалежною фінансовою порадою, якщо у вас виникнуть сумніви. Щоб отримати додаткову інформацію, ми пропонуємо звернутися до положень та умов, а також до сторінок довідки та підтримки, наданих емітентом або рекламодавцем. MetaversePost прагне до точного, неупередженого звітування, але ринкові умови можуть змінюватися без попередження.
про автора
Агне — журналістка, яка висвітлює останні тенденції та події в метавсесвіті, ШІ та Web3 промисловості для Metaverse Post. Її пристрасть до оповідання привела її до численних інтерв’ю з експертами в цих галузях, завжди прагнучи розкрити захоплюючі та привабливі історії. Агне має ступінь бакалавра літератури та має великий досвід написання текстів на різноманітні теми, включаючи подорожі, мистецтво та культуру. Вона також була волонтером редактора організації з прав тварин, де допомагала підвищувати обізнаність про проблеми добробуту тварин. Зв'яжіться з нею [захищено електронною поштою].
інші статті
Агне — журналістка, яка висвітлює останні тенденції та події в метавсесвіті, ШІ та Web3 промисловості для Metaverse Post. Її пристрасть до оповідання привела її до численних інтерв’ю з експертами в цих галузях, завжди прагнучи розкрити захоплюючі та привабливі історії. Агне має ступінь бакалавра літератури та має великий досвід написання текстів на різноманітні теми, включаючи подорожі, мистецтво та культуру. Вона також була волонтером редактора організації з прав тварин, де допомагала підвищувати обізнаність про проблеми добробуту тварин. Зв'яжіться з нею [захищено електронною поштою].
