Технически експерти подписват отворено писмо, призоваващо за временно спиране на обучението на AI системи, по-напреднали от GPT-4
Накратко
Повече от 1100 подписали са подписали отвореното писмо, призоваващо за спиране на гигантските AI експерименти.
Подписалите са Илон Мъск, Стив Возняк и Емад Мостаке, наред с други.
Отвореното писмо изрази загриженост относно информационните пристрастия от AI, автоматизация на работата и риска от ИИ върху човешката цивилизация.
Повече от 1,100 подписали, включително водещи технически експерти, са подписали an отворено писмо призовавайки за шестмесечна пауза в обучението на AI системи, по-напреднали от GPT-4.
Писмото е написано от Future of Life Institute, организация с нестопанска цел, която работи за намаляване на глобалните катастрофални и екзистенциални рискове, пред които е изправено човечеството, особено екзистенциалния риск от напредналия изкуствен интелект.
Цитирайки широко одобрените принципи на Asilomar AI, които гласят, че „Advanced AI може да представлява дълбока промяна в историята на живота на Земята и трябва да бъде планиран и управляван със съразмерна грижа и ресурси“, писмото казва, че нивото на планиране и управлението не се случва.
В писмото се казва още, че лабораториите за изкуствен интелект са в „извън контрол“ надпревара за разработване на все по-мощен изкуствен интелект, който никой не може да разбере, предвиди или надеждно контролира. Както харесват съвременните AI системи GPT-4 мога съревновавайте се с хората относно общите задачи, писмото повдига опасения относно информационните пристрастия от AI, автоматизацията на работата и риска от загуба на контрол върху човешката цивилизация.
„Призоваваме всички лаборатории за изкуствен интелект незабавно да спрат за поне 6 месеца обучението на системи с изкуствен интелект, по-мощни от GPT-4. Тази пауза трябва да бъде публична и да може да се провери и да включва всички ключови участници. Ако подобна пауза не може да бъде въведена бързо, правителствата трябва да се намесят и да наложат мораториум“,
писмото гласи.
Писмото умолява AI лабораториите и техническите експерти да използват периода на пауза, за да разработят и внедрят протоколи за безопасност за усъвършенстван дизайн и разработка на AI, които са стриктно одитирани и наблюдавани от независими външни експерти.
Американският журналист Джеф Джарвис обаче разкритикува писмото, поговорка че е „основен образец на морална паника“.
Някои от водещите умове в технологиите и машинното обучение, които са подписали писмото заедно с изследователите на DeepMind и няколко университетски професори от цял свят, включват:
- Йошуа Бенгио, Университет на Монреал, лауреат на Тюринг за разработване на дълбоко обучение, ръководител на Монреалския институт за алгоритми за обучение
- Стюарт Ръсел, Бъркли, професор по компютърни науки, директор на Центъра за интелигентни системи и съавтор на стандартния учебник „Изкуствен интелект: модерен подход“
- Илон Мъск, главен изпълнителен директор на SpaceX, Tesla и Twitter
- Емад Мостаке, главен изпълнителен директор, Stability AI
- Яан Талин, съосновател на Skype, Център за изследване на екзистенциалния риск, Институт за бъдещето на живота
- Гари Маркъс, Нюйоркски университет, изследовател на ИИ, почетен професор
- Марк Ротенберг, Център за изкуствен интелект и цифрова политика (CAIDP), президент
В скорошно писмо, Ротенберг написа, че CAIDP ще подаде жалба до Федералната търговска комисия, призовавайки за разследване на Open AI и ChatGPT, както и забрана за по-нататъшно търговско пускане на продукта, докато не бъдат установени предпазни мерки.
OpenAI Изпълнителният директор Сам Алтман има допуснати че „ние също се нуждаем от достатъчно време за нашите институции, за да разберат какво да правят“ и че обществото не е далеч от „потенциално страшните“ генеративни инструменти за ИИ.
„Молим FTC да „натисне бутона за пауза“, така че да има възможност нашите институции, нашите закони и нашето общество да наваксат. Трябва да наложим влияние върху технологиите, които създаваме, преди да загубим контрол“, се казва в писмото на CAIDP.
На други места, законодателите на ЕС се стремят да подпишат споразумение със страните от ЕС до края на годината за прилагане на правилата за ИИ, въпреки че това може да се окаже затруднено, тъй като дебатите за това как трябва да се управлява ИИ се засилват.
Чети повече:
Отказ от отговорност
В съответствие с Доверете се насоките на проекта, моля, имайте предвид, че предоставената на тази страница информация не е предназначена да бъде и не трябва да се тълкува като правен, данъчен, инвестиционен, финансов или каквато и да е друга форма на съвет. Важно е да инвестирате само това, което можете да си позволите да загубите, и да потърсите независим финансов съвет, ако имате някакви съмнения. За допълнителна информация предлагаме да се обърнете към правилата и условията, както и към страниците за помощ и поддръжка, предоставени от издателя или рекламодателя. MetaversePost се ангажира с точно, безпристрастно отчитане, но пазарните условия подлежат на промяна без предизвестие.
За автора
Синди е журналист в Metaverse Post, обхващащи теми, свързани с web3, NFT, metaverse и AI, с акцент върху интервюта с Web3 играчи в индустрията. Тя е разговаряла с над 30 ръководители на ниво С и нараства, като е разказала ценните им прозрения на читателите. Първоначално от Сингапур, Синди сега е базирана в Тбилиси, Грузия. Тя има бакалавърска степен по комуникации и медийни изследвания от Университета на Южна Австралия и има десетилетие опит в журналистиката и писането. Свържете се с нея чрез [имейл защитен] с представяния за пресата, съобщения и възможности за интервю.
Още статии
Синди е журналист в Metaverse Post, обхващащи теми, свързани с web3, NFT, metaverse и AI, с акцент върху интервюта с Web3 играчи в индустрията. Тя е разговаряла с над 30 ръководители на ниво С и нараства, като е разказала ценните им прозрения на читателите. Първоначално от Сингапур, Синди сега е базирана в Тбилиси, Грузия. Тя има бакалавърска степен по комуникации и медийни изследвания от Университета на Южна Австралия и има десетилетие опит в журналистиката и писането. Свържете се с нея чрез [имейл защитен] с представяния за пресата, съобщения и възможности за интервю.
