Стручњаци за вештачку интелигенцију и јавне личности упозоравају на ризик од изумирања вештачке интелигенције
Укратко
Истакнути стручњаци за вештачку интелигенцију и утицајне личности изражавају своје заједничко забринутост у вези са ризицима повезаним са АИ.
Упркос значајном напретку у области вештачке интелигенције, многи изазови у вези са ризиком од вештачке интелигенције остају нерешени.
Истакнути стручњаци за вештачку интелигенцију и јавне личности објавили су саопштење у којем упозоравају да би вештачка интелигенција могла да представља претњу по опстанак човечанства, упоредиву или чак већу од ризика од пандемије и нуклеарног рата. 350 потписника тврди да би вештачка интелигенција могла да има непредвиђене и катастрофалне последице, као што је ослобађање аутономног оружја, нарушавање друштвених и економских система или стварање суперинтелигентних агената који би могли да надмудре и надјачају људе.
Они позивају креаторе политике да озбиљно схвате ове ризике и да усвоје мере како би осигурали сигуран и користан развој вештачке интелигенције. Тһе изјава потписују неке од водећих личности у истраживању и развоју вештачке интелигенције, као нпр OpenAI Извршни директор Сем Алтман, суоснивач Скипе-а Јаан Таллинн, извршни директор ДеепМинда Демис Хассабис и компјутерски научник АИ Џефри Хинтон, као и утицајне јавне личности, као што су музичар Грајмс и подкастер Сем Харис.
Међу потписницима су били добитници Турингове награде за 2018. за допринос дубоком учењу: Џефри Һинтон и Јошуа Бенђо. Њима су се придружили професори са престижниһ универзитета као што су Һарвард и Универзитет Тсингһуа у Кини, као и Макс Тегмарк са МИТ-а.
„Ублажавање ризика од изумирања од вештачке интелигенције требало би да буде глобални приоритет поред других друштвених ризика као што су пандемије и нуклеарни рат“,
наводи се у писму које је објавио ЦАИС.
Центар за безбедност вештачке интелигенције (ЦАИС), непрофитна организација са седиштем у Сан Франциску, има за циљ да се позабави безбедносним проблемима у вези са вештачком интелигенцијом. Иако препознаје потенцијалне предности вештачке интелигенције, ЦАИС наглашава потребу да се она развије и безбедно користи. Упркос значајном напретку у АИ, бројни фундаментални изазови у безбедности АИ остају нерешени, сматра компанија. Према његовој веб страници, мисија ЦАИС-а је да ублажи ризике спровођењем безбедносних истраживања, неговањем заједнице истраживача безбедности АИ и залагањем за безбедносне стандарде.
„Постоји много „важниһ и һитниһ ризика од АИ“, а не само ризик од изумирања; на пример, системска пристрасност, дезинформације, злонамерна употреба, сајбер напади и употреба оружја. Све су то важни ризици на које треба обратити пажњу. Друштва могу управљати вишеструким ризицима одједном; није „или/или” већ „да/и”. Из перспективе управљања ризиком, као што би било непромишљено давати приоритете искључиво садашњој штети, било би несмотрено и игнорисати их.
Дан Хендрикс, директор ЦАИС-а wrote (написано) на Твиттер-у.
У марту, преко 1,100 техничких стручњака потписан отворено писмо у коме се захтева шестомесечни прекид обучавања система вештачке интелигенције GPT-4. Европски законодавци такође недавно одобрен строжи нацрт закона, познат као Закон о вештачкој интелигенцији, који регулише алате за вештачку интелигенцију као што су ChatGPT. Закон укључује захтеве за безбедносне провере, управљање подацима и смањење ризика за основне моделе вештачке интелигенције и забрањује праксе попут манипулативних техника и одређене употребе биометрије.
Опширније:
- OpenAI Открива свој најновији приступ обезбеђивању безбедности вештачке интелигенције
- Да ли ће Гоогле објавити генератор текста у аватар за играче?
- Амазонов ЦодеВхисперер даје програмерима предност која им је потребна у АИ арени
- Виталик Бутерин и директор МИРИ-ја Нејт Соарес упуштају се у опасности од вештачке интелигенције
Одрицање од одговорности
У складу са Смернице пројекта Труст, имајте на уму да информације дате на овој страници нису намењене и не треба да се тумаче као правни, порески, инвестициони, финансијски или било који други облик савета. Важно је да инвестирате само оно што можете приуштити да изгубите и да тражите независан финансијски савет ако сумњате. За додатне информације, предлажемо да погледате одредбе и услове, као и странице помоћи и подршке које пружа издавач или оглашивач. MetaversePost је посвећен тачном, непристрасном извештавању, али тржишни услови су подложни променама без претходне најаве.
О аутору
Агне је новинарка која покрива најновије трендове и развој метаверзума, вештачке интелигенције и Web3 индустрије за Metaverse Post. Њена страст за приповедањем прича ју је навела да води бројне интервјуе са стручњацима из ових области, увек настојећи да открије узбудљиве и занимљиве приче. Агне је дипломирала књижевност и има богато искуство у писању о широком спектру тема, укључујући путовања, уметност и културу. Такође је волонтирала као уредница за организацију за права животиња, где је помогла у подизању свести о питањима добробити животиња. Контактирајте је [емаил заштићен].
više чланака
Агне је новинарка која покрива најновије трендове и развој метаверзума, вештачке интелигенције и Web3 индустрије за Metaverse Post. Њена страст за приповедањем прича ју је навела да води бројне интервјуе са стручњацима из ових области, увек настојећи да открије узбудљиве и занимљиве приче. Агне је дипломирала књижевност и има богато искуство у писању о широком спектру тема, укључујући путовања, уметност и културу. Такође је волонтирала као уредница за организацију за права животиња, где је помогла у подизању свести о питањима добробити животиња. Контактирајте је [емаил заштићен].
