OpenAI Подиже узбуну због суперинтелигенције и потенцијала вештачке интелигенције да надмаши људске способности у наредној деценији
Укратко
OpenAI издаје позив за регулисање суперинтелигенције, наглашавајући потребу за управљањем у светлу брзог напретка вештачке интелигенције.
Пројектовано је да системи вештачке интелигенције превазиђу људску стручност и корпоративну продуктивност у року од једне деценије, према OpenAI.
OpenAI наглашава важност јавног надзора и демократске контроле за моћне АИ системе.
OpenAI, креатор ChatGPT, упутио је позив на размишљање за регулација суперинтелигенције, повлачећи паралеле са регулацијом нуклеарне енергије. У недавном блог пост, OpenAI истакао потенцијалне импликације брзог напретка АИ и нагласио хитну потребу за управљањем у овом еволуирајућем пејзажу. Компанија је навела да ће системи вештачке интелигенције надмашити стручњаке и највеће корпорације у продуктивности и вештинама у року од десет година.
„Морамо да ублажимо и ризике данашње технологије вештачке интелигенције, али суперинтелигенција ће захтевати посебан третман и координацију,“ Сам Алтман, Грег Брокман и Иља Сутскевер из OpenAI наглашено.
Суперинтелигенција описује ентитет који превазилази укупну људску интелигенцију или неке специфичне аспекте интелигенције. Према ауторима, АИ суперинтелигенција ће имати неупоредив ниво моћи, обухватајући и позитивне и негативне аспекте.
Развој и ризици неизбежне суперинтелигенције
OpenAI је идентификовао три важне идеје које играју кључну улогу у кретању успешног развоја суперинтелигенције. То укључује координацију између водећих развојних напора, успостављање међународног органа који је сличан Међународној агенцији за атомску енергију (ИАЕА) и развој техничких способности за безбедност.
Док OpenAI признаје да системи вештачке интелигенције носе ризике, ови ризици су упоредиви са онима повезаним са другим технологијама у вези са интернетом. Алтман, Броцкман и Сутскевер такође изражавају уверење да су тренутни приступи друштва управљању овим ризицима одговарајући. Међутим, главна брига је око будућих система који ће имати моћ без преседана.
„Насупрот томе, системи за које смо забринути имаће моћ изван било које технологије која је још створена, и требало би да будемо опрезни да не разводнимо фокус на њих применом сличних стандарда на технологију далеко испод ове границе“, наводи се у блогу.
Аутори тврде да је моћним системима вештачке интелигенције потребан јавни надзор и демократска контрола. Они такође објашњавају зашто граде ову технологију OpenAI: створити бољи свет и избећи ризике његовог заустављања. АИ помаже у различитим областима, укључујући образовање, креативност и продуктивност, као и општи економски раст.
OpenAI сматра да је то тешко и ризично заустави суперинтелигенцију од стварања. Суперинтелигенција има значајне предности, сваке године је све јефтинија, све више људи ради на њој и део је технолошког пута компаније.
Илман Шажајев, технички предузетник у области вештачке интелигенције и суоснивач Фарцана Лабс, поделио је неколико коментара у вези са вестима. Пројекције показују да, ако се не њоме правилно управља, суперинтелигенција може бити један од најразорнијих људских изума свих времена. Међутим, разговори о примени технологије и даље изазивају поделе, јер још увек није развијена. Потицање на заустављање развоја засновано на страху од предвиђања може лишити човечанство могућности које би нова технологија могла да има.
"OpenAIПриступ децентрализованог управљања може помоћи у одржавању његове широке безбедности. Уз одговарајуће прописе, програм би могао бити угашен у случају да се то догоди представља претњу. Ако ови заштитни механизми буду на месту, онда би суперинтелигенција могла бити иновација коју вреди истражити“, рекао је Шажајев.
Отворено расправљајући о својим ставовима о суперинтелигенцији АИ и предложеним регулаторним мерама, OpenAI чини се да подстиче информисане дискусије и позива различите перспективе.
Сам Алтман снажно верује у широкој доступности АИ јавности. Признајући да је немогуће унапред предвидети све проблеме, он се залаже за решавање проблема у што ранијој фази. Међутим, Алтман такође наглашава важност независних ревизија за системе као што су ChatGPT пре ослобађања. Он даље признаје могућност спровођења мера као што је ограничавање темпа креирања новог модела или успостављање одбора за процени безбедност АИ модела пре пуштања на тржиште. Алтман предвиђа да ће се количина интелигенције у универзуму удвостручити сваких 18 месеци.
Опширније:
Одрицање од одговорности
У складу са Смернице пројекта Труст, имајте на уму да информације дате на овој страници нису намењене и не треба да се тумаче као правни, порески, инвестициони, финансијски или било који други облик савета. Важно је да инвестирате само оно што можете приуштити да изгубите и да тражите независан финансијски савет ако сумњате. За додатне информације, предлажемо да погледате одредбе и услове, као и странице помоћи и подршке које пружа издавач или оглашивач. MetaversePost је посвећен тачном, непристрасном извештавању, али тржишни услови су подложни променама без претходне најаве.
О аутору
Агне је новинарка која покрива најновије трендове и развој метаверзума, вештачке интелигенције и Web3 индустрије за Metaverse Post. Њена страст за приповедањем прича ју је навела да води бројне интервјуе са стручњацима из ових области, увек настојећи да открије узбудљиве и занимљиве приче. Агне је дипломирала књижевност и има богато искуство у писању о широком спектру тема, укључујући путовања, уметност и културу. Такође је волонтирала као уредница за организацију за права животиња, где је помогла у подизању свести о питањима добробити животиња. Контактирајте је [емаил заштићен].
više чланака
Агне је новинарка која покрива најновије трендове и развој метаверзума, вештачке интелигенције и Web3 индустрије за Metaverse Post. Њена страст за приповедањем прича ју је навела да води бројне интервјуе са стручњацима из ових области, увек настојећи да открије узбудљиве и занимљиве приче. Агне је дипломирала књижевност и има богато искуство у писању о широком спектру тема, укључујући путовања, уметност и културу. Такође је волонтирала као уредница за организацију за права животиња, где је помогла у подизању свести о питањима добробити животиња. Контактирајте је [емаил заштићен].
