Лидери вештачке интелигенције упозоравају на растуће ризике и етичке проблеме у брзом напредовању
У недавној изјави о политици, истакнуте личности у области вештачке интелигенције, укључујући Бенгиа, Хинтона, Расела, Харарија и Канемана, огласиле су аларм због брзог напретка и растућих друштвених ризика повезаних са вештачком интелигенцијом.
АИ се брзо развија. GPT-2 нису могли да изброје од 0 до 100 пре четири године, али савремени модели могу да пишу код, праве невероватне слике и дају интелектуалне смернице. А пошто смо у трци, напредак може да се убрза. Штавише, вештачка интелигенција напредује брже тако што, на пример, помаже у програмирању нових система и прикупљању података за њихову обуку.
Када напредак достигне људске нивое, нема разлога да се мисли да ће се успорити или зауставити. У одређеним регионима, вештачки системи су већ надмашили људе у овом погледу, излажући могућности као што су бржа обрада брзине, веће капацитете обраде података и скалабилност великих размера. Предузећа поседују финансијска средства за спровођење програма обуке који далеко превазилазе тренутни лимит.
Аутори сматрају да постоји велика шанса да ће се у наредних десетак година појавити бољи АИ генералиста, превазилазећи људске могућности у многим важним доменима.
Шта ће се следеће догодити? Сви животи се могу побољшати ако се њима правилно управља и дистрибуира. Лоше одабрана опција носи са собом значајне ризике за које смо лоше припремљени. Уместо да се издвајају за безбедност и превенцију штете, значајни ресурси се користе за изградњу система вештачке интелигенције који су све моћнији. Ово треба да се промени; само стицање вештина је недовољно. И овај процес траје дуже него што се очекивало. Морамо да планирамо веће ризике пре него што настану предвиђајући ескалацију тренутних претњи и појаву нових. Немамо исто толико времена за вештачку интелигенцију колико је потребно деценијама да буде прихваћено у односу на климатске промене.
Постоје бројни ризици на друштвеном нивоу, укључујући пораст неправде, погоршање стабилности и погоршање опште перцепције стварности. Овде се терористи и криминалци баве великим активностима. АИ би могла постати концентрисана у рукама неколико играча, што би довело до повећања глобалне неједнакости, олакшавања аутоматизованог ратовања, масовне манипулације која је прилагођена сваком појединцу и свеприсутног надзора.
Као аутономна АИ постаје софистициранији и у стању је да планира, деловати у свету и остваривати своје циљеве, ови ризици ће само расти. Ови циљеви можда нису у нашем најбољем интересу и, у случају лоших актера, могу бити чак и штетни. Тренутно је нејасно како да се реши проблем усклађивања вештачке интелигенције, што укључује усклађивање понашања вештачке интелигенције са нашим сложеним циљевима. Штавише, веома је једноставно превидети мере предострожности када се тркате са намером да победите.
Људима је тешко контролисати обичан софтвер, а камоли софистициране системе вештачке интелигенције који постају све вештији у друштвеном инжењерингу, хаковању, обманама и стратешком планирању. Ово је нешто што аутономни АИ системи могу да покупе од људи или да креирају сами.
Ови системи имају способност да изграде коалиције са појединцима и другим системима, придобију поверење, обезбеде финансирање и утичу на доносиоце одлука. Попут црва, они су способни за саморепликацију у целој мрежи. Огромне количине кода су већ написане уз помоћ АИ асистената; у будућности, системи могу укључити експлоатације у бројне кључне системе. Системи вештачке интелигенције имају способност да користе или прете биолошким или аутономним оружјем у отвореној борби. Ово је само наставак тренутна кретања ка биолошким истраживањима, вештачкој интелигенцији и аутоматизацији ратовања. Људима би могло бити превише изазовно да уђу и да се одупру.
У многим случајевима, спремни смо да им дамо узде, а да они ни не морају да траже. Многи појединци и предузећа су вољни да сами поставе такве системе у конкурентном окружењу из забринутости да ће заостати за конкуренцијом.
Комплетан документ се може наћи ovde.
Одрицање од одговорности
У складу са Смернице пројекта Труст, имајте на уму да информације дате на овој страници нису намењене и не треба да се тумаче као правни, порески, инвестициони, финансијски или било који други облик савета. Важно је да инвестирате само оно што можете приуштити да изгубите и да тражите независан финансијски савет ако сумњате. За додатне информације, предлажемо да погледате одредбе и услове, као и странице помоћи и подршке које пружа издавач или оглашивач. MetaversePost је посвећен тачном, непристрасном извештавању, али тржишни услови су подложни променама без претходне најаве.
О аутору
Дамир је вођа тима, менаџер производа и уредник у Metaverse Post, покривајући теме као што су АИ/МЛ, АГИ, ЛЛМ, Метаверсе и Web3-сродна поља. Његови чланци привлаче огромну публику од преко милион корисника сваког месеца. Чини се да је стручњак са 10 година искуства у СЕО и дигиталном маркетингу. Дамир се помиње у Масхабле, Виред, Cointelegraph, Тхе Нев Иоркер, Инсиде.цом, Ентрепренеур, БеИнЦрипто и друге публикације. Путује између УАЕ, Турске, Русије и ЗНД као дигитални номад. Дамир је стекао диплому физике, за коју верује да му је дало вештине критичког размишљања које су му потребне да буде успешан у свету интернета који се стално мења.
više чланака
Дамир је вођа тима, менаџер производа и уредник у Metaverse Post, покривајући теме као што су АИ/МЛ, АГИ, ЛЛМ, Метаверсе и Web3-сродна поља. Његови чланци привлаче огромну публику од преко милион корисника сваког месеца. Чини се да је стручњак са 10 година искуства у СЕО и дигиталном маркетингу. Дамир се помиње у Масхабле, Виред, Cointelegraph, Тхе Нев Иоркер, Инсиде.цом, Ентрепренеур, БеИнЦрипто и друге публикације. Путује између УАЕ, Турске, Русије и ЗНД као дигитални номад. Дамир је стекао диплому физике, за коју верује да му је дало вештине критичког размишљања које су му потребне да буде успешан у свету интернета који се стално мења.
