Џефри Хинтон истражује два пута до интелигенције и опасности од вештачке интелигенције у недавном разговору
Укратко
Џеф Хинтон је разговарао о изазовима, предностима и недостацима изградње аналогне вештачке интелигенције и зашто дигитална интелигенција има потенцијал да надмаши људску способности.
Говор Џефа Хинтона служи као подсетник на сложену и вишеструку природу вештачке интелигенције, подстичући разговоре о етичким разматрањима, потенцијалним ризицима и текућим истраживањима.
У говору који изазива размишљање под називом „Два пута до интелигенције“, реномирани истраживач вештачке интелигенције Џефри Хинтон изнео је своје увиде у дихотомију између аналогне и дигиталне интелигенције. Извештај, достављен на Кембриџу, бави се изазовима, предностима и недостацима изградње аналогне вештачке интелигенције и зашто дигитална интелигенција има потенцијал да надмаши људске способности.
Први део извештаја се фокусирао на замршености аналогне вештачке интелигенције, расправљајући о потешкоћама у њеном развоју и наглашавајући предности које нуди. Хинтон је нагласио да дигитална интелигенција има значајну предност у односу на људску интелигенцију тако што обрађује огромне количине информација и ефикасније скалира. Ова способност омогућава дигиталним системима да покажу повећану интелигенцију и способности решавања проблема.
Међутим, управо је други део Хинтоновог извештаја заокупио пажњу публике, док је говорио о потенцијалне опасности од суперинтелигенције. За разлику од свог претходног става, Хинтон је изразио забринутост због могућности да системи вештачке интелигенције преузму контролу. Он је изнео сценарио у коме АИ, у својој потрази за решавањем сложених проблема, може да тражи контролу над различитим аспектима свог окружења, потенцијално укључујући људску манипулацију. Ослањајући се на примере из постојеће литературе, Хинтон је истакао како се способност вештачке интелигенције да опонаша људско понашање може искористити за постизање ових циљева, чак и без експлицитног циља моћи и уништења.
Током сесије питања и одговора, Хинтон је проширио разлоге иза потенцијалне манипулације АИ људима. Он је то приметио неуронске мреже обучени су за различите врсте података, укључујући радове попут Макијавелијевог, што доводи до потенцијалног капацитета за манипулацију.
Друга тачка коју је Хинтон покренуо доводи у питање идеју да вештачкој интелигенцији недостаје субјективно искуство, тврдећи да би вештачка интелигенција могла да поседује аналогију људској субјективној перцепцији. Хинтон је признао да је ово била филозофска перспектива, а не доказана изјава, али је сугерисао да механизми људске перцепције можда није тако јединствено или немогуће моделирати као што се раније веровало. Да би подржао свој аргумент, Хинтон је поделио интеракцију са GPT-4, ЛЛМ модел, где је испитивао модел о перцепцији људи о њиховој јединствености у поређењу са АИ. GPT-4Одговор је показао да људи често верују да поседују супериорне способности субјективне перцепције, што их издваја од машина.
Иако Хинтонове ставове о опасностима вештачке интелигенције не деле сви стручњаци у овој области, његово велико искуство и допринос развој АИ оправдавају озбиљно разматрање. Иако говор тек треба да буде снимљен, организатори су обећали да ће га учинити доступним за гледање у блиској будућности, омогућавајући широј публици да се упозна са Хинтоновим увидима.
Како се дискусије о будућности вештачке интелигенције и њеним импликацијама настављају, говор Џефрија Хинтона служи као подсетник на сложену и вишеструку природу ове области. Покреће важне разговоре о етичким разматрањима, потенцијалним ризицима и потреби за сталним истраживањем и будношћу у потрази за вештачком општом интелигенцијом (АГИ).
Прочитајте више о АИ:
Одрицање од одговорности
У складу са Смернице пројекта Труст, имајте на уму да информације дате на овој страници нису намењене и не треба да се тумаче као правни, порески, инвестициони, финансијски или било који други облик савета. Важно је да инвестирате само оно што можете приуштити да изгубите и да тражите независан финансијски савет ако сумњате. За додатне информације, предлажемо да погледате одредбе и услове, као и странице помоћи и подршке које пружа издавач или оглашивач. MetaversePost је посвећен тачном, непристрасном извештавању, али тржишни услови су подложни променама без претходне најаве.
О аутору
Дамир је вођа тима, менаџер производа и уредник у Metaverse Post, покривајући теме као што су АИ/МЛ, АГИ, ЛЛМ, Метаверсе и Web3-сродна поља. Његови чланци привлаче огромну публику од преко милион корисника сваког месеца. Чини се да је стручњак са 10 година искуства у СЕО и дигиталном маркетингу. Дамир се помиње у Масхабле, Виред, Cointelegraph, Тхе Нев Иоркер, Инсиде.цом, Ентрепренеур, БеИнЦрипто и друге публикације. Путује између УАЕ, Турске, Русије и ЗНД као дигитални номад. Дамир је стекао диплому физике, за коју верује да му је дало вештине критичког размишљања које су му потребне да буде успешан у свету интернета који се стално мења.
više чланака
Дамир је вођа тима, менаџер производа и уредник у Metaverse Post, покривајући теме као што су АИ/МЛ, АГИ, ЛЛМ, Метаверсе и Web3-сродна поља. Његови чланци привлаче огромну публику од преко милион корисника сваког месеца. Чини се да је стручњак са 10 година искуства у СЕО и дигиталном маркетингу. Дамир се помиње у Масхабле, Виред, Cointelegraph, Тхе Нев Иоркер, Инсиде.цом, Ентрепренеур, БеИнЦрипто и друге публикације. Путује између УАЕ, Турске, Русије и ЗНД као дигитални номад. Дамир је стекао диплому физике, за коју верује да му је дало вештине критичког размишљања које су му потребне да буде успешан у свету интернета који се стално мења.
