Дан Хендрикс: Бирајући између вештачке интелигенције и људи, еволуција неће изабрати нас
Укратко
Истраживање Дана Хендрикса „Природна селекција преферира вештачку интелигенцију од људи“ је застрашујући закључак.
Он је искусан и познат истраживач који је објавио десетине научних радова о процени безбедности АИ система.
Истраживање Дана Хендрикса звучи као смртна казна за Хомо Сапиенса. Закључак студије „Природна селекција даје предност АИ у односу на људе” је заиста застрашујуће. Ово није написао популарни визионар као што је Ден Браун, већ Дан Хендрикс, директор Калифорнијског центра за АИ безбедност (ЦАИС), непрофитне организације специјализоване за истраживање и теренски рад у АИ безбедности.
Ден Хендрикс није крајњи лудак који паничи због напредовања вештачке интелигенције. Он је искусан и веома цењен истраживач који је објавио десетине научних радова о процени безбедности АИ система — тестирајући колико су они добри у кодирању, закључивању, разумевању закона итд. Између осталог, он је и ко-изумитељ Гаусове јединице линеарне грешке (ГЕЛУ).
Џек Кларк, суоснивач ChatGPT такмичар Антропик, копредседавајући Индекса вештачке интелигенције Универзитета Стенфорд, копредседавајући секције за вештачку интелигенцију и рачунарство ОЕЦД-а и члан Националног саветодавног комитета владе САД за вештачку интелигенцију, разматра закључак Хендриксове студије. „Људи рефлексно желе да одбаце такву изјаву као да долази од неког лудака дивљих очију који живи у шумској колиби. Желео бих да ово унапред оповргнем. Када стручњак који има искуство не само у истраживању вештачке интелигенције већ и у процена безбедности АИ система пише рад у којем се тврди да будући системи вештачке интелигенције могу деловати себично и не у складу са интересима људи, ми треба да водимо рачуна о томе!
Резиме Хендриксовог рада:
- Ако АИ агената постане више интелигентнији од људи, ово би могло довести до тога да човечанство изгуби контролу над својом будућношћу.
- Ово има добре шансе да се догоди не као резултат неке посебне злонамерне намере људи или машина, већ искључиво као резултат применљивости еволуционих принципа развоја на АИ према дарвинистичкој логици.
- Да би се ризик од овога свео на најмању могућу меру, унутрашње мотивације агената вештачке интелигенције треба пажљиво осмислити, поставити ограничења на њихове акције и створити институције које ће подстицати сарадњу са вештачком интелигенцијом.
То јест, најзначајније тачке које Хендрикс износи у свом научном раду од 43 странице:
1. Плашили смо се доласка Терминатора, али су темељи ових страхова били погрешни. Дошло је до две грешке:
а. Антропоморфизација АИ са приписивањем наше мотивације њој, итд.—као ChatGPT показало, АИ је суштински другачији ум, са свим последицама које из тога произилазе.
б. Идеја да је АИ нека врста јединственог ентитета: паметан или не баш паметан, љубазан или не баш љубазан, али у ствари, ових веома различитих АИ ентитета ће ускоро бити у свету што је више могуће.
2. Постоји још једна фундаментална мана у нашим идејама о будућности са вештачком интелигенцијом — заборавили смо на најважнији развојни механизам — еволуцију, која покреће развој не само биоагенаса већ и идеја и значења, материјалних оруђа и нематеријалних институција.
3. Окружење је већ почело да се обликује на Земљи у којем ће се развијати и еволуирати многи АИ. Ова еволуција ће се одвијати по Дарвиновој логици, кроз АИ такмичење међу њима, узимајући у обзир интересе њихових „родитељских” институција: корпорација, војске итд.
4. Логика такмичарске еволуције ће довести до истог као код људи: све интелигентнији АИ агенти ће постајати све себичнији и спремнији да постигну циљеве преваром и силом, а главни циљ је моћ.
5. Природна селекција агената вештачке интелигенције тежи да фаворизује себичније врсте у односу на оне алтруистичније. Агенти вештачке интелигенције ће се понашати себично и следити сопствене интересе без обзира на људе, што би могло довести до катастрофалних ризика за човечанство.
- Петиција да престане да развија АИ системе напредније од GPT-4 је поларизовано друштво. Прва група верује да се напредак не може зауставити, док друга верује да напредак, а понекад и да га треба зауставити. Трећа група не разуме како GPT-4 делује на првом месту. Најважнији детаљи у овом тексту су да вештачка интелигенција нема свест, вољу или агенцију и да може бити лоша и без злонамерних људи.
- Џефрија Хинтона често називају „Кумом вештачке интелигенције“ и сматра се водећом фигуром у заједници дубоког учења. Његов 40-минутни интервју са ChatGPT је јединствен по томе што је лак за разумевање и по томе што има дубину разумевања доступну малобројним. Он наглашава важност текуће „интелектуалне револуције“ и нељудске интелигенције ChatGPT, који се заснива на вештачки интелигентном агенту са напредним могућностима дигиталне комуникације.
Прочитајте још сродних чланака:
Одрицање од одговорности
У складу са Смернице пројекта Труст, имајте на уму да информације дате на овој страници нису намењене и не треба да се тумаче као правни, порески, инвестициони, финансијски или било који други облик савета. Важно је да инвестирате само оно што можете приуштити да изгубите и да тражите независан финансијски савет ако сумњате. За додатне информације, предлажемо да погледате одредбе и услове, као и странице помоћи и подршке које пружа издавач или оглашивач. MetaversePost је посвећен тачном, непристрасном извештавању, али тржишни услови су подложни променама без претходне најаве.
О аутору
Дамир је вођа тима, менаџер производа и уредник у Metaverse Post, покривајући теме као што су АИ/МЛ, АГИ, ЛЛМ, Метаверсе и Web3-сродна поља. Његови чланци привлаче огромну публику од преко милион корисника сваког месеца. Чини се да је стручњак са 10 година искуства у СЕО и дигиталном маркетингу. Дамир се помиње у Масхабле, Виред, Cointelegraph, Тхе Нев Иоркер, Инсиде.цом, Ентрепренеур, БеИнЦрипто и друге публикације. Путује између УАЕ, Турске, Русије и ЗНД као дигитални номад. Дамир је стекао диплому физике, за коју верује да му је дало вештине критичког размишљања које су му потребне да буде успешан у свету интернета који се стално мења.
više чланака
Дамир је вођа тима, менаџер производа и уредник у Metaverse Post, покривајући теме као што су АИ/МЛ, АГИ, ЛЛМ, Метаверсе и Web3-сродна поља. Његови чланци привлаче огромну публику од преко милион корисника сваког месеца. Чини се да је стручњак са 10 година искуства у СЕО и дигиталном маркетингу. Дамир се помиње у Масхабле, Виред, Cointelegraph, Тхе Нев Иоркер, Инсиде.цом, Ентрепренеур, БеИнЦрипто и друге публикације. Путује између УАЕ, Турске, Русије и ЗНД као дигитални номад. Дамир је стекао диплому физике, за коју верује да му је дало вештине критичког размишљања које су му потребне да буде успешан у свету интернета који се стално мења.
