Виталик Бутерин и директор МИРИ-ја Нејт Соарес удубљују се у опасности од вештачке интелигенције: да ли вештачка интелигенција може да изазове изумирање људи?
Укратко
Оснивач Етхереума Виталик Бутерин и директор Института за истраживање машинске интелигенције Нате Соарес разговарали су данас о ризицима вештачке интелигенције у Зузалуу.
Зузалу је поп-уп градска заједница у Црној Гори коју су покренули Бутерин и његови вршњаци у крипто заједници.
У дискусији, Соарес је поделио своју перспективу о томе зашто је велика вероватноћа да ће вештачка интелигенција окончати цео живот на Земљи.
Оснивач Етхереума Виталик Бутерин и директор Института за истраживање машинске интелигенције (МИРИ) Нате Соарес разговарали су данас о ризицима вештачке интелигенције у Зузалу.
Зузалу је „поп-уп градска заједница“ у Црној Гори коју су покренули Бутерин и његови вршњаци у крипто заједници која траје од 25. марта до 25. маја. Догађај окупља 200 кључних становника са заједничком жељом да уче, стварају, живе дуже и здравије живи и гради самоодрживе заједнице. Током два месеца, заједница је такође домаћин низа догађаја на различите теме као што су синтетичка биологија, технологија за приватност, јавна добра, дуговечност, управљање и још много тога.
дискусија отворио је Соарес који је представио свој рад у МИРИ, непрофитној организацији са Берклијем која постоји дуже него што је он води. У протеклих 20 година, МИРИ је покушавао да постави темеље како би осигурао да развој вештачке интелигенције иде добро. Током дискусије, Виталик се надао да ће се позабавити тиме шта АИ чини јединствено ризичним у поређењу са другим технологијама објављеним у људској историји.
Вероватноћа да АИ изазове изумирање људи
Виталик је рекао да га тема ризика од вештачке интелигенције занима већ дуже време и да се сећа да је уверен да постоји шанса од 0.5%-1% да ће сав живот на Земљи престати да постоји ако вештачка интелигенција крене наопако – егзистенцијални ризик који би проузроковао изумирање људске расе или неповратни колапс људске цивилизације.
Из Соаресове перспективе, изумирање људи изгледа као подразумевани исход несигурног развоја АИ технологије. Упоређујући то са еволуцијом, рекао је да се чинило да се развој човечанства одвија брже него што су се одвијале пуке еволуционе промене. И у процесима вештачке интелигенције иу процесу људске еволуције, доминантна оптимизација – процес проналажења најбољег решења за проблем када постоји више циљева које треба размотрити – се мењала. Људи су достигли тачку у којој су могли да пренесу знање усменом предајом уместо да им информације буду повезане у гене путем природне селекције.
„АИ је на крају случај где можете поново да промените процес макроскопске оптимизације. Мислим да можете много боље од људи у оптимизацији. Мислим да смо још увек прилично глупи када је у питању оптимизација нашег окружења. Са вештачком интелигенцијом, пролазимо кроз фазну транзицију у којој је аутоматска оптимизација сила која одређује макроскопске карактеристике универзума“, објаснио је Соарес.
Додао је да та будућност изгледа оно за шта се оптимизује процес оптимизације и да ће то вероватно престати да буде од користи за човечанство јер већина циљева оптимизације нема места за људе.
| Прочитајте: Консултантска фирма Акон Партнерс Гроуп објавила извештај „Прихватање вештачке интелигенције у 2023.“ |
Могу ли људи обучити АИ да чини добро?
Бутерин је истакао да су људи ти који обучавају вештачку интелигенцију и говоре јој како да се оптимизује. Ако је потребно, могли би да промене начин на који је машина оптимизована. На то, Соарес је рекао да је у принципу могуће обучити АИ да чини добро, али једноставно обучавање АИ да постигне циљ не значи да би то желео или жели да уради, своди се на жељу.
Наглашавајући учење са појачањем у великим језичким моделима који добијају велике количине података о томе шта су људске преференције, Бутерин је питао зашто то не би функционисало, јер постојећа интелигенција постаје све боља у разумевању наших преференција.
„Постоји велики јаз између разумевања наше мотивације и срања,“
Соарес је одговорио.
„Моја тврдња није да велики језички модел или АИ неће разумети ситнице људских преференција. Моја тврдња је да је разумевање ситница људских преференција веома различито од оптимизације за доброту“, додао је он.
Члан публике је направио поређење између вештачке интелигенције и људи, рекавши да, као и вештачка интелигенција, људи обично не разумеју шта раде или предвиђају, што би такође могло бити опасно. Затим је замолио Соареса да се претвара да је ванземаљац и објасни зашто не би требало да постоје људи.
„Не бих био одушевљен давањем божанских моћи и контроле над будућношћу једном човеку. Одвојено, био бих много више одушевљен да дам моћ једном појединачном човеку него насумично додељеној вештачкој интелигенцији. Изричито не кажем да не би требало да имамо вештачку интелигенцију. Кажем да морамо то да исправимо. Морамо да их натерамо да брину о будућности која је пуна забаве и среће и цветања цивилизација у којима се трансљуди баве трговином позитивних сума са ванземаљцима и тако даље“, појаснио је Соарес. „Ако изградите снажан процес оптимизације који брине о различитим стварима, то би потенцијално могло уништити све вредности универзума.
Додао је да ствари које људи вреднују нису универзално убедљиве и да морал није нешто чему би тежио било који ум који га проучава. Уместо тога, то је резултат нагона уграђених у људе који су, у окружењу предака, довели до тога да будемо добри у репродукцији и специфични су за људе.
На крају, Соарес верује да не би требало да градимо нешто што је слично интелигентно или чак интелигентније што није у складу са забавом, срећом и цветањем будућности. С друге стране, он је такође рекао да човечанство не би требало да гради пријатељску суперинтелигенцију која оптимизује забавну будућност у првом покушају током трке у наоружању. Краткорочно, АИ би требало да буде посвећена помагању човечанству да купи време и простор да схвати шта заправо жели.
ChatGPT неће прогутати целу биосферу
Пошто се АИ тренутно гради за постизање одређених циљева, укључујући предвиђање, Бутерин је питао, шта ако АИ није вођена циљевима? Соарес је рекао да је лако направити вештачку интелигенцију која је безбедна и неспособна, и можда ћемо ускоро имати АИ који је способан, али тежи различитим стварима. Он не мисли ChatGPT ће потрошити целу биосферу јер није на том нивоу способности.
Соарес је приметио да најзанимљивије апликације вештачке интелигенције, попут аутоматизације научног и технолошког развоја и истраживања, изгледа захтевају одређено постизање циљева.
„Није грешка што можете добити GPT да напишеш уредан хаику, али не можеш да га натераш да напишеш роман. Ограничења садашњих система су повезана са чињеницом да они не следе ове дубље циљеве, барем за мене.”
Опширније:
Одрицање од одговорности
У складу са Смернице пројекта Труст, имајте на уму да информације дате на овој страници нису намењене и не треба да се тумаче као правни, порески, инвестициони, финансијски или било који други облик савета. Важно је да инвестирате само оно што можете приуштити да изгубите и да тражите независан финансијски савет ако сумњате. За додатне информације, предлажемо да погледате одредбе и услове, као и странице помоћи и подршке које пружа издавач или оглашивач. MetaversePost је посвећен тачном, непристрасном извештавању, али тржишни услови су подложни променама без претходне најаве.
О аутору
Цинди је новинар у Metaverse Post, покривајући теме везане за web3, NFT, метаверсе и АИ, са фокусом на интервјуе са Web3 играчи у индустрији. Разговарала је са преко 30 Ц-нивоа руководилаца и све више, доносећи читаоцима њихове драгоцене увиде. Пореклом из Сингапура, Синди је сада смештена у Тбилисију, Грузија. Дипломирала је комуникације и медијске студије на Универзитету Јужне Аустралије и има деценију искуства у новинарству и писању. Ступите у контакт са њом путем [емаил заштићен] са изјавама за штампу, најавама и могућностима за интервјуе.
više чланака
Цинди је новинар у Metaverse Post, покривајући теме везане за web3, NFT, метаверсе и АИ, са фокусом на интервјуе са Web3 играчи у индустрији. Разговарала је са преко 30 Ц-нивоа руководилаца и све више, доносећи читаоцима њихове драгоцене увиде. Пореклом из Сингапура, Синди је сада смештена у Тбилисију, Грузија. Дипломирала је комуникације и медијске студије на Универзитету Јужне Аустралије и има деценију искуства у новинарству и писању. Ступите у контакт са њом путем [емаил заштићен] са изјавама за штампу, најавама и могућностима за интервјуе.
