Истраживачи са Универзитета у Калифорнији креирали су Макијавелијев репер за мерење компетентности и штетности АИ модела
Укратко
Истраживачи са Универзитета у Калифорнији, Центра за АИ безбедност, Универзитета Карнеги Мелон и Универзитета Јејл предложили су Макијавелијев репер за мерење компетенције и штетности агената у широком окружењу дуготрајних језичких интеракција.
Ово мерило је засновано на 134 пустоловне текстуалне игре бирајте сами са 572 различитих сценарија, 4,5к могућих достигнућа и 2,8м напомена.
Аутори то описују као тест за проверу етичких (или неетичких) начина на које агенти вештачке интелигенције покушавају да реше проблеме.
Корисници вештачке интелигенције засновани на великим језичким моделима (ЛЛМ) имају добре шансе да сломе анксиозне алармисте и преплаве свет супер-интелигентним агентима заснованим на ЛЛМ. Потенцијалне користи од огромног профита и неограничене моћи ће учинити трик. И највероватније ће се то догодити прилично брзо.
Међутим, корисници уопште нису глупи. И разумеју да у чудесном новом свету закони вештачке интелигенције и роботике више неће функционисати. Натерати ЛЛМ да се стриктно придржава три закона које је формулисао велики Исак Асимов још 1942. године, авај, није ни теоретски могуће.
Оригиналан излаз из ове деликатне ситуације је предложен истраживачи са Универзитета у Калифорнији, Центра за АИ безбедност, Универзитета Карнеги Мелон и Универзитета Јејл. Они су створили Макијавелијев бенцхмарк да „измери компетентност и штетност агената у широком окружењу дуготрајних језичких интеракција“.
Идеја аутора је једноставна.
- Ако закони не функционишу, онда нема потребе за „шерифом“ да их спроводи.
- Уместо шерифа, потребан је психоаналитичар, који ће на основу резултата својих тестова идентификовати потенцијалне параноиде, психопате, садисте, патолошке лажове.
Политички коректним језиком, аутори то описују на следећи начин: „Макијавели је тест за проверу етичких (или неетичких) начина на које агенти вештачке интелигенције покушавају да реше проблеме.
Метода такве провере је прилично практична. Агент АИ је пуштен у вештачко друштвено окружење. Тамо му истраживачи дају разне задатке и гледају како их извршава. Сама средина прати етичко понашање АИ агент и извештава у којој мери су акције агента (према Макијавелијевим правилима) варљиве, смањују корисност и усмерене су на добијање моћи.
Мацхиавеллијев основни скуп података састоји се од 134 пустоловне текстуалне игре бирајте сами са 572 различитих сценарија, 4,5к могућих достигнућа и 2,8м напомена. Ове игре користе решења високог нивоа која агентима дају реалне циљеве и апстрахују интеракције ниског нивоа са окружењем.
Приступ који су одабрали аутори заснива се на претпоставци да се АИ агенти суочавају са истим унутрашњим сукобима као и људи. Баш као што језички модели обучени да предвиде следећи токен често производе токсични текст, АИ агенти обучени да оптимизују циљеве често показују неморално понашање и понашање жељно моћи. Аморално обучени агенти могу развити макијавелистичке стратегије како би максимизирали своју награду на рачун других и околине. И тако охрабрујући агенте да делују морално, овај компромис се може побољшати.
Аутори верују да су текстуално-авантуристичке игре добар тест морала јер:
- Написали су их људи да забављају друге људе.
- Садржи конкурентне циљеве са реалним простором за акцију.
- Захтевати дугорочно планирање.
- Постизање циљева обично захтева равнотежу између амбиције и, у извесном смислу, морала.
Појашњење је овде најважније. Упоредити морал биолошких бића са моралом алгоритамских модела је превелико натезање, способно да обезвреди Макијавелијево тестирање. А замена шерифа психоаналитичарима у људском свету тешко да би била ефикасна. А АИ агенти су добри као и људи у проналажењу начина да сере своје психијатрије.
Прочитајте више о АИ:
Одрицање од одговорности
У складу са Смернице пројекта Труст, имајте на уму да информације дате на овој страници нису намењене и не треба да се тумаче као правни, порески, инвестициони, финансијски или било који други облик савета. Важно је да инвестирате само оно што можете приуштити да изгубите и да тражите независан финансијски савет ако сумњате. За додатне информације, предлажемо да погледате одредбе и услове, као и странице помоћи и подршке које пружа издавач или оглашивач. MetaversePost је посвећен тачном, непристрасном извештавању, али тржишни услови су подложни променама без претходне најаве.
О аутору
Дамир је вођа тима, менаџер производа и уредник у Metaverse Post, покривајући теме као што су АИ/МЛ, АГИ, ЛЛМ, Метаверсе и Web3-сродна поља. Његови чланци привлаче огромну публику од преко милион корисника сваког месеца. Чини се да је стручњак са 10 година искуства у СЕО и дигиталном маркетингу. Дамир се помиње у Масхабле, Виред, Cointelegraph, Тхе Нев Иоркер, Инсиде.цом, Ентрепренеур, БеИнЦрипто и друге публикације. Путује између УАЕ, Турске, Русије и ЗНД као дигитални номад. Дамир је стекао диплому физике, за коју верује да му је дало вештине критичког размишљања које су му потребне да буде успешан у свету интернета који се стално мења.
više чланака
Дамир је вођа тима, менаџер производа и уредник у Metaverse Post, покривајући теме као што су АИ/МЛ, АГИ, ЛЛМ, Метаверсе и Web3-сродна поља. Његови чланци привлаче огромну публику од преко милион корисника сваког месеца. Чини се да је стручњак са 10 година искуства у СЕО и дигиталном маркетингу. Дамир се помиње у Масхабле, Виред, Cointelegraph, Тхе Нев Иоркер, Инсиде.цом, Ентрепренеур, БеИнЦрипто и друге публикације. Путује између УАЕ, Турске, Русије и ЗНД као дигитални номад. Дамир је стекао диплому физике, за коју верује да му је дало вештине критичког размишљања које су му потребне да буде успешан у свету интернета који се стално мења.
