Компаније са вештачком интелигенцијом треба да потроше 30% свог финансирања на истраживање и развој у области безбедности и етике
Штета изазвана предрасудама и лажним информацијама је већ очигледна. Постоје индиције да могу испливати и друге опасности. Од кључне је важности ублажити тренутне ризике и предвидети оне који се појављују.
Не бисмо знали како да осигурамо да су напредни аутономни системи или АГИ безбедни или како да их тестирамо да су тренутно доступни. Штавише, владама недостају институције неопходне да зауставе злоупотребу и уведу безбедне праксе, чак и ако јесу. Аутори подржавају развој ефикасног државног надзора и преусмеравање напора истраживања и развоја ка безбедности и етици.
Контрола и поштење (софистициранији системи могу надмудрити тестирање давањем лажних, али убедљивих одговора), робусност (у новим условима са померањем дистрибуције или супротстављеним инпутима), интерпретабилност (разумевање рада), процена ризика (појављују се нове способности које је тешко предвидети), и појава нових изазова (начини неуспеха без преседана) су неки од изазова истраживања и развоја који неће бити решени развијају моћније АИ системе.
Аутори сугеришу да безбедност и етика треба да добију најмање једну трећину средстава за истраживање и развој вештачке интелигенције.
Стандарде је потребно спроводити иу односу на националне институције и на глобално управљање. АИ недостаје ово, али фармацеутска, финансијска и нуклеарна индустрија имају. Сада постоје подстицаји за нације и предузећа да штеде науштрб безбедности. Компаније могу да профитирају од напретка вештачке интелигенције док остављају друштву да сноси последице, слично као што индустрије бацају отпад у реке.
Снажно техничко знање и способност брзог кретања су захтеви за националне институције. У глобалној арени, партнерства и споразуми су од суштинског значаја. Бирократске препреке малим и предвидљивим моделима морају се избегавати како би се заштитила академска истраживања и нискоризичне апликације. Фронтиер модели — одабрана група најмоћнијих система обучених на суперкомпјутерима вредним милијарду долара — требало би да добију највећи фокус.
Владе морају бити отвореније у погледу развоја како би прописи били ефикасни. Регулатори би требало да наложе регистрацију модела, да заштите интерне информаторе, да обавесте извештавање о инцидентима и да пазе на развој модела и употребу суперкомпјутера.
Регулатори такође морају имати приступ овим системима пре њиховог пуштања у производњу да би извршили процену потенцијално штетно карактеристике као што су стварање патогена, саморепликација и продирање у систем.
Системи са потенцијалом да буду опасни захтевају различите методе контроле. Фронтиер модел креатори се такође морају сматрати законски одговорним за било какву штету нанету њиховим системима која је могла да се избегне. Ово би требало да подстакне улагања у безбедност. Више функција, као што су владине дозволе, капацитет за заустављање развоја као одговор на потенцијално опасан могућности, контроле приступа и мере безбедности информација које нису отпорне на хакере на државном нивоу, могу бити потребне за изузетно способне системе.
Иако не постоје правила, предузећа би требало брзо да разјасне своје ако-онда одговорности тако што ће навести прецизне кораке које ће предузети ако одређене могућности модела пређу црвену линију. Ове мере треба детаљно објаснити и независно потврдити. Дакле, јесте. Засебан Додатак политике саставља резиме теза.
- У октобру, Фронтиер Модел Форум је увео Фонд за безбедност вештачке интелигенције од преко 10 милиона долара, са циљем да подстакне напредак у истраживању безбедности АИ. Фонд, који представља сарадњу између Фронтиер Модел Форума и филантропских партнера, пружиће подршку независним истраживачима широм света повезаним са академским институцијама, истраживачким организацијама и стартапима. Главни сарадници иницијативе су Антхропиц, Гоогле, Мицрософт, OpenAI, заједно са филантропским организацијама као што су Фондација Патрик Џеј Мекговерн, Фондација Дејвид и Лусил Пакард, Ерик Шмит и Јаан Талин. Фонд за безбедност вештачке интелигенције првенствено се фокусира на подстицање развоја нових техника евалуације и приступа црвеном тиму за АИ моделе, са циљем откривања потенцијалних опасности. Форум планира да оснује Саветодавни одбор у наредним месецима, а ускоро ће објавити свој први позив за подношење предлога и грантове.
Одрицање од одговорности
У складу са Смернице пројекта Труст, имајте на уму да информације дате на овој страници нису намењене и не треба да се тумаче као правни, порески, инвестициони, финансијски или било који други облик савета. Важно је да инвестирате само оно што можете приуштити да изгубите и да тражите независан финансијски савет ако сумњате. За додатне информације, предлажемо да погледате одредбе и услове, као и странице помоћи и подршке које пружа издавач или оглашивач. MetaversePost је посвећен тачном, непристрасном извештавању, али тржишни услови су подложни променама без претходне најаве.
О аутору
Дамир је вођа тима, менаџер производа и уредник у Metaverse Post, покривајући теме као што су АИ/МЛ, АГИ, ЛЛМ, Метаверсе и Web3-сродна поља. Његови чланци привлаче огромну публику од преко милион корисника сваког месеца. Чини се да је стручњак са 10 година искуства у СЕО и дигиталном маркетингу. Дамир се помиње у Масхабле, Виред, Cointelegraph, Тхе Нев Иоркер, Инсиде.цом, Ентрепренеур, БеИнЦрипто и друге публикације. Путује између УАЕ, Турске, Русије и ЗНД као дигитални номад. Дамир је стекао диплому физике, за коју верује да му је дало вештине критичког размишљања које су му потребне да буде успешан у свету интернета који се стално мења.
više чланака
Дамир је вођа тима, менаџер производа и уредник у Metaverse Post, покривајући теме као што су АИ/МЛ, АГИ, ЛЛМ, Метаверсе и Web3-сродна поља. Његови чланци привлаче огромну публику од преко милион корисника сваког месеца. Чини се да је стручњак са 10 година искуства у СЕО и дигиталном маркетингу. Дамир се помиње у Масхабле, Виред, Cointelegraph, Тхе Нев Иоркер, Инсиде.цом, Ентрепренеур, БеИнЦрипто и друге публикације. Путује између УАЕ, Турске, Русије и ЗНД као дигитални номад. Дамир је стекао диплому физике, за коју верује да му је дало вештине критичког размишљања које су му потребне да буде успешан у свету интернета који се стално мења.
