АИ Црна кутија: шта је то и како функционише
Укратко
АИ црне кутије су системи који раде без знања корисника, као што је машинско учење, које се састоји од алгоритма, података о обуци и модела.
Црне кутије су важне за сигурност софтвера, јер се могу користити за обрнути инжењеринг софтвера и открити недостатке које треба искористити, а тестери софтвера и һакери могу да иһ користе да пронађу слабости.
За многе, термин „црна кутија“ се односи на уређаје за снимање у авионима који су вредни за обдукције ако се деси незамисливо. За друге, то је мало, минимално опремљено позориште. Међутим, црне кутије су такође од виталног значаја за вештачку интелигенцију.
АИ црне кутије су системи који раде без знања корисника. Можете им дати улаз и добити излаз, али не можете испитати системски код или логику која се користи за генерисање излаза.
Машинско учење је доминантна врста вештачке интелигенције. Састоји се од алгоритма или скупа алгоритама, података за обуку и модела.
- Алгоритам је низ процедура. Након што је обучен, алгоритам је у стању да препозна познате обрасце.
- Тренинг подаци је скуп података који се користи за обуку АИ модела.
- Алгоритам машинског учења је, у суштини, процедура која је дизајнирана да учи из великог броја примера и произведе модел машинског учења. Модел машинског учења је оно што људи користе када је створен.
Алгоритам за препознавање слика могао би се програмирати да открије трендове слика, а подаци о обуци могу представљати фотографије паса. Убацили бисте му слику као улаз и добили је као излаз да ли и где на слици изгледа да скуп пиксела представља пса.
Пошто су алгоритми машинског учења јавно познати, скривање црниһ кутија је мање ефикасно. Пошто инжењери вештачке интелигенције често крију своју интелектуалну својину у црним кутијама, обично стављају модел у једну. Други начин програмери софтвера прикрити подаци су прикривањем података који се користе за обуку модела – другим речима, стављањем података обуке у црну кутију.
Тешко је разумети како функционишу алгоритми црне кутије, али то није баш црно-бело.
Стаклена кутија се односи на систем чији су алгоритми, подаци о обуци и модели јавно доступни, док се црна кутија односи на систем чији су алгоритми, подаци о обуци и модели сакривени. Термин црна кутија се често користи када истраживачи чак и ове аспекте АИ система описују као црне.
Постоји недостатак знања о томе како алгоритми за машинско учење, посебно алгоритми дубоког учења, функција. Истраживачи развијају алгоритме које, иако не морају нужно стаклене кутије, људи могу боље разумјети.
Зашто су АИ црне кутије важне?
Није увек добра идеја веровати алгоритмима и моделима машинског учења црне кутије. Шта ако вас модел машинског учења који одређује да ли се квалификујете за пословни кредит од банке одбије? Желели бисте да знате како бисте могли боље да уложите жалбу на одлуку или промените своју ситуацију како бисте повећали своје шансе да следећи пут добијете зајам.
Сматрало се да држање софтвера у црној кутији спречава һакере да га прегледају и стога га чини сигурним. Међутим, һакери могу инжењер уназад софтвер – то јест, проучите како део софтвера блиско функционише – и откријте недостатке које треба искористити. Црне кутије такође имају важне импликације на безбедност софтверског система.
Тестери софтвера и добронамерни һакери могу да погледају у стаклену кутију која се користи за тестирање софтвера како би пронашли слабости, чиме се смањују сајбер напади.
Прочитајте још сродних чланака:
- NFT Мистериозне кутије: шта су и где купити
- 15+ најбољих курсева вештачке интелигенције за учење у 2023: бесплатни и плаћени
- Врх КСНУМКС GPT-4 GPT-3 Цхатботс: Разговарајте са АИ, постављајте питања
Одрицање од одговорности
У складу са Смернице пројекта Труст, имајте на уму да информације дате на овој страници нису намењене и не треба да се тумаче као правни, порески, инвестициони, финансијски или било који други облик савета. Важно је да инвестирате само оно што можете приуштити да изгубите и да тражите независан финансијски савет ако сумњате. За додатне информације, предлажемо да погледате одредбе и услове, као и странице помоћи и подршке које пружа издавач или оглашивач. MetaversePost је посвећен тачном, непристрасном извештавању, али тржишни услови су подложни променама без претходне најаве.
О аутору
Дамир је вођа тима, менаџер производа и уредник у Metaverse Post, покривајући теме као што су АИ/МЛ, АГИ, ЛЛМ, Метаверсе и Web3-сродна поља. Његови чланци привлаче огромну публику од преко милион корисника сваког месеца. Чини се да је стручњак са 10 година искуства у СЕО и дигиталном маркетингу. Дамир се помиње у Масхабле, Виред, Cointelegraph, Тхе Нев Иоркер, Инсиде.цом, Ентрепренеур, БеИнЦрипто и друге публикације. Путује између УАЕ, Турске, Русије и ЗНД као дигитални номад. Дамир је стекао диплому физике, за коју верује да му је дало вештине критичког размишљања које су му потребне да буде успешан у свету интернета који се стално мења.
više чланака
Дамир је вођа тима, менаџер производа и уредник у Metaverse Post, покривајући теме као што су АИ/МЛ, АГИ, ЛЛМ, Метаверсе и Web3-сродна поља. Његови чланци привлаче огромну публику од преко милион корисника сваког месеца. Чини се да је стручњак са 10 година искуства у СЕО и дигиталном маркетингу. Дамир се помиње у Масхабле, Виред, Cointelegraph, Тхе Нев Иоркер, Инсиде.цом, Ентрепренеур, БеИнЦрипто и друге публикације. Путује између УАЕ, Турске, Русије и ЗНД као дигитални номад. Дамир је стекао диплому физике, за коју верује да му је дало вештине критичког размишљања које су му потребне да буде успешан у свету интернета који се стално мења.
