AI Black Box: Ano Ito at Paano Ito Gumagana
Sa madaling sabi
Ang mga black box ng AI ay mga system na gumagana nang walang kaalaman ng user, tulad ng machine learning, na binubuo ng isang algorithm, data ng pagsasanay at isang modelo.
Ang mga itim na kahon ay mahalaga para sa seguridad ng software, dahil magagamit ang mga ito upang i-reverse ang software ng engineer at tumuklas ng mga kapintasan upang pagsamantalahan, at maaaring gamitin ng mga software tester at hacker upang makahanap ng mga kahinaan.
Para sa marami, ang terminong "black box" ay tumutukoy sa mga kagamitan sa pagre-record sa mga eroplano na mahalaga para sa mga pagsusuri sa postmortem kung mangyari ang hindi maiisip. Para sa iba, isa itong maliit at minimally furnished na teatro. Gayunpaman, ang mga itim na kahon ay mahalaga din sa artificial intelligence.
Mga itim na kahon ng AI ay mga system na gumagana nang walang kaalaman ng gumagamit. Maaari mong pakainin ang mga ito ng input at makakuha ng output, ngunit hindi mo masusuri ang code ng system o ang logic na ginamit upang bumuo ng output.
Pag-aaral ng machine ay ang nangingibabaw na uri ng artificial intelligence. Binubuo ito ng isang algorithm o isang set ng mga algorithm, data ng pagsasanay, at isang modelo.
- Ang isang algorithm ay isang pagkakasunud-sunod ng mga pamamaraan. Matapos masanay, nakikilala ng isang algorithm ang mga kilalang pattern.
- Ang pag-ensayo data ay ang data set na ginagamit para sa pagsasanay ng AI model.
- Ang isang machine-learning algorithm ay, sa esensya, isang pamamaraan na idinisenyo upang matuto mula sa isang malaking bilang ng mga halimbawa at makabuo ng isang machine-learning na modelo. Ang isang machine-learning na modelo ay ang ginagamit ng mga tao kapag nagawa na ito.
Maaaring i-program ang isang algorithm sa pagkilala ng imahe upang tumuklas ng mga trend ng larawan, at ang data ng pagsasanay ay maaaring kumatawan sa mga larawan ng mga aso. Ipapakain mo ito ng isang imahe bilang input at kunin ito bilang output kung at saan sa larawan ay lilitaw ang isang hanay ng mga pixel na kumakatawan sa isang aso.
Dahil alam ng publiko ang mga algorithm ng machine learning, hindi gaanong epektibo ang pagtatago ng mga black box. Dahil ang mga inhinyero ng AI ay madalas na nagtatago ng kanilang intelektwal na ari-arian sa mga itim na kahon, kadalasang inilalagay nila ang modelo sa isa. Isa pang paraan ng mga developer ng software magkanlong ang data ay sa pamamagitan ng pagtatakip ng data na ginagamit upang sanayin ang modelo - sa madaling salita, paglalagay ng data ng pagsasanay sa isang itim na kahon.
Mahirap maunawaan kung paano gumagana ang mga algorithm ng black box, ngunit hindi iyon itim at puti.
Ang isang glass box ay tumutukoy sa isang system na ang mga algorithm, data ng pagsasanay, at mga modelo ay naa-access ng publiko, habang ang isang itim na kahon ay tumutukoy sa isang system na ang mga algorithm, data ng pagsasanay, at mga modelo ay nakatago. Ang terminong black box ay kadalasang ginagamit kapag ang mga mananaliksik ay naglalarawan kahit na ang mga aspetong ito ng isang AI system bilang itim.
Kakulangan ng kaalaman tungkol sa kung paano ang mga algorithm ng machine learning, lalo na malalim na algorithm ng pag-aaral, function. Ang mga mananaliksik ay bumubuo ng mga algorithm na, bagama't hindi kinakailangang mga kahon ng salamin, ay maaaring mas maunawaan ng mga tao.
Bakit Mahalaga ang AI Black Boxes?
Hindi palaging magandang ideya na magtiwala sa mga algorithm at modelo ng black-box machine learning. Paano kung hindi ka tinanggihan ng modelo ng machine learning na tumutukoy kung kwalipikado ka para sa isang pautang sa negosyo mula sa isang bangko? Gusto mong malaman para mas mahusay mong iapela ang desisyon o baguhin ang iyong sitwasyon upang madagdagan ang iyong pagkakataong makakuha ng pautang sa susunod na pagkakataon.
Ang pagpapanatiling software sa isang itim na kahon ay naisip na pigilan ang mga hacker na suriin ito at, samakatuwid, gawing secure ito. Gayunpaman, magagawa ng mga hacker reverse engineering software - iyon ay, pag-aralan kung paano gumagana ang isang piraso ng software - at tumuklas ng mga kapintasan upang pagsamantalahan. Ang mga itim na kahon ay mayroon ding mahalagang implikasyon para sa seguridad ng software system.
Posible para sa mga tagasubok ng software at mga hacker na may mahusay na intensyon na tumingin sa loob ng isang glass box na ginamit upang subukan ang software upang makahanap ng mga kahinaan, kaya binabawasan ang mga cyberattack.
Magbasa nang higit pa mga nauugnay na artikulo:
- NFT Mga Mystery Box: Ano ang mga Ito at Saan Mabibili
- 15+ Pinakamahusay na AI Сourses na Matututuhan sa 2023: Libre at Bayad
- Nangungunang 15 GPT-4 at GPT-3 Chatbots: Makipag-usap sa AI, magtanong
Pagtanggi sa pananagutan
Sa linya na may Mga alituntunin ng Trust Project, pakitandaan na ang impormasyong ibinigay sa pahinang ito ay hindi nilayon at hindi dapat bigyang-kahulugan bilang legal, buwis, pamumuhunan, pananalapi, o anumang iba pang paraan ng payo. Mahalagang mamuhunan lamang kung ano ang maaari mong mawala at humingi ng independiyenteng payo sa pananalapi kung mayroon kang anumang mga pagdududa. Para sa karagdagang impormasyon, iminumungkahi naming sumangguni sa mga tuntunin at kundisyon pati na rin sa mga pahina ng tulong at suporta na ibinigay ng nagbigay o advertiser. MetaversePost ay nakatuon sa tumpak, walang pinapanigan na pag-uulat, ngunit ang mga kondisyon ng merkado ay maaaring magbago nang walang abiso.
Tungkol sa Ang May-akda
Si Damir ang pinuno ng pangkat, tagapamahala ng produkto, at editor sa Metaverse Post, sumasaklaw sa mga paksa gaya ng AI/ML, AGI, LLMs, Metaverse, at Web3-mga kaugnay na larangan. Ang kanyang mga artikulo ay umaakit ng napakalaking madla na mahigit sa isang milyong user bawat buwan. Mukhang isa siyang eksperto na may 10 taong karanasan sa SEO at digital marketing. Nabanggit si Damir sa Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto, at iba pang publikasyon. Naglalakbay siya sa pagitan ng UAE, Turkey, Russia, at ng CIS bilang digital nomad. Nakamit ni Damir ang bachelor's degree sa physics, na pinaniniwalaan niyang nagbigay sa kanya ng mga kritikal na kasanayan sa pag-iisip na kailangan para maging matagumpay sa pabago-bagong tanawin ng internet.
Mas marami pang artikulo
Si Damir ang pinuno ng pangkat, tagapamahala ng produkto, at editor sa Metaverse Post, sumasaklaw sa mga paksa gaya ng AI/ML, AGI, LLMs, Metaverse, at Web3-mga kaugnay na larangan. Ang kanyang mga artikulo ay umaakit ng napakalaking madla na mahigit sa isang milyong user bawat buwan. Mukhang isa siyang eksperto na may 10 taong karanasan sa SEO at digital marketing. Nabanggit si Damir sa Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto, at iba pang publikasyon. Naglalakbay siya sa pagitan ng UAE, Turkey, Russia, at ng CIS bilang digital nomad. Nakamit ni Damir ang bachelor's degree sa physics, na pinaniniwalaan niyang nagbigay sa kanya ng mga kritikal na kasanayan sa pag-iisip na kailangan para maging matagumpay sa pabago-bagong tanawin ng internet.
