AI must kast: mis see on ja kuidas see töötab
Põgusalt
AI mustad kastid on süsteemid, mis töötavad ilma kasutaja teadmisteta, näiteks masinõpe, mis koosneb algoritmist, koolitusandmetest ja mudelist.
Mustad kastid on tarkvara turvalisuse seisukohalt olulised, kuna neid saab kasutada tarkvara pöördprojekteerimiseks ja vigade avastamiseks, mida ära kasutada, ning tarkvara testijad ja häkkerid saavad neid kasutada nõrkuste leidmiseks.
Paljude jaoks viitab termin "must kast" lennukites olevatele salvestusseadmetele, mis on väärtuslikud surmajärgsete läbivaatuste jaoks, kui juhtub midagi, mida poleks mõeldav. Teiste jaoks on see väike, minimaalselt sisustatud teater. Mustad kastid on aga ka tehisintellekti jaoks üliolulised.
AI mustad kastid on süsteemid, mis töötavad ilma kasutaja teadmata. Saate neile sisendit anda ja väljundit hankida, kuid te ei saa uurida süsteemi koodi ega väljundi genereerimiseks kasutatud loogikat.
Masinõpe on tehisintellekti domineeriv tüüp. See koosneb algoritmist või algoritmide komplektist, koolitusandmetest ja mudelist.
- Algoritm on protseduuride jada. Pärast koolitamist suudab algoritm teadaolevaid mustreid ära tunda.
- Treening andmed on andmekogum, mida kasutatakse tehisintellekti mudeli treenimiseks.
- Masinõppe algoritm on sisuliselt protseduur, mille eesmärk on õppida paljudest näidetest ja luua masinõppe mudel. Masinõppemudel on see, mida inimesed kasutavad pärast selle loomist.
Kujutiste suundumuste avastamiseks võiks programmeerida pildituvastusalgoritmi ja koolitusandmed võiksid kujutada koerte fotosid. Söödaks sellele sisendiks kujutise ja saad selle väljundina, kas ja kus pildil kuvatakse pikslite komplekt koera esindavat.
Kuna masinõppe algoritmid on avalikult teada, on mustade kastide peitmine vähem tõhus. Kuna AI-insenerid varjavad oma intellektuaalomandit sageli mustadesse kastidesse, panevad nad mudeli tavaliselt ühte. Teine viis tarkvaraarendajad varjata andmed on mudeli treenimiseks kasutatavate andmete varjamine ehk teisisõnu treeningandmete asetamine musta kasti.
Raske on mõista, kuidas musta kasti algoritmid töötavad, kuid see pole päris must-valge.
Klaaskast viitab süsteemile, mille algoritmid, treeningandmed ja mudelid on avalikult kättesaadavad, samas kui must kast viitab süsteemile, mille algoritmid, treeningandmed ja mudelid on varjatud. Mõistet must kast kasutatakse sageli siis, kui teadlased kirjeldavad isegi neid AI-süsteemi aspekte mustana.
Masinõppe algoritmide kohta on teadmisi vähe süvaõppe algoritmid, funktsioon. Teadlased töötavad välja algoritme, mis ei pruugi olla klaaskastid, kuid mida inimesed paremini mõistavad.
Miks on AI mustad kastid olulised?
Ei ole alati hea mõte usaldada musta kasti masinõppe algoritme ja mudeleid. Mis saab siis, kui masinõppemudel, mis määrab, kas teil on õigus saada pangast ärilaenu, lükkab teid tagasi? Soovite teada, et saaksite otsust paremini edasi kaevata või oma olukorda muuta, et suurendada järgmisel korral laenu saamise võimalusi.
Arvatakse, et tarkvara mustas kastis hoidmine takistab häkkeritel seda uurimast ja muudab selle seega turvaliseks. Häkkerid aga saavad pöördinsener tarkvara – st uurige, kuidas tarkvara täpselt töötab – ja avastage vigu, mida ära kasutada. Mustadel kastidel on oluline mõju ka tarkvarasüsteemi turvalisusele.
Tarkvara testijatel ja heade kavatsustega häkkeritel on võimalik nõrkuste leidmiseks vaadata tarkvara testimiseks kasutatavasse klaaskasti, vähendades seeläbi küberrünnakute arvu.
Loe rohkem seotud artikleid:
- NFT Saladuskarbid: mis need on ja kust osta
- 15+ parimat AI kursust 2023. aastal: tasuta ja tasuline
- Top 15 GPT-4 ja GPT-3 Vestlusbotid: rääkige tehisintellektiga, esitage küsimusi
Kaebused
Vastavalt Usaldusprojekti juhised, pange tähele, et sellel lehel esitatud teave ei ole mõeldud ega tohiks tõlgendada kui juriidilist, maksu-, investeerimis-, finants- või muud nõuannet. Oluline on investeerida ainult seda, mida saate endale lubada kaotada, ja kahtluste korral küsida sõltumatut finantsnõu. Lisateabe saamiseks soovitame vaadata nõudeid ja tingimusi ning väljaandja või reklaamija pakutavaid abi- ja tugilehti. MetaversePost on pühendunud täpsele ja erapooletule aruandlusele, kuid turutingimusi võidakse ette teatamata muuta.
Umbes Autor
Damir on ettevõtte meeskonnajuht, tootejuht ja toimetaja Metaverse Post, mis hõlmab selliseid teemasid nagu AI/ML, AGI, LLM-id, Metaverse ja Web3-seotud väljad. Tema artiklid meelitavad igal kuul tohutut vaatajaskonda, üle miljoni kasutaja. Ta näib olevat ekspert, kellel on 10-aastane SEO ja digitaalse turunduse kogemus. Damirit on mainitud ajakirjades Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ja muud väljaanded. Ta reisib digitaalse nomaadina AÜE, Türgi, Venemaa ja SRÜ vahel. Damir omandas bakalaureusekraadi füüsikas, mis on tema arvates andnud talle kriitilise mõtlemise oskused, mida on vaja pidevalt muutuval Interneti-maastikul edukaks saamiseks.
Veel artikleid
Damir on ettevõtte meeskonnajuht, tootejuht ja toimetaja Metaverse Post, mis hõlmab selliseid teemasid nagu AI/ML, AGI, LLM-id, Metaverse ja Web3-seotud väljad. Tema artiklid meelitavad igal kuul tohutut vaatajaskonda, üle miljoni kasutaja. Ta näib olevat ekspert, kellel on 10-aastane SEO ja digitaalse turunduse kogemus. Damirit on mainitud ajakirjades Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ja muud väljaanded. Ta reisib digitaalse nomaadina AÜE, Türgi, Venemaa ja SRÜ vahel. Damir omandas bakalaureusekraadi füüsikas, mis on tema arvates andnud talle kriitilise mõtlemise oskused, mida on vaja pidevalt muutuval Interneti-maastikul edukaks saamiseks.
