AI Black Box: Što je to i kako radi
Ukratko
AI crne kutije su sustavi koji rade bez znanja korisnika, kao što je strojno učenje, koje se sastoji od algoritma, podataka o obuci i modela.
Crne kutije važne su za sigurnost softvera jer se mogu koristiti za obrnuti inženjering softvera i otkrivanje nedostataka za iskorištavanje, a mogu ih koristiti testeri softvera i hakeri za pronalaženje slabosti.
Za mnoge se izraz "crna kutija" odnosi na uređaje za snimanje u zrakoplovima koji su vrijedni za obdukciju ako se dogodi nezamislivo. Za druge je to malo, minimalistički opremljeno kazalište. Međutim, crne kutije također su od vitalnog značaja za umjetnu inteligenciju.
AI crne kutije su sustavi koji rade bez znanja korisnika. Možete im dati ulaz i dobiti izlaz, ali ne možete ispitati kod sustava ili logiku korištenu za generiranje izlaza.
Strojno učenje je dominantna vrsta umjetne inteligencije. Sastoji se od algoritma ili skupa algoritama, podataka za obuku i modela.
- Algoritam je niz postupaka. Nakon obuke, algoritam je u stanju prepoznati poznate obrasce.
- Vježba datum je skup podataka koji se koristi za obuku AI modela.
- Algoritam strojnog učenja je, u biti, postupak koji je dizajniran za učenje iz velikog broja primjera i proizvodnju modela strojnog učenja. Model strojnog učenja ono je što ljudi koriste nakon što se stvori.
Algoritam za prepoznavanje slike mogao bi se programirati da otkrije trendove slike, a podaci o obuci mogli bi predstavljati fotografije pasa. Dali biste mu sliku kao ulaz i dobili je kao izlaz da li i gdje na slici skup piksela predstavlja psa.
Budući da su algoritmi strojnog učenja javno poznati, skrivanje crnih kutija manje je učinkovito. Budući da inženjeri umjetne inteligencije često skrivaju svoje intelektualno vlasništvo u crnim kutijama, obično stavljaju model u jednu. Drugi način programeri softvera prikriti podataka je prikrivanjem podataka koji se koriste za obuku modela – drugim riječima, stavljanjem podataka obuke u crnu kutiju.
Teško je razumjeti kako rade algoritmi crne kutije, ali to nije baš crno-bijelo.
Staklena kutija se odnosi na sustav čiji su algoritmi, podaci o obuci i modeli javno dostupni, dok se crna kutija odnosi na sustav čiji su algoritmi, podaci o obuci i modeli skriveni. Izraz crna kutija često se koristi kada istraživači čak i ove aspekte AI sustava opisuju kao crne.
Posebno nedostaje znanja o algoritmima strojnog učenja algoritmi dubokog učenja, funkcija. Istraživači razvijaju algoritme koji, iako nisu nužno staklene kutije, mogu biti bolje razumljivi ljudima.
Zašto su AI crne kutije važne?
Nije uvijek dobra ideja vjerovati algoritmima i modelima strojnog učenja crne kutije. Što ako vas model strojnog učenja koji određuje ispunjavate li uvjete za poslovni kredit od banke odbije? Željeli biste znati kako biste se mogli bolje žaliti na odluku ili promijeniti svoju situaciju kako biste povećali šanse za dobivanje kredita sljedeći put.
Smatralo se da čuvanje softvera u crnoj kutiji sprječava hakere da ga pregledaju i stoga ga čini sigurnim. Međutim, hakeri mogu inženjer unatrag softver – to jest, proučite kako dio softvera blisko funkcionira – i otkrijte nedostatke koje možete iskoristiti. Crne kutije također imaju važne implikacije na sigurnost softverskog sustava.
Moguće je da testeri softvera i dobronamjerni hakeri pogledaju unutar staklene kutije koja se koristi za testiranje softvera kako bi pronašli slabosti, čime se smanjuju kibernetički napadi.
Pročitajte više povezanih članaka:
- NFT Tajanstvene kutije: što su i gdje kupiti
- 15+ najboljih AI tečajeva za učenje u 2023.: besplatni i plaćeni
- Top 15 GPT-4 i GPT-3 Chatbotovi: razgovarajte s umjetnom inteligencijom, postavljajte pitanja
Izjava o odricanju od odgovornosti
U skladu s Smjernice projekta povjerenja, imajte na umu da informacije navedene na ovoj stranici nemaju namjeru i ne smiju se tumačiti kao pravni, porezni, investicijski, financijski ili bilo koji drugi oblik savjeta. Važno je ulagati samo ono što si možete priuštiti izgubiti i potražiti neovisni financijski savjet ako imate bilo kakvih nedoumica. Za dodatne informacije predlažemo da pogledate odredbe i uvjete, kao i stranice za pomoć i podršku koje pruža izdavatelj ili oglašivač. MetaversePost je predan točnom, nepristranom izvješćivanju, ali tržišni uvjeti podložni su promjenama bez prethodne najave.
O autoru
Damir je voditelj tima, product manager i urednik u Metaverse Post, koji pokriva teme kao što su AI/ML, AGI, LLMs, Metaverse i Web3- srodna polja. Njegovi članci privlače ogromnu publiku od preko milijun korisnika svakog mjeseca. Čini se da je stručnjak s 10 godina iskustva u SEO-u i digitalnom marketingu. Damir je spomenut u Mashableu, Wiredu, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto i druge publikacije. Putuje između UAE, Turske, Rusije i CIS-a kao digitalni nomad. Damir je stekao diplomu prvostupnika fizike, za koju vjeruje da mu je dala vještine kritičkog razmišljanja potrebne za uspjeh u stalno promjenjivom okruženju interneta.
Više članaka
Damir je voditelj tima, product manager i urednik u Metaverse Post, koji pokriva teme kao što su AI/ML, AGI, LLMs, Metaverse i Web3- srodna polja. Njegovi članci privlače ogromnu publiku od preko milijun korisnika svakog mjeseca. Čini se da je stručnjak s 10 godina iskustva u SEO-u i digitalnom marketingu. Damir je spomenut u Mashableu, Wiredu, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto i druge publikacije. Putuje između UAE, Turske, Rusije i CIS-a kao digitalni nomad. Damir je stekao diplomu prvostupnika fizike, za koju vjeruje da mu je dala vještine kritičkog razmišljanja potrebne za uspjeh u stalno promjenjivom okruženju interneta.
