AI Black Box: Čo to je a ako to funguje
Stručne
Čierne skrinky AI sú systémy, ktoré fungujú bez znalostí používateľa, ako napríklad strojové učenie, ktoré sa skladá z algoritmu, tréningových údajov a modelu.
Čierne skrinky sú dôležité pre bezpečnosť softvéru, pretože sa dajú použiť na spätné inžinierstvo softvéru a objavenie chýb, ktoré je možné zneužiť, a môžu ich použiť testeri softvéru a hackeri na nájdenie slabín.
Pre mnohých sa pojem „čierna skrinka“ vzťahuje na záznamové zariadenia v lietadlách, ktoré sú cenné pre posmrtné vyšetrenia, ak sa stane niečo nemysliteľné. Pre iných je to malé, minimalisticky zariadené divadlo. Čierne skrinky sú však životne dôležité aj pre umelú inteligenciu.
AI čierne skrinky sú systémy, ktoré fungujú bez vedomia používateľa. Môžete im poskytnúť vstup a získať výstup, ale nemôžete skúmať systémový kód alebo logiku použitú na generovanie výstupu.
Strojové učenie je dominantným typom umelej inteligencie. Zahŕňa algoritmus alebo súbor algoritmov, trénovacie údaje a model.
- Algoritmus je postupnosť procedúr. Po zaškolení je algoritmus schopný rozpoznať známe vzory.
- Tréning data je súbor údajov používaný na trénovanie modelu AI.
- Algoritmus strojového učenia je v podstate postup, ktorý je navrhnutý tak, aby sa učil z veľkého množstva príkladov a vytvoril model strojového učenia. Model strojového učenia je to, čo ľudia používajú, keď už bol vytvorený.
Algoritmus na rozpoznávanie obrázkov by mohol byť naprogramovaný na objavovanie trendov v obrázkoch a tréningové údaje by mohli predstavovať fotografie psov. Dali by ste mu obrázok ako vstup a dostali by ste ho ako výstup, či a kde na obrázku sa zdá, že súbor pixelov predstavuje psa.
Keďže algoritmy strojového učenia sú verejne známe, skrývanie čiernych skriniek je menej efektívne. Keďže inžinieri AI často ukrývajú svoje duševné vlastníctvo v čiernych skrinkách, zvyčajne vkladajú model do jednej. Ďalší spôsob, ako vývojári softvéru skrývať údaje sú zatemnením údajov, ktoré sa používajú na trénovanie modelu – inými slovami umiestnením trénovacích údajov do čiernej skrinky.
Je ťažké pochopiť, ako fungujú algoritmy čiernej skrinky, ale nie je to celkom čiernobiele.
Sklenená skrinka označuje systém, ktorého algoritmy, trénovacie údaje a modely sú verejne prístupné, zatiaľ čo čierna skrinka označuje systém, ktorého algoritmy, trénovacie údaje a modely sú skryté. Termín čierna skrinka sa často používa, keď výskumníci popisujú aj tieto aspekty systému AI ako čierne.
Existuje nedostatok vedomostí o tom, ako sa používajú algoritmy strojového učenia algoritmy hlbokého učenia, funkcia. Výskumníci vyvíjajú algoritmy, ktoré, hoci nie nevyhnutne sklenené boxy, môžu ľudia lepšie pochopiť.
Prečo sú čierne skrinky AI dôležité?
Nie je vždy dobrý nápad dôverovať algoritmom a modelom strojového učenia čiernej skrinky. Čo ak vás odmietne model strojového učenia, ktorý určuje, či spĺňate podmienky na získanie podnikateľského úveru od banky? Chceli by ste to vedieť, aby ste sa mohli lepšie odvolať proti rozhodnutiu alebo zmeniť svoju situáciu, aby ste nabudúce zvýšili svoje šance na získanie pôžičky.
Predpokladalo sa, že uchovávanie softvéru v čiernej skrinke zabraňuje hackerom v jeho preskúmaní, a preto ho zabezpečuje. Hackeri však môžu spätný inžinier softvér – to znamená, že študujte, ako daný softvér úzko funguje – a objavte nedostatky, ktoré môžete využiť. Čierne skrinky majú tiež dôležité dôsledky pre bezpečnosť softvérového systému.
Testeri softvéru a hackeri s dobrými úmyslami môžu nahliadnuť do sklenenej škatule používanej na testovanie softvéru, aby našli slabé miesta, a tak znížili počet kybernetických útokov.
Prečítajte si ďalšie súvisiace články:
- NFT Záhadné škatule: Čo sú a kde ich kúpiť
- 15+ najlepších kurzov AI, ktoré sa môžete naučiť v roku 2023: bezplatné a platené
- Top 15 GPT-4 a GPT-3 Chatboti: Hovorte s AI, pýtajte sa
Vylúčenie zodpovednosti
V súlade s Pokyny k projektu Trust, uvedomte si, že informácie uvedené na tejto stránke nie sú zamýšľané a nemali by byť interpretované ako právne, daňové, investičné, finančné alebo iné formy poradenstva. Je dôležité investovať len toľko, koľko si môžete dovoliť stratiť a v prípade akýchkoľvek pochybností vyhľadať nezávislé finančné poradenstvo. Ak chcete získať ďalšie informácie, odporúčame vám pozrieť si zmluvné podmienky, ako aj stránky pomoci a podpory poskytnuté vydavateľom alebo inzerentom. MetaversePost sa zaviazala poskytovať presné a nezaujaté správy, ale podmienky na trhu sa môžu zmeniť bez upozornenia.
O autorovi
Damir je vedúci tímu, produktový manažér a redaktor v Metaverse Post, pokrývajúce témy ako AI/ML, AGI, LLM, Metaverse a Web3- súvisiace oblasti. Jeho články priťahujú každý mesiac obrovské publikum s viac ako miliónom používateľov. Zdá sa, že je odborníkom s 10-ročnými skúsenosťami v oblasti SEO a digitálneho marketingu. Damir bol spomenutý v Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto a ďalšie publikácie. Ako digitálny nomád cestuje medzi SAE, Tureckom, Ruskom a SNŠ. Damir získal bakalársky titul z fyziky, o ktorom sa domnieva, že mu dal schopnosti kritického myslenia potrebné na to, aby bol úspešný v neustále sa meniacom prostredí internetu.
Ďalšie články
Damir je vedúci tímu, produktový manažér a redaktor v Metaverse Post, pokrývajúce témy ako AI/ML, AGI, LLM, Metaverse a Web3- súvisiace oblasti. Jeho články priťahujú každý mesiac obrovské publikum s viac ako miliónom používateľov. Zdá sa, že je odborníkom s 10-ročnými skúsenosťami v oblasti SEO a digitálneho marketingu. Damir bol spomenutý v Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto a ďalšie publikácie. Ako digitálny nomád cestuje medzi SAE, Tureckom, Ruskom a SNŠ. Damir získal bakalársky titul z fyziky, o ktorom sa domnieva, že mu dal schopnosti kritického myslenia potrebné na to, aby bol úspešný v neustále sa meniacom prostredí internetu.
