AI Black Box: Co to je a jak to funguje
Stručně
Černé skříňky umělé inteligence jsou systémy, které fungují bez znalostí uživatele, jako je strojové učení, které se skládá z algoritmu, trénovacích dat a modelu.
Černé skříňky jsou důležité pro zabezpečení softwaru, protože je lze použít ke zpětnému inženýrství softwaru a odhalit chyby, které lze zneužít, a mohou je použít testeři softwaru a hackeři k nalezení slabin.
Pro mnohé se termín „černá skříňka“ vztahuje k záznamovým zařízením v letadlech, která jsou cenná pro posmrtná vyšetření, pokud se stane něco nemyslitelného. Pro ostatní je to malé, minimalisticky zařízené divadlo. Černé skříňky jsou však také životně důležité pro umělou inteligenci.
AI černé skříňky jsou systémy, které fungují bez vědomí uživatele. Můžete jim poskytnout vstup a získat výstup, ale nemůžete zkoumat systémový kód nebo logiku použitou ke generování výstupu.
Strojové učení je dominantním typem umělé inteligence. Zahrnuje algoritmus nebo sadu algoritmů, trénovací data a model.
- Algoritmus je posloupnost procedur. Po proškolení je algoritmus schopen rozpoznat známé vzory.
- Trénink datum je soubor dat používaný pro trénování modelu AI.
- Algoritmus strojového učení je v podstatě postup, který je navržen tak, aby se učil z velkého množství příkladů a vytvořil model strojového učení. Model strojového učení je to, co lidé používají, jakmile byl vytvořen.
Algoritmus rozpoznávání obrazu by mohl být naprogramován tak, aby objevoval trendy v obraze, a tréninková data by mohla představovat fotografie psů. Vložili byste do něj obrázek jako vstup a dostali byste jej jako výstup, zda a kde v obrázku se zdá, že sada pixelů představuje psa.
Vzhledem k tomu, že algoritmy strojového učení jsou veřejně známé, je skrývání černých skříněk méně efektivní. Protože inženýři AI často skrývají své duševní vlastnictví v černých skříňkách, obvykle vkládají model do jedné. Další způsob, jak vývojáři softwaru skrývat data jsou zakrytím dat, která se používají k trénování modelu – jinými slovy umístěním trénovacích dat do černé skříňky.
Je těžké pochopit, jak fungují algoritmy černé skříňky, ale není to tak úplně černobílé.
Skleněná skříňka označuje systém, jehož algoritmy, trénovací data a modely jsou veřejně přístupné, zatímco černá skříňka označuje systém, jehož algoritmy, trénovací data a modely jsou skryté. Termín černá skříňka se často používá, když výzkumníci popisují i tyto aspekty systému AI jako černé.
Zejména je nedostatek znalostí o tom, jak algoritmy strojového učení algoritmy pro hluboké učení, funkce. Výzkumníci vyvíjejí algoritmy, které sice nemusí být nutně skleněné krabice, ale lidé mohou lépe porozumět.
Proč jsou černé skříňky umělé inteligence důležité?
Není vždy dobrý nápad věřit algoritmům a modelům strojového učení černé skříňky. Co když vás odmítne model strojového učení, který určuje, zda máte nárok na podnikatelskou půjčku od banky? Chtěli byste to vědět, abyste se mohli lépe odvolat proti rozhodnutí nebo změnit svou situaci a zvýšit tak své šance na získání půjčky příště.
Uchovávání softwaru v černé skříňce má zabránit hackerům v jeho prozkoumání, a proto jej zajistit bezpečným. Hackeři však mohou zpětný inženýr software – to znamená, že si prostudujte, jak určitá část softwaru úzce funguje – a objevte chyby, které lze zneužít. Černé skříňky mají také důležité důsledky pro bezpečnost softwarového systému.
Testeři softwaru a hackeři s dobrými úmysly mohou nahlédnout do skleněné krabice používané k testování softwaru, aby našli slabiny, a omezili tak kybernetické útoky.
Přečtěte si další související články:
- NFT Mystery Box: Co jsou a kde je koupit
- 15+ nejlepších kurzů umělé inteligence, které se můžete v roce 2023 naučit: Zdarma a placené
- Top 15 GPT-4 a GPT-3 Chatboti: Mluvte s AI, ptejte se
Odmítnutí odpovědnosti
V souladu s Pokyny k projektu Trust, prosím vezměte na vědomí, že informace uvedené na této stránce nejsou určeny a neměly by být vykládány jako právní, daňové, investiční, finanční nebo jakékoli jiné formy poradenství. Je důležité investovat jen to, co si můžete dovolit ztratit, a v případě pochybností vyhledat nezávislé finanční poradenství. Pro další informace doporučujeme nahlédnout do smluvních podmínek a také na stránky nápovědy a podpory poskytnuté vydavatelem nebo inzerentem. MetaversePost se zavázala poskytovat přesné a nezaujaté zprávy, ale podmínky na trhu se mohou bez upozornění změnit.
O autorovi
Damir je vedoucí týmu, produktový manažer a editor ve společnosti Metaverse Post, pokrývající témata jako AI/ML, AGI, LLM, Metaverse a Web3- související obory. Jeho články přitahují každý měsíc masivní publikum čítající více než milion uživatelů. Jeví se jako odborník s 10 lety zkušeností v oblasti SEO a digitálního marketingu. Damir byl zmíněn v Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto a další publikace. Jako digitální nomád cestuje mezi SAE, Tureckem, Ruskem a SNS. Damir získal bakalářský titul z fyziky, o kterém se domnívá, že mu dal dovednosti kritického myšlení potřebné k úspěchu v neustále se měnícím prostředí internetu.
Další články
Damir je vedoucí týmu, produktový manažer a editor ve společnosti Metaverse Post, pokrývající témata jako AI/ML, AGI, LLM, Metaverse a Web3- související obory. Jeho články přitahují každý měsíc masivní publikum čítající více než milion uživatelů. Jeví se jako odborník s 10 lety zkušeností v oblasti SEO a digitálního marketingu. Damir byl zmíněn v Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto a další publikace. Jako digitální nomád cestuje mezi SAE, Tureckem, Ruskem a SNS. Damir získal bakalářský titul z fyziky, o kterém se domnívá, že mu dal dovednosti kritického myšlení potřebné k úspěchu v neustále se měnícím prostředí internetu.
