AI Black Box: què és i com funciona
En breu
Les caixes negres d'IA són sistemes que funcionen sense el coneixement de l'usuari, com l'aprenentatge automàtic, que es compon d'un algorisme, dades d'entrenament i un model.
Les caixes negres són importants per a la seguretat del programari, ja que es poden utilitzar per fer enginyeria inversa del programari i descobrir defectes per explotar, i els provadors de programari i els pirates informàtics les poden utilitzar per trobar debilitats.
Per a molts, el terme "caixa negra" es refereix a dispositius d'enregistrament en avions que són valuosos per a exàmens postmortem si passa l'impensable. Per a d'altres, és un teatre petit, amb un equipament mínim. Tanmateix, les caixes negres també són vitals per a la intel·ligència artificial.
caixes negres d'IA són sistemes que funcionen sense el coneixement de l'usuari. Podeu alimentar-los amb entrada i obtenir sortida, però no podeu examinar el codi del sistema ni la lògica utilitzada per generar la sortida.
L'aprenentatge automàtic és el tipus dominant d'intel·ligència artificial. Comprèn un algorisme o un conjunt d'algorismes, dades d'entrenament i un model.
- Un algorisme és una seqüència de procediments. Després d'haver estat entrenat, un algorisme és capaç de reconèixer patrons coneguts.
- La formació dades és el conjunt de dades utilitzat per entrenar el model d'IA.
- Un algorisme d'aprenentatge automàtic és, en essència, un procediment dissenyat per aprendre d'un gran nombre d'exemples i produir un model d'aprenentatge automàtic. Un model d'aprenentatge automàtic és el que la gent utilitza un cop s'ha creat.
Es podria programar un algorisme de reconeixement d'imatges per descobrir tendències d'imatge i les dades d'entrenament podrien representar fotos de gossos. L'alimentareu d'una imatge com a entrada i l'obtindríeu com a sortida si i on de la imatge sembla que un conjunt de píxels representen un gos.
Com que els algorismes d'aprenentatge automàtic són coneguts públicament, amagar les caixes negres és menys efectiu. Com que els enginyers d'IA sovint oculten la seva propietat intel·lectual en caixes negres, solen posar el model en un. Una altra manera els desenvolupadors de programari dissimular Les dades són enfosquint les dades que s'utilitzen per entrenar el model, és a dir, posar les dades d'entrenament en una caixa negra.
És difícil entendre com funcionen els algorismes de la caixa negra, però això no és del tot blanc i negre.
Una caixa de vidre es refereix a un sistema els algorismes, dades d'entrenament i models del qual són accessibles públicament, mentre que una caixa negra es refereix a un sistema els algorismes, dades d'entrenament i models del qual estan ocults. El terme caixa negra s'utilitza sovint quan els investigadors descriuen fins i tot aquests aspectes d'un sistema d'IA com a negres.
Hi ha una manca de coneixement sobre com els algorismes d'aprenentatge automàtic, en particular algorismes d’aprenentatge profund, funció. Els investigadors estan desenvolupant algorismes que, tot i que no són necessàriament caixes de vidre, els humans poden entendre millor.
Per què són importants les caixes negres d'IA?
No sempre és una bona idea confiar en algorismes i models d'aprenentatge automàtic de caixa negra. Què passa si un model d'aprenentatge automàtic que determina si compleixes els requisits per a un préstec empresarial d'un banc et rebutja? T'agradaria saber-ho per poder apel·lar millor la decisió o canviar la teva situació per augmentar les teves possibilitats d'obtenir un préstec la propera vegada.
S'ha pensat que mantenir el programari en una caixa negra evita que els pirates informàtics l'examinin i, per tant, el protegeix. Tanmateix, els hackers poden fer-ho enginyeria inversa programari, és a dir, estudiar de prop com funciona un programari i descobrir defectes per explotar. Les caixes negres també tenen implicacions importants per a la seguretat del sistema de programari.
És possible que els provadors de programari i els pirates informàtics ben intencionats mirin dins d'una caixa de vidre que s'utilitza per provar el programari per trobar debilitats, reduint així els ciberatacs.
Llegeix més articles relacionats:
- NFT Caixes misterioses: què són i on comprar
- Més de 15 millors cursos d'IA per aprendre el 2023: gratuïts i de pagament
- Top 15 GPT-4 i GPT-3 Chatbots: parleu amb IA, feu preguntes
renúncia
En línia amb la Directrius del projecte Trust, si us plau, tingueu en compte que la informació proporcionada en aquesta pàgina no pretén ni s'ha d'interpretar com a assessorament legal, fiscal, d'inversió, financer o de cap altra forma. És important invertir només el que et pots permetre perdre i buscar assessorament financer independent si tens dubtes. Per obtenir més informació, us suggerim que feu referència als termes i condicions, així com a les pàgines d'ajuda i assistència proporcionades per l'emissor o l'anunciant. MetaversePost es compromet a fer informes precisos i imparcials, però les condicions del mercat estan subjectes a canvis sense previ avís.
About The Autor
Damir és el líder d'equip, cap de producte i editor de Metaverse Post, que cobreix temes com AI/ML, AGI, LLMs, Metaverse i Web3-camps relacionats. Els seus articles atrauen una audiència massiva de més d'un milió d'usuaris cada mes. Sembla ser un expert amb 10 anys d'experiència en SEO i màrqueting digital. Damir ha estat esmentat a Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto i altres publicacions. Viatja entre els Emirats Àrabs Units, Turquia, Rússia i la CEI com a nòmada digital. Damir va obtenir una llicenciatura en física, que creu que li ha donat les habilitats de pensament crític necessàries per tenir èxit en el paisatge en constant canvi d'Internet.
més articles
Damir és el líder d'equip, cap de producte i editor de Metaverse Post, que cobreix temes com AI/ML, AGI, LLMs, Metaverse i Web3-camps relacionats. Els seus articles atrauen una audiència massiva de més d'un milió d'usuaris cada mes. Sembla ser un expert amb 10 anys d'experiència en SEO i màrqueting digital. Damir ha estat esmentat a Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto i altres publicacions. Viatja entre els Emirats Àrabs Units, Turquia, Rússia i la CEI com a nòmada digital. Damir va obtenir una llicenciatura en física, que creu que li ha donat les habilitats de pensament crític necessàries per tenir èxit en el paisatge en constant canvi d'Internet.
