AI Black Box : qu'est-ce que c'est et comment ça marche ?
En bref
Les boîtes noires d'IA sont des systèmes qui fonctionnent à l'insu de l'utilisateur, comme l'apprentissage automatique, qui est composé d'un algorithme, de données d'apprentissage et d'un modèle.
Les boîtes noires sont importantes pour la sécurité des logiciels, car elles peuvent être utilisées pour désosser des logiciels et découvrir des failles à exploiter, et peuvent être utilisées par des testeurs de logiciels et des pirates pour trouver des faiblesses.
Pour beaucoup, le terme «boîte noire» fait référence à des appareils d'enregistrement dans des avions qui sont précieux pour les examens post-mortem si l'impensable se produit. Pour d'autres, il s'agit d'un petit théâtre peu meublé. Cependant, les boîtes noires sont également vitales pour l'intelligence artificielle.
Boîtes noires IA sont des systèmes qui fonctionnent à l'insu de l'utilisateur. Vous pouvez leur fournir des entrées et obtenir des sorties, mais vous ne pouvez pas examiner le code du système ou la logique utilisée pour générer la sortie.
Apprentissage automatique est le type dominant d'intelligence artificielle. Il comprend un algorithme ou un ensemble d'algorithmes, des données d'apprentissage et un modèle.
- Un algorithme est une séquence de procédures. Après avoir été formé, un algorithme est capable de reconnaître des modèles connus.
- La formation données est l'ensemble de données utilisé pour former le modèle d'IA.
- Un algorithme d'apprentissage automatique est, par essence, une procédure conçue pour apprendre à partir d'un grand nombre d'exemples et produire un modèle d'apprentissage automatique. Un modèle d'apprentissage automatique est ce que les gens utilisent une fois qu'il a été créé.
Un algorithme de reconnaissance d'images pourrait être programmé pour découvrir les tendances des images, et les données d'entraînement pourraient représenter des photos de chiens. Vous lui donneriez une image en entrée et l'obtiendriez en sortie si et où dans l'image un ensemble de pixels semble représenter un chien.
Étant donné que les algorithmes d'apprentissage automatique sont connus du public, le masquage des boîtes noires est moins efficace. Étant donné que les ingénieurs en intelligence artificielle dissimulent fréquemment leur propriété intellectuelle dans des boîtes noires, ils placent généralement le modèle dans une seule. Une autre façon pour les développeurs de logiciels cacher données consiste à masquer les données utilisées pour former le modèle, en d'autres termes, en plaçant les données de formation dans une boîte noire.
Il est difficile de comprendre comment fonctionnent les algorithmes de la boîte noire, mais ce n'est pas tout à fait noir et blanc.
Une boîte de verre fait référence à un système dont les algorithmes, les données de formation et les modèles sont accessibles au public, tandis qu'une boîte noire fait référence à un système dont les algorithmes, les données de formation et les modèles sont masqués. Le terme boîte noire est souvent utilisé lorsque les chercheurs décrivent même ces aspects d'un système d'IA comme noirs.
Il y a un manque de connaissances sur la façon dont les algorithmes d'apprentissage automatique, en particulier algorithmes d'apprentissage en profondeur, fonction. Les chercheurs développent des algorithmes qui, s'ils ne sont pas nécessairement des boîtes de verre, peuvent être mieux compris par les humains.
Pourquoi les boîtes noires de l'IA sont-elles importantes ?
Ce n'est pas toujours une bonne idée de faire confiance aux algorithmes et aux modèles d'apprentissage automatique de la boîte noire. Que se passe-t-il si un modèle d'apprentissage automatique qui détermine si vous êtes admissible à un prêt commercial auprès d'une banque vous refuse ? Vous aimeriez le savoir pour mieux faire appel de la décision ou modifier votre situation pour augmenter vos chances d'obtenir un prêt la prochaine fois.
On a pensé que le fait de conserver le logiciel dans une boîte noire empêche les pirates de l'examiner et, par conséquent, le rend sécurisé. Cependant, les pirates peuvent ingénierie inverse logiciel - c'est-à-dire étudier de près le fonctionnement d'un logiciel - et découvrir les failles à exploiter. Les boîtes noires ont également des implications importantes pour la sécurité du système logiciel.
Il est possible pour les testeurs de logiciels et les pirates bien intentionnés de regarder à l'intérieur d'une boîte en verre utilisée pour tester des logiciels pour trouver des faiblesses, réduisant ainsi les cyberattaques.
Lire plus d'articles connexes:
- NFT Boîtes mystères : de quoi s'agit-il et où les acheter
- 15+ meilleurs cours d'IA à apprendre en 2023 : gratuits et payants
- Top 15 GPT-4 ainsi que GPT-3 Chatbots : parlez avec l'IA, posez des questions
Clause de non-responsabilité
En ligne avec la Lignes directrices du projet de confiance, veuillez noter que les informations fournies sur cette page ne sont pas destinées à être et ne doivent pas être interprétées comme des conseils juridiques, fiscaux, d'investissement, financiers ou toute autre forme de conseil. Il est important d’investir uniquement ce que vous pouvez vous permettre de perdre et de demander des conseils financiers indépendants en cas de doute. Pour plus d'informations, nous vous suggérons de vous référer aux conditions générales ainsi qu'aux pages d'aide et de support mises à disposition par l'émetteur ou l'annonceur. MetaversePost s'engage à fournir des rapports précis et impartiaux, mais les conditions du marché sont susceptibles de changer sans préavis.
A propos de l'auteur
Damir est chef d'équipe, chef de produit et rédacteur en chef chez Metaverse Post, couvrant des sujets tels que l'IA/ML, l'AGI, les LLM, le métaverse et Web3-domaines connexes. Ses articles attirent une audience massive de plus d'un million d'utilisateurs chaque mois. Il semble être un expert avec 10 ans d'expérience dans le référencement et le marketing numérique. Damir a été mentionné dans Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto et d'autres publications. Il voyage entre les Émirats arabes unis, la Turquie, la Russie et la CEI en tant que nomade numérique. Damir a obtenu un baccalauréat en physique, ce qui, selon lui, lui a donné les compétences de pensée critique nécessaires pour réussir dans le paysage en constante évolution d'Internet.
Plus d'articles
Damir est chef d'équipe, chef de produit et rédacteur en chef chez Metaverse Post, couvrant des sujets tels que l'IA/ML, l'AGI, les LLM, le métaverse et Web3-domaines connexes. Ses articles attirent une audience massive de plus d'un million d'utilisateurs chaque mois. Il semble être un expert avec 10 ans d'expérience dans le référencement et le marketing numérique. Damir a été mentionné dans Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto et d'autres publications. Il voyage entre les Émirats arabes unis, la Turquie, la Russie et la CEI en tant que nomade numérique. Damir a obtenu un baccalauréat en physique, ce qui, selon lui, lui a donné les compétences de pensée critique nécessaires pour réussir dans le paysage en constante évolution d'Internet.
