29 mei 2023

AI Black Box: wat het is en hoe het werkt

Gepubliceerd: 29 mei 2023 om 9:00 uur Bijgewerkt: 29 mei 2023 om 8:11 uur

Bewerkt en gecontroleerd op feiten: 29 mei 2023 om 9:00 uur

In het kort

AI-black boxes zijn systemen die werken zonder medeweten van de gebruiker, zoals machine learning, dat is samengesteld uit een algoritme, trainingsgegevens en een model.

Black boxes zijn belangrijk voor softwarebeveiliging, omdat ze kunnen worden gebruikt om software te reverse-engineeren en fouten te ontdekken die kunnen worden misbruikt, en kunnen worden gebruikt door softwaretesters en hackers om zwakke punten te vinden.

Voor velen verwijst de term "zwarte doos" naar opnameapparaten in vliegtuigen die waardevol zijn voor postmortale onderzoeken als het ondenkbare gebeurt. Voor anderen is het een klein, minimalistisch ingericht theater. Zwarte dozen zijn echter ook essentieel voor kunstmatige intelligentie.

AI Black Box: wat het is en hoe het werkt — @Midjourney

AI zwarte dozen zijn systemen die werken zonder medeweten van de gebruiker. Je kunt ze input geven en output krijgen, maar je kunt de code van het systeem of de logica die wordt gebruikt om de output te genereren niet onderzoeken.

machine learning is het dominante type kunstmatige intelligentie. Het bestaat uit een algoritme of een set algoritmen, trainingsgegevens en een model.

Een algoritme is een opeenvolging van procedures. Een algoritme is na training in staat om bekende patronen te herkennen.
De training gegevens is de dataset die wordt gebruikt voor het trainen van het AI-model.
Een machine-learning algoritme is in wezen een procedure die is ontworpen om te leren van een groot aantal voorbeelden en een machine-learning model te produceren. Een machine-learning model is wat mensen gebruiken als het eenmaal is gemaakt.

Een algoritme voor beeldherkenning zou kunnen worden geprogrammeerd om beeldtrends te ontdekken, en trainingsgegevens zouden foto's van honden kunnen vertegenwoordigen. Je zou het een afbeelding als input geven en het als output krijgen, ongeacht of en waar in de afbeelding een set pixels een hond lijkt te vertegenwoordigen.

Omdat machine learning-algoritmen algemeen bekend zijn, is het verbergen van zwarte dozen minder effectief. Aangezien AI-ingenieurs hun intellectuele eigendom vaak in zwarte dozen verbergen, stoppen ze het model meestal in één. Een andere manier softwareontwikkelaars verbergen gegevens is door de gegevens die worden gebruikt om het model te trainen te verdoezelen - met andere woorden, de trainingsgegevens in een zwarte doos te plaatsen.

Het is moeilijk te begrijpen hoe black box-algoritmen werken, maar dat is niet helemaal zwart-wit.

Een glazen doos verwijst naar een systeem waarvan de algoritmen, trainingsgegevens en modellen openbaar toegankelijk zijn, terwijl een zwarte doos verwijst naar een systeem waarvan de algoritmen, trainingsgegevens en modellen verborgen zijn. De term black box wordt vaak gebruikt wanneer onderzoekers zelfs deze aspecten van een AI-systeem als zwart omschrijven.

Er is een gebrek aan kennis over hoe machine learning-algoritmen in het bijzonder werken diepe leeralgoritmen, functie. Onderzoekers ontwikkelen algoritmen die, hoewel niet noodzakelijkerwijs glazen dozen, beter door mensen kunnen worden begrepen.

Waarom zijn AI Black Boxes belangrijk?

Het is niet altijd een goed idee om black-box machine learning-algoritmen en -modellen te vertrouwen. Wat als een machine learning-model dat bepaalt of u in aanmerking komt voor een zakelijke lening van een bank, u afwijst? U wilt het graag weten, zodat u beter in beroep kunt gaan tegen de beslissing of uw situatie kunt wijzigen om de volgende keer uw kansen op een lening te vergroten.

Er wordt gedacht dat software in een zwarte doos wordt bewaard om te voorkomen dat hackers deze onderzoeken en daarom beveiligen. Hackers kunnen dat echter wel reverse engineering software – dat wil zeggen, bestudeer hoe een stukje software nauw samenwerkt – en ontdek gebreken om uit te buiten. Zwarte dozen hebben ook belangrijke implicaties voor de beveiliging van softwaresystemen.

Het is mogelijk voor softwaretesters en goedbedoelende hackers om in een glazen doos te kijken die wordt gebruikt om software te testen om zwakheden te vinden, waardoor cyberaanvallen worden verminderd.

Lees meer gerelateerde artikelen:

Tags:

Disclaimer

In lijn met de Richtlijnen voor vertrouwensprojectenHoud er rekening mee dat de informatie op deze pagina niet bedoeld is en niet mag worden geïnterpreteerd als juridisch, fiscaal, beleggings-, financieel of enige andere vorm van advies. Het is belangrijk om alleen te beleggen wat u zich kunt veroorloven te verliezen en onafhankelijk financieel advies in te winnen als u twijfels heeft. Voor meer informatie raden wij u aan de algemene voorwaarden en de hulp- en ondersteuningspagina's van de uitgever of adverteerder te raadplegen. MetaversePost streeft naar nauwkeurige, onpartijdige berichtgeving, maar de marktomstandigheden kunnen zonder voorafgaande kennisgeving worden gewijzigd.

Over de auteur

Damir is de teamleider, productmanager en redacteur bij Metaverse Post, met onderwerpen als AI/ML, AGI, LLM's, Metaverse en Web3-gerelateerde velden. Zijn artikelen trekken maandelijks een enorm publiek van meer dan een miljoen gebruikers. Hij blijkt een expert te zijn met 10 jaar ervaring in SEO en digitale marketing. Damir is genoemd in Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto en andere publicaties. Hij reist als digitale nomade tussen de VAE, Turkije, Rusland en het GOS. Damir behaalde een bachelordiploma in natuurkunde, wat hem volgens hem de kritische denkvaardigheden heeft gegeven die nodig zijn om succesvol te zijn in het steeds veranderende landschap van internet.

Meer artikelen

Damir Jalalov