AI Black Box: Hvad det er, og hvordan det virker
Kort sagt
AI sorte bokse er systemer, der fungerer uden brugerviden, såsom maskinlæring, som er sammensat af en algoritme, træningsdata og en model.
Sorte bokse er vigtige for softwaresikkerhed, da de kan bruges til at reversere software og opdage fejl, der skal udnyttes, og kan bruges af softwaretestere og hackere til at finde svagheder.
For mange refererer udtrykket "black box" til optageudstyr i fly, der er værdifulde til obduktionsundersøgelser, hvis det utænkelige sker. For andre er det et lille, minimalistisk indrettet teater. Men sorte bokse er også afgørende for kunstig intelligens.
AI sorte bokse er systemer, der fungerer uden brugerviden. Du kan fodre dem input og få output, men du kan ikke undersøge systemets kode eller logikken, der bruges til at generere output.
Maskinelæring er den dominerende type kunstig intelligens. Det omfatter en algoritme eller et sæt algoritmer, træningsdata og en model.
- En algoritme er en sekvens af procedurer. Efter at være blevet trænet, er en algoritme i stand til at genkende kendte mønstre.
- Træningen data er det datasæt, der bruges til træning af AI-modellen.
- En maskinlæringsalgoritme er i bund og grund en procedure, der er designet til at lære af en lang række eksempler og producere en maskinlæringsmodel. En maskinlæringsmodel er, hvad folk bruger, når den er blevet oprettet.
En billedgenkendelsesalgoritme kunne programmeres til at opdage billedtendenser, og træningsdata kunne repræsentere billeder af hunde. Du vil give det et billede som input og få det som output, om og hvor i billedet et sæt pixels ser ud til at repræsentere en hund.
Da maskinlæringsalgoritmer er offentligt kendte, er det mindre effektivt at skjule sorte bokse. Da AI-ingeniører ofte skjuler deres intellektuelle ejendom i sorte kasser, lægger de normalt modellen i én. En anden måde softwareudviklere skjule data er ved at sløre de data, der bruges til at træne modellen – med andre ord at lægge træningsdataene i en sort boks.
Det er svært at forstå, hvordan sorte boks-algoritmer fungerer, men det er ikke helt sort-hvidt.
En glasboks refererer til et system, hvis algoritmer, træningsdata og modeller er offentligt tilgængelige, mens en sort boks refererer til et system, hvis algoritmer, træningsdata og modeller er skjult. Udtrykket sort boks bruges ofte, når forskere beskriver selv disse aspekter af et AI-system som sort.
Der er mangel på viden om, hvordan maskinlæringsalgoritmer, især dyb læringsalgoritmer, funktion. Forskere er ved at udvikle algoritmer, der, selvom de ikke nødvendigvis er glaskasser, bedre kan forstås af mennesker.
Hvorfor er AI Black Boxes vigtige?
Det er ikke altid en god idé at stole på black-box machine learning algoritmer og modeller. Hvad hvis en maskinlæringsmodel, der afgør, om du er berettiget til et erhvervslån fra en bank, afviser dig? Du vil gerne vide det, så du bedre kan klage over afgørelsen eller ændre din situation for at øge dine chancer for at få et lån næste gang.
Opbevaring af software i en sort boks har været antaget at forhindre hackere i at undersøge det og derfor gøre det sikkert. Det kan hackere dog omvendt ingeniør software – det vil sige, undersøg, hvordan et stykke software arbejder tæt sammen – og opdag fejl at udnytte. Sorte bokse har også vigtige konsekvenser for softwaresystemsikkerheden.
Det er muligt for softwaretestere og velmenende hackere at kigge ind i en glaskasse, der bruges til at teste software for at finde svagheder og dermed skære ned på cyberangreb.
Læs flere relaterede artikler:
- NFT Mystery Boxes: Hvad er de, og hvor kan de købes
- 15+ bedste AI-kurser at lære i 2023: Gratis og betalt
- Top 15 GPT-4 , GPT-3 Chatbots: Tal med AI, stil spørgsmål
Ansvarsfraskrivelse
I tråd med den Trust Project retningslinjer, bemærk venligst, at oplysningerne på denne side ikke er beregnet til at være og ikke skal fortolkes som juridiske, skattemæssige, investeringsmæssige, finansielle eller nogen anden form for rådgivning. Det er vigtigt kun at investere, hvad du har råd til at tabe, og at søge uafhængig finansiel rådgivning, hvis du er i tvivl. For yderligere information foreslår vi at henvise til vilkårene og betingelserne samt hjælpe- og supportsiderne fra udstederen eller annoncøren. MetaversePost er forpligtet til nøjagtig, objektiv rapportering, men markedsforholdene kan ændres uden varsel.
Om forfatteren
Damir er teamleder, produktchef og redaktør på Metaverse Post, der dækker emner som AI/ML, AGI, LLM'er, Metaverse og Web3-relaterede felter. Hans artikler tiltrækker et massivt publikum på over en million brugere hver måned. Han ser ud til at være en ekspert med 10 års erfaring i SEO og digital markedsføring. Damir er blevet nævnt i Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto og andre publikationer. Han rejser mellem UAE, Tyrkiet, Rusland og SNG som en digital nomade. Damir tog en bachelorgrad i fysik, som han mener har givet ham de kritiske tænkningskompetencer, der er nødvendige for at få succes i internettets evigt skiftende landskab.
Flere artikler
Damir er teamleder, produktchef og redaktør på Metaverse Post, der dækker emner som AI/ML, AGI, LLM'er, Metaverse og Web3-relaterede felter. Hans artikler tiltrækker et massivt publikum på over en million brugere hver måned. Han ser ud til at være en ekspert med 10 års erfaring i SEO og digital markedsføring. Damir er blevet nævnt i Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto og andre publikationer. Han rejser mellem UAE, Tyrkiet, Rusland og SNG som en digital nomade. Damir tog en bachelorgrad i fysik, som han mener har givet ham de kritiske tænkningskompetencer, der er nødvendige for at få succes i internettets evigt skiftende landskab.
