AI Black Box: Vad det är och hur det fungerar
I korthet
AI-svarta lådor är system som fungerar utan användarkunskap, såsom maskininlärning, som är sammansatt av en algoritm, träningsdata och en modell.
Svarta lådor är viktiga för mjukvarusäkerhet, eftersom de kan användas för att omvända konstruera programvara och upptäcka brister att utnyttja, och kan användas av mjukvarutestare och hackare för att hitta svagheter.
För många syftar termen "svart låda" på inspelningsenheter i flygplan som är värdefulla för obduktionsundersökningar om det otänkbara inträffar. För andra är det en liten, minimalistiskt inredd teater. Men svarta lådor är också avgörande för artificiell intelligens.
AI svarta lådor är system som fungerar utan användarkännedom. Du kan mata in dem och få utdata, men du kan inte undersöka systemets kod eller logiken som används för att generera utdata.
Maskininlärning är den dominerande typen av artificiell intelligens. Den består av en algoritm eller en uppsättning algoritmer, träningsdata och en modell.
- En algoritm är en sekvens av procedurer. Efter att ha tränats kan en algoritm känna igen kända mönster.
- Träningen datum är datamängden som används för att träna AI-modellen.
- En maskininlärningsalgoritm är i huvudsak en procedur som är utformad för att lära av ett stort antal exempel och producera en maskininlärningsmodell. En maskininlärningsmodell är vad människor använder när den väl har skapats.
En bildigenkänningsalgoritm kan programmeras för att upptäcka bildtrender, och träningsdata kan representera foton av hundar. Du skulle mata den med en bild som indata och få den som utdata om och var i bilden en uppsättning pixlar verkar representera en hund.
Eftersom maskininlärningsalgoritmer är allmänt kända är det mindre effektivt att dölja svarta lådor. Eftersom AI-ingenjörer ofta döljer sina immateriella rättigheter i svarta lådor lägger de vanligtvis modellen i ett. Ett annat sätt mjukvaruutvecklare dölja data är genom att dölja data som används för att träna modellen – med andra ord, lägga träningsdata i en svart låda.
Det är svårt att förstå hur black box-algoritmer fungerar, men det är inte riktigt svartvitt.
En glaslåda hänvisar till ett system vars algoritmer, träningsdata och modeller är offentligt tillgängliga, medan en svart låda hänvisar till ett system vars algoritmer, träningsdata och modeller är dolda. Termen black box används ofta när forskare beskriver även dessa aspekter av ett AI-system som svart.
Det finns en brist på kunskap om hur maskininlärningsalgoritmer, särskilt djupa inlärningsalgoritmer, funktion. Forskare utvecklar algoritmer som, även om de inte nödvändigtvis är glaslådor, kan förstås bättre av människor.
Varför är AI Black Boxes viktiga?
Det är inte alltid en bra idé att lita på black-box maskininlärningsalgoritmer och modeller. Vad händer om en maskininlärningsmodell som avgör om du är kvalificerad för ett företagslån från en bank avvisar dig? Du skulle vilja veta så att du bättre kan överklaga beslutet eller ändra din situation för att öka dina chanser att få ett lån nästa gång.
Att förvara programvara i en svart låda har ansetts förhindra hackare från att undersöka den och därför göra den säker. Det kan dock hackare omvänd ingenjör programvara – det vill säga studera hur en mjukvara fungerar nära – och upptäck brister att utnyttja. Svarta lådor har också viktiga konsekvenser för programvarans systemsäkerhet.
Det är möjligt för mjukvarutestare och välmenande hackare att titta in i en glaslåda som används för att testa mjukvara för att hitta svagheter och på så sätt minska antalet cyberattacker.
Läs fler relaterade artiklar:
- NFT Mystery Boxs: Vad är de och var man kan köpa
- 15+ bästa AI-kurser att lära sig 2023: Gratis och betald
- Top 15 GPT-4 och GPT-3 Chatbots: Prata med AI, ställ frågor
Villkor
I linje med den Riktlinjer för Trust Project, vänligen notera att informationen på den här sidan inte är avsedd att vara och inte ska tolkas som juridisk, skattemässig, investerings-, finansiell eller någon annan form av rådgivning. Det är viktigt att bara investera det du har råd att förlora och att söka oberoende finansiell rådgivning om du har några tvivel. För ytterligare information föreslår vi att du hänvisar till villkoren samt hjälp- och supportsidorna som tillhandahålls av utfärdaren eller annonsören. MetaversePost är engagerad i korrekt, opartisk rapportering, men marknadsförhållandena kan ändras utan föregående meddelande.
Om författaren
Damir är teamledare, produktchef och redaktör på Metaverse Post, som täcker ämnen som AI/ML, AGI, LLMs, Metaverse och Web3-relaterade områden. Hans artiklar lockar en massiv publik på över en miljon användare varje månad. Han verkar vara en expert med 10 års erfarenhet av SEO och digital marknadsföring. Damir har nämnts i Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto och andra publikationer. Han reser mellan Förenade Arabemiraten, Turkiet, Ryssland och OSS som en digital nomad. Damir tog en kandidatexamen i fysik, som han tror har gett honom de kritiska tänkande färdigheter som behövs för att bli framgångsrik i det ständigt föränderliga landskapet på internet.
fler artiklar
Damir är teamledare, produktchef och redaktör på Metaverse Post, som täcker ämnen som AI/ML, AGI, LLMs, Metaverse och Web3-relaterade områden. Hans artiklar lockar en massiv publik på över en miljon användare varje månad. Han verkar vara en expert med 10 års erfarenhet av SEO och digital marknadsföring. Damir har nämnts i Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto och andra publikationer. Han reser mellan Förenade Arabemiraten, Turkiet, Ryssland och OSS som en digital nomad. Damir tog en kandidatexamen i fysik, som han tror har gett honom de kritiska tänkande färdigheter som behövs för att bli framgångsrik i det ständigt föränderliga landskapet på internet.
