AI Black Box: mikä se on ja miten se toimii
Lyhyesti
Tekoälyn mustat laatikot ovat järjestelmiä, jotka toimivat ilman käyttäjän tietämystä, kuten koneoppimista, joka koostuu algoritmista, koulutustiedoista ja mallista.
Mustat laatikot ovat tärkeitä ohjelmistojen tietoturvan kannalta, sillä niitä voidaan käyttää ohjelmistojen uudelleensuunnitteluun ja puutteiden löytämiseen, joita voidaan hyödyntää, ja ohjelmistotestaajat ja hakkerit voivat käyttää niitä heikkouksien löytämiseen.
Monille termi "musta laatikko" viittaa lentokoneissa oleviin tallennuslaitteisiin, jotka ovat arvokkaita kuolemanjälkeisissä tutkimuksissa, jos jotain uskomatonta tapahtuu. Toisille se on pieni, minimaalisesti kalustettu teatteri. Mustat laatikot ovat kuitenkin myös elintärkeitä tekoälylle.
AI mustat laatikot ovat järjestelmiä, jotka toimivat ilman käyttäjän tietämystä. Voit syöttää niille syötteitä ja saada tulosteen, mutta et voi tutkia järjestelmän koodia tai logiikkaa, jota käytetään tulosteen luomiseen.
Koneen oppiminen on hallitseva tekoälyn tyyppi. Se sisältää algoritmin tai joukon algoritmeja, koulutusdataa ja mallin.
- Algoritmi on sarja toimenpiteitä. Koulutuksen jälkeen algoritmi pystyy tunnistamaan tunnetut kuviot.
- Treeni tiedot on tietojoukko, jota käytetään AI-mallin harjoittamiseen.
- Koneoppimisalgoritmi on pohjimmiltaan menettely, joka on suunniteltu oppimaan lukuisista esimerkeistä ja tuottamaan koneoppimismalli. Koneoppimismalli on se, mitä ihmiset käyttävät, kun se on luotu.
Kuvantunnistusalgoritmi voitaisiin ohjelmoida havaitsemaan kuvatrendejä, ja koulutusdata voisi edustaa kuvia koirista. Syötät sille kuvan syötteenä ja saat sen ulostulona, näkyykö kuvassa, ja missä päin pikseleitä edustaa koiraa.
Koska koneoppimisalgoritmit ovat julkisesti tunnettuja, mustien laatikoiden piilottaminen on vähemmän tehokasta. Koska tekoälyinsinöörit kätkevät usein immateriaaliomaisuutensa mustiin laatikoihin, he yleensä laittavat mallin yhteen. Toinen tapa ohjelmistokehittäjille salata data on peittämällä tiedot, joita käytetään mallin harjoittamiseen – toisin sanoen sijoittamalla harjoitustiedot mustaan laatikkoon.
Mustan laatikon algoritmien toimintaa on vaikea ymmärtää, mutta se ei ole aivan mustavalkoista.
Lasilaatikko viittaa järjestelmään, jonka algoritmit, harjoitustiedot ja mallit ovat julkisesti saatavilla, kun taas musta laatikko viittaa järjestelmään, jonka algoritmit, harjoitustiedot ja mallit ovat piilossa. Termiä musta laatikko käytetään usein, kun tutkijat kuvaavat näitä tekoälyjärjestelmän puolia mustiksi.
Erityisesti koneoppimisalgoritmeista on niukasti tietoa syvät oppimisalgoritmit, toiminto. Tutkijat kehittävät algoritmeja, jotka eivät välttämättä ole lasilaatikoita, mutta ihmiset ymmärtävät paremmin.
Miksi tekoälyn mustat laatikot ovat tärkeitä?
Ei ole aina hyvä idea luottaa black-box-koneoppimisalgoritmeihin ja -malleihin. Entä jos koneoppimismalli, joka määrittää, oletko oikeutettu yrityslainaan pankista, kieltäytyy sinusta? Haluaisit tietää, jotta voit paremmin valittaa päätöksestä tai muuttaa tilannettasi lisätäksesi mahdollisuuksiasi saada lainaa seuraavalla kerralla.
Ohjelmiston pitämisen mustassa laatikossa on arveltu estävän hakkereita tutkimasta sitä ja siten tekevän sen turvalliseksi. Hakkerit voivat kuitenkin peruutusinsinööri ohjelmisto – eli tutkia, miten ohjelmisto toimii tarkasti – ja löytää puutteita, joita voidaan hyödyntää. Mustilla laatikoilla on myös tärkeitä vaikutuksia ohjelmistojärjestelmän turvallisuuteen.
Ohjelmistostaajat ja hyvää tarkoittavat hakkerit voivat katsoa ohjelmistojen testaamiseen käytetyn lasilaatikon sisään löytääkseen heikkouksia, mikä vähentää kyberhyökkäyksiä.
Lue lisää aiheeseen liittyviä artikkeleita:
- NFT Mysteerilaatikot: mitä ne ovat ja mistä ostaa
- Yli 15 parasta tekoälykurssia vuonna 2023: ilmaisia ja maksullisia
- Top 15 GPT-4 ja GPT-3 Chatbotit: Keskustele tekoälyn kanssa, kysy kysymyksiä
Vastuun kieltäminen
Mukaisesti Luottamusprojektin ohjeetHuomaa, että tällä sivulla annettuja tietoja ei ole tarkoitettu eikä niitä tule tulkita oikeudellisiksi, verotukselliseksi, sijoitus-, rahoitus- tai minkään muun muodon neuvoiksi. On tärkeää sijoittaa vain sen verran, mitä sinulla on varaa menettää, ja pyytää riippumatonta talousneuvontaa, jos sinulla on epäilyksiä. Lisätietoja saat käyttöehdoista sekä myöntäjän tai mainostajan tarjoamista ohje- ja tukisivuista. MetaversePost on sitoutunut tarkkaan, puolueettomaan raportointiin, mutta markkinaolosuhteet voivat muuttua ilman erillistä ilmoitusta.
Author
Damir on tiimin johtaja, tuotepäällikkö ja toimittaja osoitteessa Metaverse Post, kattaa aiheita, kuten AI/ML, AGI, LLMs, Metaverse ja Web3- liittyvät kentät. Hänen artikkelinsa houkuttelevat yli miljoonan käyttäjän massiivisen yleisön joka kuukausi. Hän näyttää olevan asiantuntija, jolla on 10 vuoden kokemus hakukoneoptimoinnista ja digitaalisesta markkinoinnista. Damir on mainittu Mashablessa, Wiredissä, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ja muut julkaisut. Hän matkustaa Arabiemiirikuntien, Turkin, Venäjän ja IVY-maiden välillä digitaalisena nomadina. Damir suoritti kandidaatin tutkinnon fysiikasta, jonka hän uskoo antaneen hänelle kriittisen ajattelun taidot menestyäkseen jatkuvasti muuttuvassa internetin maisemassa.
lisää artikkeleita
Damir on tiimin johtaja, tuotepäällikkö ja toimittaja osoitteessa Metaverse Post, kattaa aiheita, kuten AI/ML, AGI, LLMs, Metaverse ja Web3- liittyvät kentät. Hänen artikkelinsa houkuttelevat yli miljoonan käyttäjän massiivisen yleisön joka kuukausi. Hän näyttää olevan asiantuntija, jolla on 10 vuoden kokemus hakukoneoptimoinnista ja digitaalisesta markkinoinnista. Damir on mainittu Mashablessa, Wiredissä, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ja muut julkaisut. Hän matkustaa Arabiemiirikuntien, Turkin, Venäjän ja IVY-maiden välillä digitaalisena nomadina. Damir suoritti kandidaatin tutkinnon fysiikasta, jonka hän uskoo antaneen hänelle kriittisen ajattelun taidot menestyäkseen jatkuvasti muuttuvassa internetin maisemassa.
