AI juodoji dėžutė: kas tai yra ir kaip ji veikia
Trumpai
AI juodosios dėžės yra sistemos, veikiančios be vartotojo žinių, pavyzdžiui, mašininis mokymasis, kurį sudaro algoritmas, mokymo duomenys ir modelis.
Juodosios dėžės yra svarbios programinės įrangos saugumui, nes jas galima naudoti norint pakeisti programinę įrangą ir atrasti trūkumus, kuriuos reikia išnaudoti, o programinės įrangos bandytojai ir įsilaužėliai gali jas naudoti, kad surastų trūkumus.
Daugeliui terminas „juodoji dėžė“ reiškia įrašymo įrenginius lėktuvuose, kurie yra vertingi atliekant pomirtinį tyrimą, jei atsitiktų neįsivaizduojama. Kitiems – mažas, minimaliai įrengtas teatras. Tačiau juodosios dėžės taip pat yra gyvybiškai svarbios dirbtiniam intelektui.
AI juodosios dėžės yra sistemos, kurios veikia be vartotojo žinios. Galite pateikti jiems įvestį ir gauti išvestį, bet negalite ištirti sistemos kodo ar logikos, naudojamos generuoti išvestį.
Mašininis mokymasis yra dominuojantis dirbtinio intelekto tipas. Jį sudaro algoritmas arba algoritmų rinkinys, mokymo duomenys ir modelis.
- Algoritmas yra procedūrų seka. Išmokęs, algoritmas gali atpažinti žinomus modelius.
- Treniruotės duomenys yra duomenų rinkinys, naudojamas mokant dirbtinio intelekto modelį.
- Mašininio mokymosi algoritmas iš esmės yra procedūra, skirta mokytis iš daugybės pavyzdžių ir sukurti mašininio mokymosi modelį. Mašininio mokymosi modelis yra tai, ką žmonės naudoja jį sukūrę.
Vaizdo atpažinimo algoritmas gali būti užprogramuotas, kad būtų galima atrasti vaizdo tendencijas, o dresūros duomenys galėtų atspindėti šunų nuotraukas. Pateiktumėte vaizdą kaip įvestį ir gautumėte jį kaip išvestį, ar vaizdo elementų rinkinys vaizduoja šunį ir kur jis yra.
Kadangi mašininio mokymosi algoritmai yra viešai žinomi, juodųjų dėžių slėpimas yra mažiau efektyvus. Kadangi dirbtinio intelekto inžinieriai dažnai slepia savo intelektinę nuosavybę juodosiose dėžėse, jie paprastai sudeda modelį į vieną. Kitas būdas programinės įrangos kūrėjams nuslėpti duomenys yra uždengiami modeliui mokyti naudojami duomenys – kitaip tariant, mokymo duomenys įdedami į juodąją dėžę.
Sunku suprasti, kaip veikia juodosios dėžės algoritmai, tačiau tai nėra visiškai juoda ir balta.
Stiklinė dėžė reiškia sistemą, kurios algoritmai, mokymo duomenys ir modeliai yra viešai prieinami, o juodoji dėžė reiškia sistemą, kurios algoritmai, mokymo duomenys ir modeliai yra paslėpti. Terminas „juodoji dėžė“ dažnai vartojamas, kai mokslininkai net šiuos AI sistemos aspektus apibūdina kaip juodus.
Trūksta žinių apie mašininio mokymosi algoritmus, ypač gilaus mokymosi algoritmai, funkcija. Mokslininkai kuria algoritmus, kurie, nors nebūtinai yra stiklinės dėžės, gali būti geriau suprantami žmonėms.
Kodėl AI juodosios dėžės yra svarbios?
Ne visada gera idėja pasitikėti juodosios dėžės mašininio mokymosi algoritmais ir modeliais. Ką daryti, jei mašininio mokymosi modelis, nustatantis, ar turite teisę gauti verslo paskolą iš banko, jus atmes? Norėtumėte žinoti, kad galėtumėte geriau apskųsti sprendimą arba pakeisti savo situaciją, kad kitą kartą būtų didesnė tikimybė gauti paskolą.
Manoma, kad programinės įrangos laikymas juodojoje dėžėje neleidžia įsilaužėliams jos ištirti ir todėl tampa saugi. Tačiau įsilaužėliai gali atvirkštinis inžinierius programinė įranga, ty atidžiai išstudijuokite, kaip programinė įranga veikia, ir atraskite trūkumus, kuriuos reikia išnaudoti. Juodosios dėžės taip pat turi didelę reikšmę programinės įrangos sistemos saugumui.
Programinės įrangos bandytojai ir gerai nusiteikę įsilaužėliai gali pažvelgti į stiklinę dėžę, naudojamą programinei įrangai išbandyti, kad surastų trūkumus ir taip sumažintų kibernetinių atakų skaičių.
Skaitykite daugiau susijusių straipsnių:
- NFT Paslaptingos dėžutės: kas jos yra ir kur nusipirkti
- Daugiau nei 15 geriausių AI kursų, kurių reikia mokytis 2023 m.: nemokami ir mokami
- Top 15 GPT-4 ir GPT-3 Pokalbių robotai: kalbėkite su AI, užduokite klausimų
Atsakomybės neigimas
Remdamasi tuo, Pasitikėjimo projekto gairės, atkreipkite dėmesį, kad šiame puslapyje pateikta informacija nėra skirta ir neturėtų būti aiškinama kaip teisinė, mokesčių, investicinė, finansinė ar bet kokia kita konsultacija. Svarbu investuoti tik tai, ką galite sau leisti prarasti, ir, jei turite kokių nors abejonių, kreiptis į nepriklausomą finansinę konsultaciją. Norėdami gauti daugiau informacijos, siūlome peržiūrėti taisykles ir nuostatas bei pagalbos ir palaikymo puslapius, kuriuos pateikia išdavėjas arba reklamuotojas. MetaversePost yra įsipareigojusi teikti tikslias, nešališkas ataskaitas, tačiau rinkos sąlygos gali keistis be įspėjimo.
Apie autorių
Damiras yra komandos vadovas, produktų vadovas ir redaktorius Metaverse Post, apimantis tokias temas kaip AI/ML, AGI, LLM, Metaverse ir Web3– susijusiose srityse. Jo straipsniai kas mėnesį pritraukia didžiulę daugiau nei milijono vartotojų auditoriją. Atrodo, kad jis yra ekspertas, turintis 10 metų SEO ir skaitmeninės rinkodaros patirtį. Damiras buvo paminėtas Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ir kiti leidiniai. Jis keliauja tarp JAE, Turkijos, Rusijos ir NVS kaip skaitmeninis klajoklis. Damiras įgijo fizikos bakalauro laipsnį, kuris, jo manymu, suteikė jam kritinio mąstymo įgūdžių, reikalingų sėkmingam nuolat besikeičiančiame interneto peizaže.
Daugiau straipsnių
Damiras yra komandos vadovas, produktų vadovas ir redaktorius Metaverse Post, apimantis tokias temas kaip AI/ML, AGI, LLM, Metaverse ir Web3– susijusiose srityse. Jo straipsniai kas mėnesį pritraukia didžiulę daugiau nei milijono vartotojų auditoriją. Atrodo, kad jis yra ekspertas, turintis 10 metų SEO ir skaitmeninės rinkodaros patirtį. Damiras buvo paminėtas Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ir kiti leidiniai. Jis keliauja tarp JAE, Turkijos, Rusijos ir NVS kaip skaitmeninis klajoklis. Damiras įgijo fizikos bakalauro laipsnį, kuris, jo manymu, suteikė jam kritinio mąstymo įgūdžių, reikalingų sėkmingam nuolat besikeičiančiame interneto peizaže.
