AI Black Box: Ce este și cum funcționează
Pe scurt
Cutiile negre AI sunt sisteme care funcționează fără cunoștințele utilizatorului, cum ar fi învățarea automată, care este compusă dintr-un algoritm, date de antrenament și un model.
Cutiile negre sunt importante pentru securitatea software-ului, deoarece pot fi folosite pentru a face ingineria inversă a software-ului și pentru a descoperi defecte de exploatat și pot fi folosite de testerii de software și hackeri pentru a găsi punctele slabe.
Pentru mulți, termenul „cutie neagră” se referă la dispozitivele de înregistrare în avioane care sunt valoroase pentru examinările post-mortem dacă se întâmplă ceva de neconceput. Pentru alții, este un teatru mic, mobilat minim. Cu toate acestea, cutiile negre sunt, de asemenea, vitale pentru inteligența artificială.
Cutii negre AI sunt sisteme care funcționează fără cunoștințele utilizatorului. Le puteți alimenta cu intrare și obține ieșire, dar nu puteți examina codul sistemului sau logica folosită pentru a genera ieșirea.
Invatare mecanica este tipul dominant de inteligență artificială. Acesta cuprinde un algoritm sau un set de algoritmi, date de antrenament și un model.
- Un algoritm este o succesiune de proceduri. După ce a fost antrenat, un algoritm este capabil să recunoască modele cunoscute.
- Antrenamentul de date este setul de date utilizat pentru antrenarea modelului AI.
- Un algoritm de învățare automată este, în esență, o procedură care este concepută pentru a învăța dintr-un număr mare de exemple și pentru a produce un model de învățare automată. Un model de învățare automată este ceea ce oamenii folosesc odată ce a fost creat.
Un algoritm de recunoaștere a imaginilor ar putea fi programat pentru a descoperi tendințele imaginilor, iar datele de dresaj ar putea reprezenta fotografii cu câini. Ați alimenta o imagine ca intrare și ați obține-o ca ieșire dacă și unde în imagine un set de pixeli pare să reprezinte un câine.
Deoarece algoritmii de învățare automată sunt cunoscuți public, ascunderea cutiilor negre este mai puțin eficientă. Deoarece inginerii AI își ascund frecvent proprietatea intelectuală în cutii negre, de obicei pun modelul într-una singură. Un alt mod dezvoltatorii de software ascunde datele sunt ascunse datele care sunt folosite pentru a antrena modelul - cu alte cuvinte, a pune datele de antrenament într-o cutie neagră.
Este greu de înțeles cum funcționează algoritmii cutie neagră, dar asta nu este chiar alb-negru.
O cutie de sticlă se referă la un sistem ai cărui algoritmi, date de antrenament și modele sunt accesibile publicului, în timp ce o cutie neagră se referă la un sistem ai cărui algoritmi, date de antrenament și modele sunt ascunse. Termenul cutie neagră este adesea folosit atunci când cercetătorii descriu chiar și aceste aspecte ale unui sistem AI ca fiind negre.
Există o lipsă de cunoștințe despre modul în care algoritmii de învățare automată, în special algoritmi de învățare profundă, funcție. Cercetătorii dezvoltă algoritmi care, deși nu sunt neapărat cutii de sticlă, pot fi mai bine înțeleși de oameni.
De ce sunt importante cutiile negre AI?
Nu este întotdeauna o idee bună să aveți încredere în algoritmii și modelele de învățare automată din cutia neagră. Ce se întâmplă dacă un model de învățare automată care determină dacă vă calificați pentru un împrumut de afaceri de la o bancă vă refuză? Ați dori să știți astfel încât să puteți contesta mai bine decizia sau să vă schimbați situația pentru a vă crește șansele de a obține un împrumut data viitoare.
Păstrarea software-ului într-o cutie neagră a fost gândită pentru a împiedica hackerii să-l examineze și, prin urmare, să-l facă în siguranță. Totuși, hackerii pot inginer invers software – adică studiați îndeaproape modul în care funcționează un software – și descoperiți defecte de exploatat. Cutiile negre au, de asemenea, implicații importante pentru securitatea sistemului software.
Este posibil ca testerii de software și hackerii bine intenționați să caute într-o cutie de sticlă folosită pentru a testa software-ul pentru a găsi punctele slabe, reducând astfel atacurile cibernetice.
Citiți mai multe articole conexe:
- NFT Cutii misterioase: ce sunt și de unde să cumpăr
- 15+ Cele mai bune cursuri AI de învățat în 2023: gratuite și plătite
- Top 15 GPT-4 și GPT-3 Chatbot: Vorbește cu AI, pune întrebări
Declinare a responsabilităţii
În conformitate cu Ghidurile proiectului Trust, vă rugăm să rețineți că informațiile furnizate pe această pagină nu sunt destinate și nu trebuie interpretate ca fiind consiliere juridică, fiscală, investițională, financiară sau orice altă formă de consiliere. Este important să investești doar ceea ce îți poți permite să pierzi și să cauți sfaturi financiare independente dacă ai îndoieli. Pentru informații suplimentare, vă sugerăm să consultați termenii și condițiile, precum și paginile de ajutor și asistență furnizate de emitent sau agent de publicitate. MetaversePost se angajează să raporteze corecte, imparțial, dar condițiile de piață pot fi modificate fără notificare.
Despre autor
Damir este liderul echipei, manager de produs și editor la Metaverse Post, care acoperă subiecte precum AI/ML, AGI, LLM-uri, Metaverse și Web3-domenii conexe. Articolele sale atrag o audiență masivă de peste un milion de utilizatori în fiecare lună. El pare a fi un expert cu 10 ani de experiență în SEO și marketing digital. Damir a fost menționat în Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto și alte publicații. Călătorește între Emiratele Arabe Unite, Turcia, Rusia și CSI ca nomad digital. Damir a obținut o diplomă de licență în fizică, despre care crede că i-a oferit abilitățile de gândire critică necesare pentru a avea succes în peisajul în continuă schimbare al internetului.
Mai multe articole
Damir este liderul echipei, manager de produs și editor la Metaverse Post, care acoperă subiecte precum AI/ML, AGI, LLM-uri, Metaverse și Web3-domenii conexe. Articolele sale atrag o audiență masivă de peste un milion de utilizatori în fiecare lună. El pare a fi un expert cu 10 ani de experiență în SEO și marketing digital. Damir a fost menționat în Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto și alte publicații. Călătorește între Emiratele Arabe Unite, Turcia, Rusia și CSI ca nomad digital. Damir a obținut o diplomă de licență în fizică, despre care crede că i-a oferit abilitățile de gândire critică necesare pentru a avea succes în peisajul în continuă schimbare al internetului.
