AI Black Box: kaj je in kako deluje
Na kratko
Črne skrinjice AI so sistemi, ki delujejo brez vednosti uporabnika, na primer strojno učenje, ki je sestavljeno iz algoritma, podatkov o usposabljanju in modela.
Črne skrinjice so pomembne za varnost programske opreme, saj jih je mogoče uporabiti za obratni inženiring programske opreme in odkrivanje pomanjkljivosti za izkoriščanje, preizkuševalci programske opreme in hekerji pa jih lahko uporabljajo za iskanje slabosti.
Za mnoge se izraz "črna skrinjica" nanaša na snemalne naprave v letalih, ki so dragocene za obdukcije, če se zgodi nepredstavljivo. Za druge je to majhno, minimalistično opremljeno gledališče. Vendar so črne skrinjice bistvenega pomena tudi za umetno inteligenco.
AI črne skrinjice so sistemi, ki delujejo brez znanja uporabnika. Lahko jim posredujete vhod in dobite izhod, vendar ne morete pregledati kode sistema ali logike, uporabljene za generiranje izhoda.
Strojno učenje je prevladujoča vrsta umetne inteligence. Vsebuje algoritem ali nabor algoritmov, podatke o usposabljanju in model.
- Algoritem je zaporedje postopkov. Po usposabljanju je algoritem sposoben prepoznati znane vzorce.
- Usposabljanje datum je nabor podatkov, ki se uporablja za usposabljanje modela AI.
- Algoritem strojnega učenja je v bistvu postopek, ki je zasnovan za učenje iz velikega števila primerov in izdelavo modela strojnega učenja. Model strojnega učenja je tisto, kar ljudje uporabljajo, ko je ustvarjen.
Algoritem za prepoznavanje slike bi lahko programirali za odkrivanje slikovnih trendov, podatki o usposabljanju pa bi lahko predstavljali fotografije psov. Vnesli bi mu sliko kot vhod in jo dobili kot izhod, ne glede na to, ali in kje na sliki nabor pikslov predstavlja psa.
Ker so algoritmi strojnega učenja javno znani, je skrivanje črnih skrinjic manj učinkovito. Ker inženirji AI svojo intelektualno lastnino pogosto skrivajo v črnih skrinjicah, model običajno postavijo v eno. Druga pot razvijalci programske opreme prikriti podatkov je tako, da zakrije podatke, ki se uporabljajo za usposabljanje modela – z drugimi besedami, s postavitvijo podatkov o usposabljanju v črno škatlo.
Težko je razumeti, kako delujejo algoritmi črne skrinjice, vendar to ni čisto črno-belo.
Steklena škatla se nanaša na sistem, katerega algoritmi, podatki o usposabljanju in modeli so javno dostopni, medtem ko se črna skrinjica nanaša na sistem, katerega algoritmi, podatki o usposabljanju in modeli so skriti. Izraz črna skrinjica se pogosto uporablja, ko raziskovalci celo te vidike sistema AI opisujejo kot črne.
Zlasti o algoritmih strojnega učenja je premalo znanja algoritmi za globoko učenje, funkcija. Raziskovalci razvijajo algoritme, ki jih lahko ljudje bolje razumejo, čeprav niso nujno steklene škatle.
Zakaj so črne skrinjice AI pomembne?
Ni vedno dobra ideja zaupati algoritmom in modelom strojnega učenja črne skrinjice. Kaj pa, če vas model strojnega učenja, ki določa, ali izpolnjujete pogoje za poslovno posojilo banke, zavrne? Radi bi vedeli, da bi se lahko bolje pritožili na odločitev ali spremenili svojo situacijo in tako povečali svoje možnosti, da boste naslednjič dobili posojilo.
Hranjenje programske opreme v črni skrinjici naj bi preprečilo hekerjem, da bi jo pregledali, in jo tako naredilo varno. Vendar lahko hekerji vzvratni inženir programske opreme – torej preučiti, kako del programske opreme natančno deluje – in odkriti pomanjkljivosti, ki jih lahko izkoristite. Črne skrinjice imajo tudi pomembne posledice za varnost programskega sistema.
Preizkuševalci programske opreme in dobronamerni hekerji lahko pogledajo v stekleno škatlo, ki se uporablja za testiranje programske opreme, da odkrijejo slabosti in tako zmanjšajo kibernetske napade.
Preberite več sorodnih člankov:
- NFT Skrivnostne škatle: kaj so in kje kupiti
- 15+ najboljših tečajev umetne inteligence za učenje v letu 2023: brezplačni in plačljivi
- Top 15 GPT-4 in GPT-3 Klepetalni roboti: Pogovarjajte se z AI, postavljajte vprašanja
Zavrnitev odgovornosti
V skladu z Smernice projekta Trust, upoštevajte, da informacije na tej strani niso namenjene in se jih ne sme razlagati kot pravni, davčni, naložbeni, finančni ali kakršen koli drug nasvet. Pomembno je, da vlagate samo tisto, kar si lahko privoščite izgubiti, in da poiščete neodvisen finančni nasvet, če imate kakršne koli dvome. Za dodatne informacije predlagamo, da si ogledate določila in pogoje ter strani s pomočjo in podporo, ki jih nudi izdajatelj ali oglaševalec. MetaversePost se zavzema za natančno in nepristransko poročanje, vendar se tržni pogoji lahko spremenijo brez predhodnega obvestila.
O avtorju
Damir je vodja ekipe, produktni vodja in urednik pri Metaverse Post, ki pokriva teme, kot so AI/ML, AGI, LLMs, Metaverse in Web3- sorodna področja. Njegovi članki vsak mesec pritegnejo množično občinstvo več kot milijon uporabnikov. Zdi se, da je strokovnjak z 10-letnimi izkušnjami na področju SEO in digitalnega trženja. Damir je bil omenjen v Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto in druge publikacije. Kot digitalni nomad potuje med ZAE, Turčijo, Rusijo in SND. Damir je diplomiral iz fizike, kar mu je po njegovem mnenju dalo sposobnosti kritičnega razmišljanja, potrebne za uspeh v nenehno spreminjajočem se okolju interneta.
več člankov
Damir je vodja ekipe, produktni vodja in urednik pri Metaverse Post, ki pokriva teme, kot so AI/ML, AGI, LLMs, Metaverse in Web3- sorodna področja. Njegovi članki vsak mesec pritegnejo množično občinstvo več kot milijon uporabnikov. Zdi se, da je strokovnjak z 10-letnimi izkušnjami na področju SEO in digitalnega trženja. Damir je bil omenjen v Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto in druge publikacije. Kot digitalni nomad potuje med ZAE, Turčijo, Rusijo in SND. Damir je diplomiral iz fizike, kar mu je po njegovem mnenju dalo sposobnosti kritičnega razmišljanja, potrebne za uspeh v nenehno spreminjajočem se okolju interneta.
