May 29, 2023

AI Black Box: mi ez és hogyan működik

Közzétéve: 29. május 2023., 9:00 Frissítve: 29. május 2023., 8:11

Szerkesztve és tényszerűen ellenőrzött: 29. május 2023. 9:00

Röviden

Az AI fekete dobozok olyan rendszerek, amelyek felhasználói ismeretek nélkül működnek, mint például a gépi tanulás, amely algoritmusból, betanítási adatokból és modellből áll.

A fekete dobozok fontosak a szoftverbiztonság szempontjából, mivel felhasználhatók a szoftverek visszafejtésére és a kihasználható hibák felfedezésére, a szoftvertesztelők és hackerek pedig a gyengeségek megtalálására használhatják őket.

Sokak számára a „fekete doboz” kifejezés olyan repülőeszközökre utal, amelyek értékesek a postmortem vizsgálatokhoz, ha elképzelhetetlen történik. Mások számára ez egy kicsi, minimálisan berendezett színház. A fekete dobozok azonban létfontosságúak a mesterséges intelligencia számára is.

AI Black Box: mi ez és hogyan működik — @Midjourney

AI fekete dobozok olyan rendszerek, amelyek a felhasználó ismerete nélkül működnek. Betáplálhatja őket bemenettel és kimenettel, de nem vizsgálhatja meg a rendszer kódját vagy a kimenet generálásához használt logikát.

Gépi tanulás a mesterséges intelligencia domináns típusa. Tartalmaz egy algoritmust vagy algoritmusok halmazát, a betanítási adatokat és egy modellt.

Az algoritmus eljárások sorozata. A betanítás után egy algoritmus képes felismerni az ismert mintákat.
A képzés dátum az AI modell betanításához használt adatkészlet.
A gépi tanulási algoritmus lényegében egy olyan eljárás, amelynek célja, hogy számos példából tanuljon, és gépi tanulási modellt hozzon létre. A gépi tanulási modell az, amit az emberek a létrehozása után használnak.

Képfelismerő algoritmus programozható a képtrendek felfedezésére, a képzési adatok pedig a kutyákról készült fényképeket képviselhetik. Bemenetként egy képet ad, és kimenetként kapja meg, hogy a képen egy pixelkészlet kutyát ábrázol-e, és hol, és hol.

Mivel a gépi tanulási algoritmusok nyilvánosan ismertek, a fekete dobozok elrejtése kevésbé hatékony. Mivel a mesterséges intelligencia mérnökei gyakran fekete dobozokba rejtik szellemi tulajdonukat, általában egybe helyezik a modellt. Egy másik módszer a szoftverfejlesztők számára leplezni Az adatok a modell betanításához használt adatok eltakarásával – más szóval a betanítási adatok fekete dobozba helyezésével.

Nehéz megérteni, hogyan működnek a feketedoboz-algoritmusok, de ez nem egészen fekete-fehér.

Az üvegdoboz olyan rendszerre utal, amelynek algoritmusai, betanítási adatai és modelljei nyilvánosan hozzáférhetők, míg a fekete doboz olyan rendszerre utal, amelynek algoritmusai, betanítási adatai és modelljei el vannak rejtve. A fekete doboz kifejezést gyakran használják, amikor a kutatók a mesterséges intelligencia-rendszer ezen aspektusait is feketének írják le.

Főleg a gépi tanulási algoritmusokkal kapcsolatos ismeretek hiánya van mély tanulási algoritmusok, funkció. A kutatók olyan algoritmusokat fejlesztenek, amelyek bár nem feltétlenül üvegdobozok, az emberek számára jobban megérthetők.

Miért fontosak az AI fekete dobozok?

Nem mindig jó ötlet megbízni a feketedobozos gépi tanulási algoritmusokban és modellekben. Mi van akkor, ha egy gépi tanulási modell, amely meghatározza, hogy jogosult-e banki üzleti hitelre, elutasítja? Szeretné tudni, hogy jobban fellebbezzen a döntés ellen, vagy megváltoztassa a helyzetét, hogy a következő alkalommal nagyobb eséllyel kapjon kölcsönt.

Úgy gondolták, hogy a szoftverek fekete dobozban tartása megakadályozza, hogy a hackerek megvizsgálják, és ezáltal biztonságossá váljanak. A hackerek azonban megtehetik fordított mérnöki gondolatmenet szoftver – vagyis alaposan tanulmányozza egy szoftver működését – és fedezze fel a kihasználható hibákat. A fekete dobozok a szoftverrendszer biztonságára is jelentős hatással vannak.

A szoftvertesztelők és a jó szándékú hackerek benézhetnek a szoftver tesztelésére használt üvegdobozba, hogy megtalálják a gyengeségeket, így csökkentve a kibertámadások számát.

Olvasson további kapcsolódó cikkeket:

Címkék:

A felelősség megtagadása

Összhangban a A Trust Project irányelvei, kérjük, vegye figyelembe, hogy az ezen az oldalon közölt információk nem minősülnek jogi, adózási, befektetési, pénzügyi vagy bármilyen más formájú tanácsnak, és nem is értelmezhetők. Fontos, hogy csak annyit fektessen be, amennyit megengedhet magának, hogy elveszítsen, és kérjen független pénzügyi tanácsot, ha kétségei vannak. További információkért javasoljuk, hogy tekintse meg a szerződési feltételeket, valamint a kibocsátó vagy hirdető által biztosított súgó- és támogatási oldalakat. MetaversePost elkötelezett a pontos, elfogulatlan jelentéstétel mellett, de a piaci feltételek előzetes értesítés nélkül változhatnak.

A szerzőről

Damir a csapat vezetője, termékmenedzsere és szerkesztője Metaverse Post, olyan témákkal foglalkozik, mint az AI/ML, AGI, LLMs, Metaverse és Web3- kapcsolódó mezők. Cikkei havonta több mint egymillió felhasználót vonzanak. Úgy tűnik, szakértő, aki 10 éves tapasztalattal rendelkezik a SEO és a digitális marketing területén. Damirt a Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto és más kiadványok. Digitális nomádként utazik az Egyesült Arab Emírségek, Törökország, Oroszország és a FÁK között. Damir fizikából szerzett bachelor-diplomát, és úgy gondolja, hogy ez megadta neki azokat a kritikus gondolkodási készségeket, amelyek szükségesek ahhoz, hogy sikeres legyen az internet folyamatosan változó táján.

További cikkek

Damir Jalalov