AI melnā kaste: kas tas ir un kā tas darbojas
Īsumā
AI melnās kastes ir sistēmas, kas darbojas bez lietotāja zināšanām, piemēram, mašīnmācība, kas sastāv no algoritma, apmācības datiem un modeļa.
Melnās kastes ir svarīgas programmatūras drošībai, jo tās var izmantot, lai apgrieztu programmatūru un atklātu izmantojamas nepilnības, un programmatūras testētāji un hakeri var tās izmantot, lai atrastu nepilnības.
Daudziem termins "melnā kaste" attiecas uz ierakstīšanas ierīcēm lidmašīnās, kas ir vērtīgas pēcnāves pārbaudēm, ja notiek kaut kas neiedomājams. Citiem tas ir neliels, minimāli mēbelēts teātris. Tomēr melnās kastes ir vitāli svarīgas arī mākslīgajam intelektam.
AI melnās kastes ir sistēmas, kas darbojas bez lietotāja zināšanām. Jūs varat ievadīt tos un iegūt izvadi, taču nevarat pārbaudīt sistēmas kodu vai izvades ģenerēšanai izmantoto loģiku.
mašīna mācīšanās ir dominējošais mākslīgā intelekta veids. Tas ietver algoritmu vai algoritmu kopu, apmācības datus un modeli.
- Algoritms ir procedūru secība. Pēc apmācības algoritms spēj atpazīt zināmus modeļus.
- Apmācība dati ir datu kopa, ko izmanto AI modeļa apmācībai.
- Mašīnmācīšanās algoritms būtībā ir procedūra, kas paredzēta, lai mācītos no daudziem piemēriem un izveidotu mašīnmācības modeli. Mašīnmācības modelis ir tas, ko cilvēki izmanto, kad tas ir izveidots.
Attēlu atpazīšanas algoritmu var ieprogrammēt, lai atklātu attēla tendences, un apmācības dati varētu attēlot suņu fotoattēlus. Jūs tam ievadīsiet attēlu un iegūstiet to kā izvadi, vai un kur attēlā pikseļu kopa attēlo suni.
Tā kā mašīnmācīšanās algoritmi ir publiski zināmi, melno kastu slēpšana ir mazāk efektīva. Tā kā AI inženieri bieži slēpj savu intelektuālo īpašumu melnās kastēs, viņi parasti ievieto modeli vienā. Vēl viens veids, kā programmatūras izstrādātāji noklusēt dati tiek iegūti, aizklājot datus, kas tiek izmantoti modeļa apmācīšanai, citiem vārdiem sakot, ievietojot apmācības datus melnajā kastē.
Ir grūti saprast, kā darbojas melnās kastes algoritmi, taču tas nav gluži melnbalts.
Stikla kaste attiecas uz sistēmu, kuras algoritmi, apmācības dati un modeļi ir publiski pieejami, savukārt melnā kaste attiecas uz sistēmu, kuras algoritmi, apmācības dati un modeļi ir slēpti. Terminu melnā kaste bieži lieto, kad pētnieki pat šos AI sistēmas aspektus raksturo kā melnus.
Jo īpaši trūkst zināšanu par mašīnmācīšanās algoritmiem dziļi mācīšanās algoritmi, funkcija. Pētnieki izstrādā algoritmus, kas, lai gan ne vienmēr ir stikla kastes, var būt labāk saprotami cilvēkiem.
Kāpēc AI melnās kastes ir svarīgas?
Ne vienmēr ir laba ideja uzticēties melnās kastes mašīnmācīšanās algoritmiem un modeļiem. Ko darīt, ja mašīnmācīšanās modelis, kas nosaka, vai jūs atbilstat biznesa aizdevumam no bankas, jūs atsakās? Jūs vēlētos zināt, lai varētu labāk pārsūdzēt lēmumu vai mainīt savu situāciju, lai palielinātu savas iespējas saņemt aizdevumu nākamajā reizē.
Tiek uzskatīts, ka programmatūras turēšana melnajā kastē neļauj hakeriem to pārbaudīt un tādējādi padara to drošu. Tomēr hakeri var atpakaļgaitas inženieris programmatūru, tas ir, rūpīgi izpētiet, kā programmatūra darbojas, un atklājiet trūkumus, ko izmantot. Melnajām kastēm ir arī svarīga ietekme uz programmatūras sistēmas drošību.
Programmatūras testētāji un labi nodomi hakeri var ieskatīties stikla kastē, ko izmanto programmatūras testēšanai, lai atrastu trūkumus, tādējādi samazinot kiberuzbrukumus.
Lasiet vairāk saistītos rakstus:
- NFT Noslēpumainās kastes: kas tās ir un kur nopirkt
- 15+ labākie AI kursi, ko mācīties 2023. gadā: bezmaksas un maksas
- Top 15 GPT-4 un GPT-3 Tērzēšanas roboti: runājiet ar AI, uzdodiet jautājumus
Atbildības noraidīšana
Atbilstīgi Uzticības projekta vadlīnijas, lūdzu, ņemiet vērā, ka šajā lapā sniegtā informācija nav paredzēta un to nedrīkst interpretēt kā juridisku, nodokļu, ieguldījumu, finanšu vai jebkāda cita veida padomu. Ir svarīgi ieguldīt tikai to, ko varat atļauties zaudēt, un meklēt neatkarīgu finanšu padomu, ja jums ir šaubas. Lai iegūtu papildinformāciju, iesakām skatīt pakalpojumu sniegšanas noteikumus, kā arī palīdzības un atbalsta lapas, ko nodrošina izdevējs vai reklāmdevējs. MetaversePost ir apņēmies sniegt precīzus, objektīvus pārskatus, taču tirgus apstākļi var tikt mainīti bez iepriekšēja brīdinājuma.
Par Autors
Damirs ir komandas vadītājs, produktu vadītājs un redaktors Metaverse Post, kas aptver tādas tēmas kā AI/ML, AGI, LLM, Metaverse un Web3- saistītie lauki. Viņa raksti katru mēnesi piesaista lielu auditoriju, kas pārsniedz miljonu lietotāju. Šķiet, ka viņš ir eksperts ar 10 gadu pieredzi SEO un digitālā mārketinga jomā. Damirs ir minēts Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto un citas publikācijas. Viņš ceļo starp AAE, Turciju, Krieviju un NVS kā digitālais nomads. Damirs ir ieguvis bakalaura grādu fizikā, kas, viņaprāt, ir devis viņam kritiskās domāšanas prasmes, kas nepieciešamas, lai gūtu panākumus nepārtraukti mainīgajā interneta vidē.
Vairāk rakstus
Damirs ir komandas vadītājs, produktu vadītājs un redaktors Metaverse Post, kas aptver tādas tēmas kā AI/ML, AGI, LLM, Metaverse un Web3- saistītie lauki. Viņa raksti katru mēnesi piesaista lielu auditoriju, kas pārsniedz miljonu lietotāju. Šķiet, ka viņš ir eksperts ar 10 gadu pieredzi SEO un digitālā mārketinga jomā. Damirs ir minēts Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto un citas publikācijas. Viņš ceļo starp AAE, Turciju, Krieviju un NVS kā digitālais nomads. Damirs ir ieguvis bakalaura grādu fizikā, kas, viņaprāt, ir devis viņam kritiskās domāšanas prasmes, kas nepieciešamas, lai gūtu panākumus nepārtraukti mainīgajā interneta vidē.
