, 29 2023 mumkin

AI qora quti: bu nima va u qanday ishlaydi

Nashr qilingan: 29 yil 2023-may, 9:00 Yangilangan: 29-yil, 2023-may, 8:11

Tahrirlangan va faktlar tekshirilgan: 29 yil 2023-may, soat 9:00

Qisqacha

AI qora qutilari - bu algoritm, o'quv ma'lumotlari va modeldan tashkil topgan mashinani o'rganish kabi foydalanuvchi bilimisiz ishlaydigan tizimlar.

Qora qutilar dasturiy ta'minot xavfsizligi uchun muhim ahamiyatga ega, chunki ular dasturiy ta'minotni teskari loyihalash va foydalanish uchun kamchiliklarni aniqlash uchun ishlatilishi mumkin va dasturiy ta'minotni sinovdan o'tkazuvchilar va xakerlar tomonidan zaif tomonlarni topish uchun ishlatilishi mumkin.

Ko'pchilik uchun "qora quti" atamasi, agar aqlga sig'maydigan voqea sodir bo'lsa, o'limdan keyingi tekshiruvlar uchun qimmatli bo'lgan samolyotlarda qayd qiluvchi qurilmalarga ishora qiladi. Boshqalar uchun bu kichik, minimal jihozlangan teatr. Biroq, qora qutilar ham sun'iy intellekt uchun juda muhimdir.

AI qora quti: bu nima va u qanday ishlaydi — @Midjourney

AI qora qutilari foydalanuvchi bilmagan holda ishlaydigan tizimlardir. Siz ularni kiritishingiz va chiqishingiz mumkin, lekin tizim kodini yoki chiqishni yaratishda foydalanilgan mantiqni tekshira olmaysiz.

mashina ta'lim sun'iy intellektning dominant turi hisoblanadi. U algoritm yoki algoritmlar to'plami, o'quv ma'lumotlari va modelni o'z ichiga oladi.

Algoritm - bu protseduralar ketma-ketligi. O'qitilgandan so'ng, algoritm ma'lum naqshlarni taniy oladi.
Trening ma'lumotlar AI modelini o'rgatish uchun foydalaniladigan ma'lumotlar to'plami.
Mashinani o'rganish algoritmi mohiyatan ko'p sonli misollardan o'rganish va mashinani o'rganish modelini ishlab chiqarish uchun mo'ljallangan protseduradir. Mashinani o'rganish modeli - bu yaratilganidan keyin odamlar foydalanadigan narsa.

Tasvirni aniqlash algoritmi tasvir tendentsiyalarini aniqlash uchun dasturlashtirilishi mumkin va o'quv ma'lumotlari itlarning fotosuratlarini aks ettirishi mumkin. Siz unga kirish sifatida tasvirni berasiz va tasvirning qaysi joyida piksellar to'plami itni aks ettiradimi yoki yo'qmi, uni chiqish sifatida olasiz.

Mashinani o'rganish algoritmlari ommaga ma'lum bo'lganligi sababli, qora qutilarni yashirish unchalik samarali emas. AI muhandislari ko'pincha o'zlarining intellektual mulklarini qora qutilarga yashirganlari uchun ular odatda modelni bittasiga joylashtiradilar. Dasturiy ta'minot ishlab chiqaruvchilarining yana bir usuli yashirish ma'lumotlar modelni o'rgatish uchun ishlatiladigan ma'lumotlarni yashirish orqali, boshqacha qilib aytganda, o'quv ma'lumotlarini qora qutiga qo'yishdir.

Qora quti algoritmlari qanday ishlashini tushunish qiyin, ammo bu juda qora va oq emas.

Shisha quti algoritmlari, o'quv ma'lumotlari va modellari hamma uchun ochiq bo'lgan tizimni anglatadi, qora quti esa algoritmlari, o'quv ma'lumotlari va modellari yashirin bo'lgan tizimni anglatadi. Qora quti atamasi ko'pincha tadqiqotchilar AI tizimining ushbu jihatlarini qora deb ta'riflaganlarida qo'llaniladi.

Ayniqsa, mashinani o'rganish algoritmlari haqida ma'lumotlar kam chuqur o'rganish algoritmlari, funktsiyasi. Tadqiqotchilar shisha qutilar bo‘lishi shart bo‘lmasa-da, odamlar tomonidan yaxshiroq tushunilishi mumkin bo‘lgan algoritmlarni ishlab chiqishmoqda.

AI qora qutilari nima uchun muhim?

Qora quti mashinasini o'rganish algoritmlari va modellariga ishonish har doim ham yaxshi fikr emas. Agar bankdan biznes krediti olish huquqiga ega ekanligingizni aniqlaydigan mashinani o'rganish modeli sizni rad etsa-chi? Keyingi safar kredit olish imkoniyatini oshirish uchun qaror ustidan yaxshiroq shikoyat qilishingiz yoki vaziyatingizni o'zgartirishingiz mumkinligini bilishni xohlaysiz.

Dasturiy ta'minotni qora qutida saqlash xakerlarning uni tekshirishiga yo'l qo'ymaydi va shuning uchun uni xavfsiz qiladi. Biroq, xakerlar mumkin teskari muhandis dasturiy ta'minot - ya'ni dasturiy ta'minotning bir qismi qanday ishlashini o'rganing - va foydalanish uchun kamchiliklarni toping. Qora qutilar dasturiy ta'minot tizimining xavfsizligiga ham muhim ta'sir ko'rsatadi.

Dasturiy ta'minotni sinovdan o'tkazuvchilar va yaxshi niyatli xakerlar zaif tomonlarini topish uchun dasturiy ta'minotni sinovdan o'tkazish uchun ishlatiladigan shisha qutining ichiga qarashlari va shu bilan kiberhujumlarni kamaytirishlari mumkin.

Batafsil tegishli maqolalarni o'qing:

Tags:

Masʼuliyatdan voz kechish

Bunga javoban Ishonch loyihasi bo'yicha ko'rsatmalar, iltimos, ushbu sahifada taqdim etilgan ma'lumotlar yuridik, soliq, investitsiya, moliyaviy yoki boshqa har qanday maslahat shakli sifatida talqin qilinmasligi va talqin qilinmasligini unutmang. Faqat yo'qotishingiz mumkin bo'lgan narsaga investitsiya qilish va agar shubhangiz bo'lsa, mustaqil moliyaviy maslahat olish muhimdir. Qo'shimcha ma'lumot olish uchun biz shartlar va emitent yoki reklama beruvchi tomonidan taqdim etilgan yordam va qo'llab-quvvatlash sahifalariga murojaat qilishni tavsiya qilamiz. MetaversePost to'g'ri, xolis hisobot berish majburiyatini oladi, lekin bozor sharoitlari ogohlantirilmasdan o'zgarishi mumkin.

Muallif haqida

Damir - guruh rahbari, mahsulot menejeri va muharrir Metaverse Post, AI/ML, AGI, LLMs, Metaverse va kabi mavzularni qamrab oladi Web3- tegishli sohalar. Uning maqolalari har oy milliondan ortiq foydalanuvchilarning katta auditoriyasini jalb qiladi. U SEO va raqamli marketing bo'yicha 10 yillik tajribaga ega mutaxassis bo'lib ko'rinadi. Damir haqida Mashable, Wired nashrlarida tilga olingan. Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto va boshqa nashrlar. U BAA, Turkiya, Rossiya va MDH davlatlari oʻrtasida raqamli koʻchmanchi sifatida sayohat qiladi. Damir fizika bo'yicha bakalavr darajasini oldi, uning fikricha, bu unga internetning doimiy o'zgaruvchan manzarasida muvaffaqiyatga erishish uchun zarur bo'lgan tanqidiy fikrlash qobiliyatlarini berdi.

Boshqa maqolalar

Damir Yalolov