AI Black Box: какво представлява и как работи
Накратко
AI черните кутии са системи, които работят без познания на потребителя, като например машинно обучение, което се състои от алгоритъм, данни за обучение и модел.
Черните кутии са важни за сигурността на софтуера, тъй като могат да се използват за обратно инженерство на софтуер и откриване на недостатъци, които да се използват, и могат да се използват от софтуерни тестери и хакери за намиране на слабости.
За мнозина терминът „черна кутия“ се отнася до записващи устройства в самолети, които са ценни за аутопсия, ако се случи немислимото. За други това е малък, минималистично обзаведен театър. Черните кутии обаче също са жизненоважни за изкуствения интелект.
AI черни кутии са системи, които работят без знанието на потребителя. Можете да им подадете вход и да получите изход, но не можете да изследвате кода на системата или логиката, използвана за генериране на изхода.
машина обучение е доминиращият тип изкуствен интелект. Състои се от алгоритъм или набор от алгоритми, данни за обучение и модел.
- Алгоритъмът е последователност от процедури. След като бъде обучен, алгоритъмът е в състояние да разпознава известни модели.
- Тренировката данни е наборът от данни, използван за обучение на AI модела.
- Алгоритъмът за машинно обучение е по същество процедура, която е предназначена да се учи от голям брой примери и да създаде модел на машинно обучение. Моделът на машинно обучение е това, което хората използват, след като бъде създаден.
Алгоритъм за разпознаване на изображения може да бъде програмиран да открива тенденции в изображенията, а данните за обучение могат да представляват снимки на кучета. Ще му подадете изображение като вход и ще го получите като изход дали и къде в изображението набор от пиксели изглежда представлява куче.
Тъй като алгоритмите за машинно обучение са публично известни, скриването на черни кутии е по-малко ефективно. Тъй като AI инженерите често крият своята интелектуална собственост в черни кутии, те обикновено поставят модела в една. Друг начин разработчици на софтуер скрие данни е чрез скриване на данните, които се използват за обучение на модела – с други думи, поставяне на данните за обучение в черна кутия.
Трудно е да се разбере как работят алгоритмите на черната кутия, но това не е съвсем черно и бяло.
Стъклена кутия се отнася до система, чиито алгоритми, данни за обучение и модели са публично достъпни, докато черна кутия се отнася до система, чиито алгоритми, данни за обучение и модели са скрити. Терминът черна кутия често се използва, когато изследователите описват дори тези аспекти на AI система като черни.
Има недостиг на знания за това как алгоритмите за машинно обучение, особено алгоритми за дълбоко обучение, функция. Изследователите разработват алгоритми, които, въпреки че не са непременно стъклени кутии, могат да бъдат по-добре разбрани от хората.
Защо AI черните кутии са важни?
Не винаги е добра идея да се доверявате на алгоритми и модели за машинно обучение в черна кутия. Ами ако модел на машинно обучение, който определя дали отговаряте на изискванията за бизнес заем от банка, ви отхвърли? Бихте искали да знаете, за да можете по-добре да обжалвате решението или да промените ситуацията си, за да увеличите шансовете си за получаване на заем следващия път.
Смята се, че съхраняването на софтуера в черна кутия не позволява на хакерите да го изследват и следователно го прави защитен. Хакерите обаче могат обратен инженер софтуер – т.е. проучете как точно работи даден софтуер – и открийте недостатъци, които да използвате. Черните кутии също имат важни последици за сигурността на софтуерната система.
Възможно е софтуерни тестери и добронамерени хакери да погледнат в стъклена кутия, използвана за тестване на софтуер, за да намерят слабости, като по този начин намалят кибератаките.
Прочетете още свързани статии:
- NFT Мистериозни кутии: какви са те и къде да купите
- 15+ най-добри AI курса за изучаване през 2023 г.: безплатни и платени
- Върнете се в началото 15 GPT-4 намлява GPT-3 Чатботове: Говорете с AI, задавайте въпроси
Отказ от отговорност
В съответствие с Доверете се насоките на проекта, моля, имайте предвид, че предоставената на тази страница информация не е предназначена да бъде и не трябва да се тълкува като правен, данъчен, инвестиционен, финансов или каквато и да е друга форма на съвет. Важно е да инвестирате само това, което можете да си позволите да загубите, и да потърсите независим финансов съвет, ако имате някакви съмнения. За допълнителна информация предлагаме да се обърнете към правилата и условията, както и към страниците за помощ и поддръжка, предоставени от издателя или рекламодателя. MetaversePost се ангажира с точно, безпристрастно отчитане, но пазарните условия подлежат на промяна без предизвестие.
За автора
Дамир е ръководител на екип, продуктов мениджър и редактор в Metaverse Post, обхващащи теми като AI/ML, AGI, LLMs, Metaverse и Web3- свързани полета. Статиите му привличат огромна аудитория от над милион потребители всеки месец. Изглежда, че е експерт с 10 години опит в SEO и дигитален маркетинг. Дамир е споменат в Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto и други публикации. Той пътува между ОАЕ, Турция, Русия и ОНД като дигитален номад. Дамир получава бакалавърска степен по физика, която според него му е дала уменията за критично мислене, необходими за успех в непрекъснато променящия се пейзаж на интернет.
Още статии
Дамир е ръководител на екип, продуктов мениджър и редактор в Metaverse Post, обхващащи теми като AI/ML, AGI, LLMs, Metaverse и Web3- свързани полета. Статиите му привличат огромна аудитория от над милион потребители всеки месец. Изглежда, че е експерт с 10 години опит в SEO и дигитален маркетинг. Дамир е споменат в Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto и други публикации. Той пътува между ОАЕ, Турция, Русия и ОНД като дигитален номад. Дамир получава бакалавърска степен по физика, която според него му е дала уменията за критично мислене, необходими за успех в непрекъснато променящия се пейзаж на интернет.
