AI Black Box: що це таке і як працює
Коротко
Чорні скриньки штучного інтелекту – це системи, які працюють без відома користувача, наприклад машинне навчання, яке складається з алгоритму, навчальних даних і моделі.
Чорні ящики важливі для безпеки програмного забезпечення, оскільки їх можна використовувати для зворотного проектування програмного забезпечення та виявлення недоліків для використання, а також можуть використовуватися тестувальниками програмного забезпечення та хакерами для пошуку слабких місць.
Для багатьох термін «чорна скринька» стосується записуючих пристроїв у літаках, які є цінними для патологоанатомічних досліджень, якщо станеться неймовірне. Для інших це невеликий, мінімально мебльований театр. Однак чорні ящики також життєво важливі для штучного інтелекту.
ШІ чорні ящики це системи, які працюють без відома користувача. Ви можете подавати їм вхідні дані та отримувати вихідні дані, але ви не можете досліджувати системний код або логіку, яка використовується для генерування вихідних даних.
навчання за допомогою машини є домінуючим типом штучного інтелекту. Він містить алгоритм або набір алгоритмів, навчальні дані та модель.
- Алгоритм — це послідовність процедур. Після навчання алгоритм здатний розпізнавати відомі шаблони.
- Навчання дані це набір даних, який використовується для навчання моделі ШІ.
- Алгоритм машинного навчання, по суті, є процедурою, яка призначена для навчання на основі великої кількості прикладів і створення моделі машинного навчання. Модель машинного навчання – це те, що люди використовують після її створення.
Алгоритм розпізнавання зображень може бути запрограмований на виявлення тенденцій зображення, а дані навчання можуть представляти фотографії собак. Ви повинні передати йому зображення як вхідні дані та отримати його як вихідні дані, незалежно від того, де на зображенні набір пікселів представляє собаку.
Оскільки алгоритми машинного навчання загальновідомі, приховування чорних ящиків менш ефективно. Оскільки інженери штучного інтелекту часто ховають свою інтелектуальну власність у чорних ящиках, вони зазвичай поміщають модель в один. Інший шлях розробників програмного забезпечення приховувати дані шляхом приховування даних, які використовуються для навчання моделі – іншими словами, поміщення даних навчання в чорний ящик.
Важко зрозуміти, як працюють алгоритми чорної скриньки, але це не зовсім чорно-біле.
Скляний ящик відноситься до системи, чиї алгоритми, навчальні дані та моделі є загальнодоступними, тоді як чорний ящик відноситься до системи, чиї алгоритми, навчальні дані та моделі приховані. Термін «чорний ящик» часто використовується, коли дослідники описують навіть ці аспекти системи ШІ як чорні.
Особливо бракує знань про алгоритми машинного навчання алгоритми глибокого навчання, функція. Дослідники розробляють алгоритми, які, хоча і не обов’язково скляні ящики, можуть бути краще зрозумілі людям.
Чому чорні скриньки ШІ важливі?
Не завжди доцільно довіряти алгоритмам і моделям машинного навчання чорної скриньки. Що робити, якщо модель машинного навчання, яка визначає, чи маєте ви право на бізнес-кредит від банку, відмовить вам? Ви хотіли б знати, щоб краще оскаржити рішення або змінити ситуацію, щоб збільшити свої шанси отримати кредит наступного разу.
Вважалося, що зберігання програмного забезпечення в чорній скриньці запобігає його перевірці хакерами і, отже, робить його безпечним. Проте хакери можуть реверс-інженер програмного забезпечення – тобто вивчення того, як тісно працює частина програмного забезпечення – і виявлення недоліків для використання. Чорні ящики також мають важливе значення для безпеки програмної системи.
Тестери програмного забезпечення та хакери з добрими намірами можуть заглянути всередину скляної коробки, яка використовується для тестування програмного забезпечення, щоб знайти слабкі місця, таким чином зменшуючи кібератаки.
Читайте більше пов’язаних статей:
- NFT Таємничі коробки: що це таке та де купити
- 15+ найкращих курсів штучного інтелекту для вивчення у 2023 році: безкоштовні та платні
- Кращі 15 GPT-4 та GPT-3 Чат-боти: спілкуйтеся з ШІ, ставте запитання
відмова
Відповідно до Правила проекту Trust, будь ласка, зверніть увагу, що інформація, надана на цій сторінці, не призначена і не повинна тлумачитися як юридична, податкова, інвестиційна, фінансова або будь-яка інша форма консультації. Важливо інвестувати лише те, що ви можете дозволити собі втратити, і звернутися за незалежною фінансовою порадою, якщо у вас виникнуть сумніви. Щоб отримати додаткову інформацію, ми пропонуємо звернутися до положень та умов, а також до сторінок довідки та підтримки, наданих емітентом або рекламодавцем. MetaversePost прагне до точного, неупередженого звітування, але ринкові умови можуть змінюватися без попередження.
про автора
Дамір є керівником групи, менеджером із продуктів і редактором Metaverse Post, що охоплює такі теми, як AI/ML, AGI, LLMs, Metaverse тощо Web3- суміжні поля. Його статті щомісяця приваблюють величезну аудиторію понад мільйон користувачів. Здається, він є експертом із 10-річним досвідом роботи в SEO та цифровому маркетингу. Даміра згадували в Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto та інші видання. Він подорожує між ОАЕ, Туреччиною, Росією та СНД як цифровий кочівник. Дамір отримав ступінь бакалавра з фізики, що, на його думку, дало йому навички критичного мислення, необхідні для досягнення успіху в Інтернеті, який постійно змінюється.
інші статті
Дамір є керівником групи, менеджером із продуктів і редактором Metaverse Post, що охоплює такі теми, як AI/ML, AGI, LLMs, Metaverse тощо Web3- суміжні поля. Його статті щомісяця приваблюють величезну аудиторію понад мільйон користувачів. Здається, він є експертом із 10-річним досвідом роботи в SEO та цифровому маркетингу. Даміра згадували в Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto та інші видання. Він подорожує між ОАЕ, Туреччиною, Росією та СНД як цифровий кочівник. Дамір отримав ступінь бакалавра з фізики, що, на його думку, дало йому навички критичного мислення, необхідні для досягнення успіху в Інтернеті, який постійно змінюється.
