29 мая 2023

Черный ящик ИИ: что это такое и как это работает

Опубликовано: 29 мая 2023 г. в 9:00 Обновлено: 29 мая 2023 г. в 8:11

Отредактировано и проверено фактами: 29 мая 2023 г., 9:00.

Коротко

Черные ящики ИИ — это системы, работающие без ведома пользователя, такие как машинное обучение, состоящее из алгоритма, обучающих данных и модели.

Черные ящики важны для безопасности программного обеспечения, поскольку их можно использовать для обратного проектирования программного обеспечения и обнаружения недостатков, которые можно использовать, а также могут использовать тестировщики программного обеспечения и хакеры для поиска слабых мест.

Для многих термин «черный ящик» относится к записывающим устройствам в самолетах, которые могут быть полезны для патологоанатомического исследования, если произойдет немыслимое. Для других это небольшой, минимально обставленный театр. Однако черные ящики также жизненно важны для искусственного интеллекта.

Черный ящик ИИ: что это такое и как это работает — @Midjourney

черные ящики ИИ системы, работающие без ведома пользователя. Вы можете передать им ввод и получить вывод, но вы не можете изучить системный код или логику, используемую для генерации вывода.

Машинное обучение является доминирующим типом искусственного интеллекта. Он включает алгоритм или набор алгоритмов, обучающие данные и модель.

Алгоритм – это последовательность процедур. После обучения алгоритм способен распознавать известные закономерности.
Тренировка данным набор данных, используемый для обучения модели ИИ.
Алгоритм машинного обучения — это, по сути, процедура, предназначенная для обучения на большом количестве примеров и создания модели машинного обучения. Модель машинного обучения — это то, что люди используют после ее создания.

Алгоритм распознавания изображений может быть запрограммирован на обнаружение тенденций изображения, а обучающие данные могут представлять собой фотографии собак. Вы должны передать ему изображение в качестве входных данных и получить его в качестве вывода независимо от того, где на изображении появляется набор пикселей, представляющих собаку.

Поскольку алгоритмы машинного обучения общеизвестны, сокрытие черных ящиков менее эффективно. Поскольку инженеры ИИ часто скрывают свою интеллектуальную собственность в черных ящиках, они обычно помещают модель в один из них. Другой способ разработчиков программного обеспечения скрывать данные, скрывая данные, которые используются для обучения модели, другими словами, помещая обучающие данные в черный ящик.

Трудно понять, как работают алгоритмы черного ящика, но это не совсем черное и белое.

Стеклянный ящик относится к системе, чьи алгоритмы, обучающие данные и модели общедоступны, а черный ящик относится к системе, чьи алгоритмы, обучающие данные и модели скрыты. Термин «черный ящик» часто используется, когда исследователи называют черными даже эти аспекты системы ИИ.

Недостаточно знаний о том, как алгоритмы машинного обучения, особенно алгоритмы глубокого обучения, функция. Исследователи разрабатывают алгоритмы, которые, хотя и не обязательно являются стеклянными коробками, могут быть лучше понятны людям.

Почему черные ящики ИИ важны?

Не всегда стоит доверять алгоритмам и моделям машинного обучения «черный ящик». Что, если модель машинного обучения, которая определяет, имеете ли вы право на получение бизнес-кредита в банке, откажет вам? Вы хотели бы знать, чтобы лучше обжаловать решение или изменить ситуацию, чтобы увеличить свои шансы на получение кредита в следующий раз.

Считалось, что хранение программного обеспечения в черном ящике предотвращает его изучение хакерами и, следовательно, делает его безопасным. Однако хакеры могут обратный инженер программное обеспечение, то есть внимательно изучите, как работает часть программного обеспечения, и найдите недостатки, которые можно использовать. «Черные ящики» также имеют важное значение для безопасности программных систем.

Тестеры программного обеспечения и хакеры с благими намерениями могут заглянуть внутрь стеклянного ящика, используемого для тестирования программного обеспечения, чтобы найти слабые места, тем самым сокращая количество кибератак.

Читайте больше статей по теме:

Теги:

Отказ от ответственности

В соответствии с Руководство трастового проектаОбратите внимание, что информация, представленная на этой странице, не предназначена и не должна интерпретироваться как юридическая, налоговая, инвестиционная, финансовая или любая другая форма консультации. Важно инвестировать только то, что вы можете позволить себе потерять, и обращаться за независимой финансовой консультацией, если у вас есть какие-либо сомнения. Для получения дополнительной информации мы предлагаем обратиться к положениям и условиям, а также к страницам справки и поддержки, предоставленным эмитентом или рекламодателем. MetaversePost стремится предоставлять точную и объективную отчетность, однако рыночные условия могут быть изменены без предварительного уведомления.

Об авторе

Дамир — руководитель группы, менеджер по продукту и редактор в Metaverse Post, охватывающие такие темы, как AI/ML, AGI, LLM, Metaverse и Web3-связанные поля. Его статьи ежемесячно привлекают огромную аудиторию, насчитывающую более миллиона пользователей. Похоже, он эксперт с 10-летним опытом работы в области SEO и цифрового маркетинга. Дамир упоминается в Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto и другие издания. Он путешествует между ОАЭ, Турцией, Россией и СНГ в качестве цифрового кочевника. Дамир получил степень бакалавра в области физики, что, по его мнению, дало ему навыки критического мышления, необходимые для достижения успеха в постоянно меняющемся мире Интернета.

Другие статьи

Дамир Ялалов