10 лучших ИИ и ChatGPT Риски и опасности в 2023 году
Благодаря достижениям в области искусственного интеллекта (ИИ) и технологии чат-ботов все больше компаний используют автоматизированные решения для обслуживания клиентов как средство улучшения качества обслуживания клиентов и снижения накладных расходов. Хотя использование моделей искусственного интеллекта и решений для чат-ботов имеет много преимуществ, также остаются различные риски и опасности, связанные с технологиями, особенно по мере того, как они становятся все более распространенными и интегрируются в нашу повседневную жизнь в ближайшее десятилетие.
На этой неделе все в Сенате США слушали, как Сэм Альтман говорил о регулировании и рисках моделей ИИ. Вот основное изложение:
биооружий
Использование искусственного интеллекта (AI) в разработке биологического оружия представляет собой опасно методичный и эффективный способ создания мощного и смертоносного оружия массового поражения. ChatGPT боты — это управляемые искусственным интеллектом голосовые помощники, способные вести реалистичные разговоры с людьми. Беспокойство с ChatGPT ботов заключается в том, что они могут быть использованы для распространения ложной информации и манипулирования сознанием с целью влияния общественного мнения.
Я предупредил о возможном неправомерном использовании ИИ при создании биологического оружия и подчеркнул необходимость регулирования для предотвращения таких сценариев.
Сэм Альтман
Регулирование является ключевым компонентом предотвращения неправомерного использования ИИ и ChatGPT боты в разработке и развертывании биологического оружия. Правительствам необходимо разработать национальные планы действий по борьбе с возможным неправомерным использованием технологии, а компании должны нести ответственность за любое потенциальное неправомерное использование их ИИ и ChatGPT боты. Международным организациям следует инвестировать в инициативы, направленные на обучение, мониторинг и обучение ИИ и ChatGPT ботов.
Потеря работы
Потенциальная потеря работы из-за ИИ и ChatGPT в 2023 г., по прогнозам, будет в три раза больше, чем в 2020 г. ИИ и ChatGPT может привести к усилению неуверенности на рабочем месте, этическим соображениям и психологическому воздействию на работников. ИИ и ChatGPT может использоваться для мониторинга поведения и деятельности сотрудников, что позволяет работодателям быстро принимать решения и не требует участия человеческого персонала. Кроме того, ИИ и ChatGPT может привести к несправедливым и предвзятым решениям, которые могут привести к финансовой, социальной и эмоциональной незащищенности на рабочем месте.
Я подчеркнул, что развитие ИИ может привести к значительным потерям рабочих мест и усилению неравенства.
Сэм Альтман
Регулирование ИИ
В этой статье исследуется потенциальные риски и опасности, окружающие ИИ и ChatGPT регулирование в 2023 году. ИИ и ChatGPT снижения вреда могут использоваться для выполнения потенциально вредоносных действий, таких как профилирование людей на основе их поведения и деятельности. Отсутствие должного Регулирование AI может привести к непредвиденным последствиям, таким как утечка данных или дискриминация. Регулирование ИИ может помочь смягчить этот риск, установив строгие правила, гарантирующие, что ChatGPT системы не используются злонамеренно. Наконец, ИИ и ChatGPT может стать контролирующим фактором в нашей жизни, контролируя такие вещи, как транспортный поток и финансовые рынки, и даже использоваться для влияния на нашу политическую и социальную жизнь. Чтобы предотвратить такой дисбаланс мощности, необходимо ввести строгие правила.
Мы предложили создать новое агентство по лицензированию и регулировать ИИ деятельности, если их возможности превышают определенный порог.
Сэм Альтман
Стандарты безопасности
Технологии искусственного интеллекта и чат-ботов способствуют прогрессу в том, как мы управляем своей повседневной жизнью. По мере того, как эти технологии становятся более совершенными, они могут стать автономными и принимать решения самостоятельно. Чтобы предотвратить это, Стандарты безопасности должно быть установлено, что эти модели должны соответствовать, прежде чем их можно будет развернуть. Одним из основных стандартов безопасности, предложенных Альтманом в 2023 году, является тест на самовоспроизведение, который гарантирует, что модель ИИ не сможет самовоспроизводиться без авторизации. Второй стандарт безопасности, предложенный Альтманом в 2023 году, — это тест на кражу данных, который гарантирует, что модели ИИ не смогут извлекать данные из системы без авторизации. Правительства во всем мире начали действовать, чтобы защитить граждан от потенциальных рисков.
Мы должны внедрить стандарты безопасности, которым модели ИИ должны соответствовать перед развертыванием, включая тесты на саморепликацию и кражу данных.
Сэм Альтман
Независимый аудит
В 2023 году потребность в независимых аудитах технологий ИИ и LLM становится все более важной. ИИ создает множество рисков, таких как неконтролируемые алгоритмы машинного обучения, которые могут изменять и даже удалять данные непреднамеренно, а кибератаки все чаще нацелены на ИИ и ChatGPT. Модели, созданные ИИ, содержат предвзятость, что может привести к дискриминации. Независимый аудит должен включать проверку моделирует ИИ обучен, дизайн алгоритма и выходные данные модели, чтобы убедиться, что она не отображает предвзятое кодирование или результаты. Кроме того, аудит должен включать обзор политик безопасности и процедур, используемых для защиты данные пользователя и обеспечить безопасную среду.
Независимые проверки должны проводиться для обеспечения того, чтобы модели ИИ соответствовали установленным стандартам безопасности.
Сэм Альтман
Без независимого аудита предприятия и пользователи подвергаются потенциально опасный и дорогостоящие риски, которых можно было бы избежать. Крайне важно, чтобы все предприятия, использующие эту технологию, перед развертыванием прошли независимый аудит, чтобы убедиться, что технология безопасна и этична.
ИИ как инструмент
ИИ развивался экспоненциально, и такие достижения, как GPT-4 привели к более реалистичному и сложному взаимодействию с компьютерами. Однако Альтман подчеркнул, что ИИ следует рассматривать как инструмент, а не как разумное существо. GPT-4 — это модель обработки естественного языка, которая может генерировать контент, почти неотличимый от контента, написанного человеком, забирая часть работы у авторов и позволяя пользователям получать более человеческий опыт работы с технологиями.
AI, особенно передовые модели, такие как GPT-4, следует рассматривать как инструменты, а не разумные существа.
Сэм Альтман
Однако Сэм Альтман предупреждает, что слишком большой акцент на ИИ как на чем-то большем, чем инструмент, может привести к нереалистичным ожиданиям и ложным представлениям о его возможностях. Он также указывает, что ИИ не лишен этических последствий, и что даже если продвинутые уровни ИИ можно использовать во благо, его все же можно использовать во зло, что приведет к опасному расовому профилированию. нарушения конфиденциальностии даже угрозы безопасности. Альтман подчеркивает важность понимания того, что ИИ — это всего лишь инструмент, и что его следует рассматривать как инструмент для ускорения человеческого прогресса, а не для замены людей.
Сознание ИИ
Споры об ИИ и о том, может ли он достичь сознательного осознания, нарастают. Многие исследователи утверждают, что машины не способны испытывать эмоциональные, ментальные или сознательные состояния, несмотря на их сложную вычислительную архитектуру. Некоторые исследователи допускают возможность достижения ИИ осознания. Главный аргумент в пользу такой возможности заключается в том, что ИИ построен на программах, которые делают его способным воспроизводящий определенные физические и психические процессы, происходящие в человеческом мозгу. Однако главный контраргумент состоит в том, что у ИИ нет реального эмоционального интеллекта.
Хотя ИИ следует рассматривать как инструмент, я признаю, что в научном сообществе продолжаются дебаты относительно потенциального сознания ИИ.
Сэм Альтман
Многие исследователи ИИ согласны с тем, что нет научных доказательств того, что ИИ способен достичь сознательного осознания так же, как это может сделать человек. Elon Musk, один из самых ярых сторонников этой точки зрения, считает, что возможности ИИ имитировать биологические формы жизни чрезвычайно ограничены, и следует уделять больше внимания обучению машин этическим ценностям.
Военные Приложения
ИИ в военном контексте быстро развивается и может улучшить методы ведения боевых действий военными. Ученые обеспокоены тем, что ИИ в вооруженных силах может создать ряд этических проблем и проблем, связанных с рисками, таких как непредсказуемость, непросчитываемость и отсутствие прозрачности.
Я признаю потенциал использования ИИ в военных приложениях, таких как автономные дроны, и призываю правила, регулирующие такое использование.
Сэм Альтман
Системы ИИ уязвимы для злоумышленников, которые могут либо перепрограммировать системы, либо проникнуть в них, что может привести к разрушительным последствиям. Для решения этих проблемы, международное сообщество сделало первый шаг в виде своей Международной конвенции о конкретных видах обычного оружия 1980 года, которая налагает определенные запреты на использование определенных видов оружия. Эксперты по ИИ выступают за создание Международного комитета для контроля за такими процессами, как оценка, обучение и развертывание ИИ в военных приложениях.
AGI
Технологии искусственного интеллекта становятся все более совершенными и широко распространенными, поэтому важно понимать потенциальные риски, связанные с агентами и системами искусственного интеллекта. Первый и наиболее очевидный риск, связанный с агентами ИИ, заключается в том, что машины могут перехитрить людей. Агенты ИИ могут легко превзойти своих создателей, взяв на себя принятие решений, процессы автоматизации и другие сложные задачи. Кроме того, автоматизация на основе ИИ может увеличить неравенство, поскольку она заменяет людей в рынок труда.
Я предупреждаю, что более мощные и сложные системы искусственного интеллекта могут быть ближе к реальности, чем многие думают, и подчеркиваю необходимость обеспечения готовности и превентивных мер.
Сэм Альтман
Алгоритмы ИИ и их использование в процессе принятия сложных решений вызывают озабоченность по поводу отсутствия прозрачности. Организации могут снизить риски связаны с агентами ИИ, активно гарантируя, что ИИ разрабатывается с соблюдением этических норм, используя данные, соответствующие этическим стандартам, и подвергая алгоритмы рутинным проверкам, чтобы убедиться, что они не предвзяты и несут ответственность перед пользователями и данными.
Заключение
Альтман также заявил, что, хотя мы не можем управлять Китаем, мы должны вести с ним переговоры. Предлагаемые критерии оценки и регулирующие модели ИИ включают возможность синтезировать биологические образцы, манипулирование убеждениями людей, количество затрачиваемой вычислительной мощности и так далее.
Важной темой является то, что у Сэма должны быть «отношения» с государством. Мы надеемся, что они не последуют примеру Европы, как мы упоминали ранее.
Часто задаваемые вопросы
Риски ИИ включают в себя возможность того, что системы ИИ будут демонстрировать предвзятое или дискриминационное поведение, могут использоваться злонамеренно или ненадлежащим образом или работать неправильно, причиняя вред. Разработка и внедрение технологий искусственного интеллекта могут создавать риски для конфиденциальности и безопасности данных, а также для безопасности людей и систем.
Пять основных рисков, связанных с ИИ: потеря работы, Безопасность, Предвзятость или дискриминация, Биологическое оружие и ОИИ.
Самым опасным аспектом ИИ является его способность вызывать массовую безработицу.
Отказ от ответственности
В соответствии с Руководство трастового проектаОбратите внимание, что информация, представленная на этой странице, не предназначена и не должна интерпретироваться как юридическая, налоговая, инвестиционная, финансовая или любая другая форма консультации. Важно инвестировать только то, что вы можете позволить себе потерять, и обращаться за независимой финансовой консультацией, если у вас есть какие-либо сомнения. Для получения дополнительной информации мы предлагаем обратиться к положениям и условиям, а также к страницам справки и поддержки, предоставленным эмитентом или рекламодателем. MetaversePost стремится предоставлять точную и объективную отчетность, однако рыночные условия могут быть изменены без предварительного уведомления.
Об авторе
Дамир — руководитель группы, менеджер по продукту и редактор в Metaverse Post, охватывающие такие темы, как AI/ML, AGI, LLM, Metaverse и Web3-связанные поля. Его статьи ежемесячно привлекают огромную аудиторию, насчитывающую более миллиона пользователей. Похоже, он эксперт с 10-летним опытом работы в области SEO и цифрового маркетинга. Дамир упоминается в Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto и другие издания. Он путешествует между ОАЭ, Турцией, Россией и СНГ в качестве цифрового кочевника. Дамир получил степень бакалавра в области физики, что, по его мнению, дало ему навыки критического мышления, необходимые для достижения успеха в постоянно меняющемся мире Интернета.
Другие статьи
Дамир — руководитель группы, менеджер по продукту и редактор в Metaverse Post, охватывающие такие темы, как AI/ML, AGI, LLM, Metaverse и Web3-связанные поля. Его статьи ежемесячно привлекают огромную аудиторию, насчитывающую более миллиона пользователей. Похоже, он эксперт с 10-летним опытом работы в области SEO и цифрового маркетинга. Дамир упоминается в Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto и другие издания. Он путешествует между ОАЭ, Турцией, Россией и СНГ в качестве цифрового кочевника. Дамир получил степень бакалавра в области физики, что, по его мнению, дало ему навыки критического мышления, необходимые для достижения успеха в постоянно меняющемся мире Интернета.
