Опасности ИИ: как хакеры будут использовать ChatGPT в ближайшие несколько лет
Коротко
ИИ может превратиться в неуправляемый генератор вредоносных программ
ИИ можно использовать для создания мощного вредоносного ПО без вмешательства человека
Риск неконтролируемого фишинга ИИ по мере того, как он набирает силу
Быстрое развитие искусственного интеллекта (ИИ) является одним из самых революционных технологических достижений в новейшей истории. Однако по мере того, как ИИ продолжает развиваться и становиться все более изощренным, растет риск того, что он может стать неуправляемым или будет использоваться хакерами.
При нынешнем состоянии технологии искусственного интеллекта теперь можно создавать автономные вредоносные программы, которые могут выбирать цели и поражать их без вмешательства человека. Существует также риск того, что ИИ может быть использован для усиления возможностей киберпреступников. ИИ можно использовать для создания мощных вредоносных программ, которые трудно обнаружить и от которых сложно защититься. Вредоносное ПО с поддержкой ИИ может использоваться для запуска атак, от которых люди не могут защититься. Вы уверены, что ИИ или ChatGPT не может производить что-то вредоносное, учитывая, что оно уже создает программы, приложения, игры и скрипты?
Потенциальные риски, связанные с ИИ, носят не только теоретический характер. Они реальны и представляют опасность, которую мы должны устранить, пока не стало слишком поздно.
Как полагают эксперты в Финляндии, злоумышленники вскоре начнут использовать ИИ для проведения смертельно эффективных фишинговых атак. WithSecure, Финское агентство транспорта и связи и Федеральное агентство по чрезвычайным ситуациям подготовили отчету анализ текущих тенденций и разработок в области ИИ, кибератак и их пересечения.
Авторы отчета говорят, что хотя атаки с использованием ИИ в настоящее время очень редки, они проводятся таким образом, что исследователи и аналитики не могут их наблюдать. Однако в ближайшие годы вполне вероятно, что злоумышленники разработают алгоритмы искусственного интеллекта, способные самостоятельно находить уязвимости, планировать и проводить вредоносные кампании, обходить системы безопасности и собирать информацию со взломанных устройств.
WithSecure прогнозирует, что спонсируемые государством хакеры будут первыми, кто будет использовать ИИ в кибератаках, а технология в конечном итоге попадет в руки небольших групп, которые будут использовать ее в большем масштабе. В результате специалистам по информационной безопасности необходимо приступить к разработке систем, способных защитить от подобных атак.
Авторы отчета заявили, что кибератаки с использованием ИИ будут особенно эффективны, когда речь идет о методах олицетворения, которые часто используются в фишинговых и вишинговых атаках.
Хакеры будут использовать ChatGPT в социальной инженерии, чтобы получить конфиденциальные данные
Наблюдается растущая тенденция использования хакерами ИИ для проведения своих атак, поскольку эта технология дает им возможность автоматизировать свои атаки и сделать их более эффективными.
Одним из последних примеров этого является ChatGPT Chatbot, который используется хакерами для проведения атак социальной инженерии. Этот чат-бот предназначен для имитации человеческого разговора и способен вести сложные, реалистичные и связные разговоры. Эта технология может быть использована для злоупотреблений. Хакеры могут использовать чат-бота для создания убедительных разговоров, чтобы собирать конфиденциальные данные, личные данные и пароли от ничего не подозревающих жертв.
До сих пор чат-бот использовался для выдачи себя за представителей службы поддержки и проведения фишинговых атак. Это только вопрос времени, когда мы увидим более изощренные атаки, проводимые с помощью этой технологии.
Это серьезная проблема, которую необходимо решать. Если ChatGPT не защищен должным образом, его можно использовать для очень изощренной эксплуатации людей. По мере того, как чат-боты становятся все более совершенными, важно осознавать риски, которые они представляют. Хакеры будут продолжать находить новые способы их использования для проведения атак. Обязательно обновляйте свое программное обеспечение безопасности и будьте осторожны с любыми разговорами с незнакомцами в Интернете.
Подробнее об ИИ:
Отказ от ответственности
В соответствии с Руководство трастового проектаОбратите внимание, что информация, представленная на этой странице, не предназначена и не должна интерпретироваться как юридическая, налоговая, инвестиционная, финансовая или любая другая форма консультации. Важно инвестировать только то, что вы можете позволить себе потерять, и обращаться за независимой финансовой консультацией, если у вас есть какие-либо сомнения. Для получения дополнительной информации мы предлагаем обратиться к положениям и условиям, а также к страницам справки и поддержки, предоставленным эмитентом или рекламодателем. MetaversePost стремится предоставлять точную и объективную отчетность, однако рыночные условия могут быть изменены без предварительного уведомления.
Об авторе
Дамир — руководитель группы, менеджер по продукту и редактор в Metaverse Post, охватывающие такие темы, как AI/ML, AGI, LLM, Metaverse и Web3-связанные поля. Его статьи ежемесячно привлекают огромную аудиторию, насчитывающую более миллиона пользователей. Похоже, он эксперт с 10-летним опытом работы в области SEO и цифрового маркетинга. Дамир упоминается в Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto и другие издания. Он путешествует между ОАЭ, Турцией, Россией и СНГ в качестве цифрового кочевника. Дамир получил степень бакалавра в области физики, что, по его мнению, дало ему навыки критического мышления, необходимые для достижения успеха в постоянно меняющемся мире Интернета.
Другие статьи
Дамир — руководитель группы, менеджер по продукту и редактор в Metaverse Post, охватывающие такие темы, как AI/ML, AGI, LLM, Metaverse и Web3-связанные поля. Его статьи ежемесячно привлекают огромную аудиторию, насчитывающую более миллиона пользователей. Похоже, он эксперт с 10-летним опытом работы в области SEO и цифрового маркетинга. Дамир упоминается в Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto и другие издания. Он путешествует между ОАЭ, Турцией, Россией и СНГ в качестве цифрового кочевника. Дамир получил степень бакалавра в области физики, что, по его мнению, дало ему навыки критического мышления, необходимые для достижения успеха в постоянно меняющемся мире Интернета.
