Опасностите от AI: Как ще използват хакерите ChatGPT през следващите няколко години
Накратко
AI може да се превърне в неконтролируем генератор на зловреден софтуер
AI може да се използва за създаване на мощен зловреден софтуер без човешка намеса
Риск от неконтролируем AI фишинг, тъй като придобива повече мощност
Бързото развитие на изкуствения интелект (AI) е един от най-трансформиращите технологични постижения в новата история. Въпреки това, тъй като AI продължава да се развива и да става все по-усъвършенстван, съществува нарастващ риск той да стане неконтролируем или да бъде използван от хакери.
С текущото състояние на AI технологията вече е възможно да се създаде автономен зловреден софтуер, който може да избира и ангажира цели без човешка намеса. Съществува също риск ИИ да се използва за укрепване на възможностите на киберпрестъпниците. AI може да се използва за създаване на мощен зловреден софтуер, който е труден за откриване и защита срещу него. Злонамереният софтуер с активиран AI може да се използва за стартиране на атаки, срещу които хората не могат да се защитят. Сигурен ли си, че AI или ChatGPT не може да произведе нещо вредно, като се има предвид, че вече създава програми, приложения, игри и скриптове?
Потенциалните рискове, породени от ИИ, не са само теоретични. Те са реални и представляват опасности, на които трябва да обърнем внимание, преди да е станало твърде късно.
Както смятат експерти във Финландия, нападателите скоро ще започнат да използват AI за извършване на смъртоносни ефективни фишинг атаки. WithSecure, Финландската агенция за транспорт и комуникации и Федералната агенция за управление на извънредни ситуации подготвиха a докладва анализиране на текущите тенденции и развития в AI, кибератаките и къде двете се пресичат.
Авторите на доклада казват, че въпреки че атаките, използващи AI, в момента са много редки, те се провеждат по такъв начин, че изследователите и анализаторите не могат да ги наблюдават. През следващите години обаче е вероятно нападателите да разработят AI алгоритми, които могат независимо да откриват уязвимости, да планират и провеждат злонамерени кампании, да заобикалят системите за сигурност и да събират информация от хакнати устройства.
WithSecure прогнозира, че спонсорираните от държавата хакери ще бъдат първите, които ще използват AI при кибератаки, като технологията в крайна сметка ще попадне в ръцете на по-малки групи, които ще я използват в по-голям мащаб. В резултат на това специалистите по информационна сигурност трябва да започнат да разработват системи, които могат да предпазват от този вид атаки.
Авторите на доклада заявяват, че задвижваните от AI кибератаки ще бъдат особено ефективни, когато става въпрос за техники за имитация, които често се използват при фишинг и вишинг атаки.
Хакерите ще използват ChatGPT в социалното инженерство за получаване на чувствителни данни
Налице е нарастваща тенденция хакерите да използват AI за извършване на своите атаки, тъй като тази технология им предоставя възможността да автоматизират своите атаки и да ги направят по-ефективни.
Един от последните примери за това е ChatGPT чатбота, който се използва от хакери за извършване на атаки със социално инженерство. Този чатбот е проектиран да имитира човешки разговор и е способен да провежда сложни, реалистични и последователни разговори. Има потенциал за злоупотреба с тази технология. Хакерите могат да използват чатбота, за да генерират убедителни разговори, за да събират чувствителни данни, лични данни и пароли от нищо неподозиращи жертви.
Досега чатботът е използван за имитиране на представители на обслужването на клиенти и извършване на фишинг атаки. Само въпрос на време е да видим по-сложни атаки, извършвани с тази технология.
Това е сериозен проблем, на който трябва да се обърне внимание. Ако ChatGPT не е правилно защитен, може да се използва за експлоатация на хора по много сложен начин. Тъй като чатботовете стават все по-напреднали, важно е да сте наясно с рисковете, които крият. Хакерите ще продължат да намират нови начини да ги използват за извършване на своите атаки. Не забравяйте да поддържате софтуера си за сигурност актуален и внимавайте за всякакви разговори, които провеждате с непознати онлайн.
Прочетете повече за AI:
Отказ от отговорност
В съответствие с Доверете се насоките на проекта, моля, имайте предвид, че предоставената на тази страница информация не е предназначена да бъде и не трябва да се тълкува като правен, данъчен, инвестиционен, финансов или каквато и да е друга форма на съвет. Важно е да инвестирате само това, което можете да си позволите да загубите, и да потърсите независим финансов съвет, ако имате някакви съмнения. За допълнителна информация предлагаме да се обърнете към правилата и условията, както и към страниците за помощ и поддръжка, предоставени от издателя или рекламодателя. MetaversePost се ангажира с точно, безпристрастно отчитане, но пазарните условия подлежат на промяна без предизвестие.
За автора
Дамир е ръководител на екип, продуктов мениджър и редактор в Metaverse Post, обхващащи теми като AI/ML, AGI, LLMs, Metaverse и Web3- свързани полета. Статиите му привличат огромна аудитория от над милион потребители всеки месец. Изглежда, че е експерт с 10 години опит в SEO и дигитален маркетинг. Дамир е споменат в Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto и други публикации. Той пътува между ОАЕ, Турция, Русия и ОНД като дигитален номад. Дамир получава бакалавърска степен по физика, която според него му е дала уменията за критично мислене, необходими за успех в непрекъснато променящия се пейзаж на интернет.
Още статии
Дамир е ръководител на екип, продуктов мениджър и редактор в Metaverse Post, обхващащи теми като AI/ML, AGI, LLMs, Metaverse и Web3- свързани полета. Статиите му привличат огромна аудитория от над милион потребители всеки месец. Изглежда, че е експерт с 10 години опит в SEO и дигитален маркетинг. Дамир е споменат в Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto и други публикации. Той пътува между ОАЕ, Турция, Русия и ОНД като дигитален номад. Дамир получава бакалавърска степен по физика, която според него му е дала уменията за критично мислене, необходими за успех в непрекъснато променящия се пейзаж на интернет.
