Cyberkriminelle nutzen LLM-Chatbots für Phishing: Wie generative KI dem entgegenwirken kann
In Kürze
Seit der Einführung von ChatGPT Ende 2022 wurde ein deutlicher Anstieg bösartiger Phishing-E-Mails mit einem Anstieg von 1,265 % beobachtet.
Einige der häufigsten Benutzer von Chatbots mit großem Sprachmodell (LLM). sind Cyberkriminelle, verrät ein Anbieter von Echtzeit-Bedrohungsinformationen SchrägstrichWeiter Bericht. Aber was genau ist der Zweck des Einsatzes von LLM-Chatbots?
Laut dem Bericht mit dem Titel „Der Stand des Phishing 2023„Cyberkriminelle nutzen das Tool, um BEC-Angriffe (Business Email Compromise) zu schreiben und systematisch gezielte Phishing-Angriffe zu starten.“
Seit der Einführung von OpenAI ChatGPT Ende 2022 wurde ein deutlicher Anstieg bösartiger Phishing-E-Mails beobachtet, mit einem unglaublichen Anstieg von 1,265 %.
Bemerkenswerterweise nutzen 68 % dieser Phishing-E-Mails textbasierte Business Email Compromise (BEC)-Taktiken. Dieser alarmierende Trend unterstreicht die wachsende Besorgnis darüber, dass Chatbots und Jailbreaks eine schnelle Verbreitung von Phishing-Angriffen begünstigen, indem sie es Cyberkriminellen ermöglichen, hochentwickelte und schnelle Offensiven zu starten.
Auf Nachfrage gaben 40 % der Befragten (Cybersicherheitsfachleute) an, dass sie derzeit beschäftigt sind ChatGPT zum Verfassen von E-Mails, sowohl für private als auch für berufliche Zwecke.
Es ist nicht überraschend, dass sich diese Nutzung auf erstreckt Cyber-Kriminelle, da das Verfassen von E-Mails eine der am weitesten verbreiteten Anwendungen von ist ChatGPT für Hacker. Cyber-Angreifer nutzen es aus ChatGPTDie Fähigkeiten des Unternehmens helfen bei der Erstellung von BEC-Angriffen (Business Email Compromise) und der Orchestrierung gezielter Phishing-Kampagnen.
Umgehung ChatGPT Wie Chatbots – Keine komplexe Aufgabe
Während KI-Chatbots Gefällt mir ChatGPT Obwohl sie über umfassende Kenntnisse verfügen und Texte zu einem breiten Themenspektrum erstellen können, unterliegen sie bestimmten Einschränkungen, um verschiedenen Problemen vorzubeugen.
Diese Einschränkungen bestehen aufgrund der Art ihrer Trainingsdaten und der Möglichkeit schädlicher oder unangemessener Reaktionen. In diesem Artikel wird untersucht, warum ChatGPT ist eingeschränkt und bietet Techniken zur Umgehung dieser Einschränkungen.
Wenn Benutzer ihre Fragen jedoch kontextbezogen formulieren, problematische Formulierungen vermeiden und Szenarien aus der Perspektive einer dritten Person betrachten, können sie oft hilfreichere Antworten erhalten. Darüber hinaus können Benutzer Zeichenbeschränkungen umgehen, indem sie jeweils kleinere Textabschnitte anfordern.
Kann generative KI der Rettungsheld sein?
In einer sich schnell entwickelnden digitalen Landschaft hat das Zusammentreffen des bösartigen Potenzials der KI und der sich ändernden Dynamik von Remote- und Hybridarbeitsumgebungen Bedenken hinsichtlich des zunehmenden Risikos von Cyberangriffen geweckt.
Da Mitarbeiter über mehrere Geräte und Kommunikationskanäle verteilt sind, sind Unternehmen zunehmend anfällig für Sicherheitsverletzungen. Um dieser Bedrohung entgegenzuwirken, besteht ein wachsender Bedarf generative KI Sicherheitslösungen zum Schutz vor fortgeschrittenen Cyberangriffen wie Business Email Compromise (BEC), Lieferkettenangriffen, Identitätsdiebstahl von Führungskräften und Finanzbetrug.
Generative KI-Sicherheitslösungen sind gut darin, Bedrohungen zu erkennen, die menschliche Emotionen manipulieren, indem sie Taktiken wie Angst oder Vertrauen nutzen, um schnelle Maßnahmen zu veranlassen. Durch die Simulation dieser menschlichen Emotionen und Verhaltensweisen in ihrem Erkennungsprozess bieten generative KI-Sicherheitslösungen einen robusten Schutz gegen die neuesten Cyber-Bedrohungen.
Ein bemerkenswerter Player in diesem Bereich ist SlashNext. Die Technologie des Unternehmens ist in der Lage, Angriffe wie Spear-Phishing, BEC und Smishing zu erkennen, vorherzusagen und zu stoppen, die alle Zero-Hour-Social-Engineering-Techniken nutzen. Dieses fortschrittliche System funktioniert nahtlos über E-Mail-, Mobil- und Web-Messaging-Anwendungen hinweg und bietet einen mehrstufigen Schutz.
Laut SlashNext kombinieren seine Lösungen natürliche Sprachverarbeitung, Computer Vision, maschinelles Lernen, Beziehungsdiagramme und tiefe Kontextualisierung, um anspruchsvollen Multi-Channel-Messaging-Angriffen entgegenzuwirken.
Das Unternehmen ist in der Lage, ein breites Spektrum von KI-generierten BEC-Bedrohungen zu antizipieren, indem es Technologien zur KI-Datenerweiterung und zum Klonen einsetzt.
Dieser Ansatz ermöglicht es dem System, Kernbedrohungen zu bewerten und zahlreiche Variationen zu generieren, wodurch es sich effektiv selbst trainiert, potenzielle Risiken zu erkennen und zu vereiteln, fügte er hinzu.
Während sich Unternehmen mit den ständig wachsenden Cybersicherheitsherausforderungen auseinandersetzen, die durch KI-gesteuerte Bedrohungen entstehen, sind generative KI-Sicherheitslösungen unschätzbare Verbündete bei der Suche nach dem Schutz sensibler Daten und der Aufrechterhaltung der digitalen Integrität. Die Zukunft der Cybersicherheit hängt zunehmend von diesen innovativen Technologien ab und stellt sicher, dass Unternehmen Cyberkriminellen und neuen Bedrohungen immer einen Schritt voraus sind.
Haftungsausschluss
Im Einklang mit der Richtlinien des Trust-ProjektsBitte beachten Sie, dass die auf dieser Seite bereitgestellten Informationen nicht als Rechts-, Steuer-, Anlage-, Finanz- oder sonstige Beratung gedacht sind und nicht als solche interpretiert werden sollten. Es ist wichtig, nur so viel zu investieren, wie Sie sich leisten können, zu verlieren, und im Zweifelsfall eine unabhängige Finanzberatung einzuholen. Für weitere Informationen empfehlen wir einen Blick auf die Allgemeinen Geschäftsbedingungen sowie die Hilfe- und Supportseiten des Herausgebers oder Werbetreibenden. MetaversePost ist einer genauen, unvoreingenommenen Berichterstattung verpflichtet, die Marktbedingungen können sich jedoch ohne Vorankündigung ändern.
Über den Autor
Kumar ist ein erfahrener Technologiejournalist mit Spezialisierung auf die dynamischen Schnittstellen von KI/ML, Marketingtechnologie und aufstrebenden Bereichen wie Krypto, Blockchain und NFTS. Mit über drei Jahren Erfahrung in der Branche hat Kumar eine nachgewiesene Erfolgsbilanz bei der Erstellung überzeugender Erzählungen, der Durchführung aufschlussreicher Interviews und der Bereitstellung umfassender Erkenntnisse. Kumars Fachwissen liegt in der Produktion von wirkungsvollen Inhalten, darunter Artikeln, Berichten und Forschungspublikationen für prominente Branchenplattformen. Mit seinen einzigartigen Fähigkeiten, die technisches Wissen und Geschichtenerzählen kombinieren, zeichnet sich Kumar dadurch aus, dass er komplexe technologische Konzepte einem unterschiedlichen Publikum auf klare und ansprechende Weise vermittelt.
Weitere Artikel
Kumar ist ein erfahrener Technologiejournalist mit Spezialisierung auf die dynamischen Schnittstellen von KI/ML, Marketingtechnologie und aufstrebenden Bereichen wie Krypto, Blockchain und NFTS. Mit über drei Jahren Erfahrung in der Branche hat Kumar eine nachgewiesene Erfolgsbilanz bei der Erstellung überzeugender Erzählungen, der Durchführung aufschlussreicher Interviews und der Bereitstellung umfassender Erkenntnisse. Kumars Fachwissen liegt in der Produktion von wirkungsvollen Inhalten, darunter Artikeln, Berichten und Forschungspublikationen für prominente Branchenplattformen. Mit seinen einzigartigen Fähigkeiten, die technisches Wissen und Geschichtenerzählen kombinieren, zeichnet sich Kumar dadurch aus, dass er komplexe technologische Konzepte einem unterschiedlichen Publikum auf klare und ansprechende Weise vermittelt.
