Κυβερνοεγκληματίες που χρησιμοποιούν LLM Chatbots για phishing: Πώς μπορεί να το αντιμετωπίσει το Generative AI
Εν συντομία
Από την εισαγωγή του ChatGPT στα τέλη του 2022, παρατηρήθηκε σημαντική αύξηση των κακόβουλων μηνυμάτων ηλεκτρονικού ψαρέματος, με αύξηση 1,265%.
Μερικοί από τους πιο συνηθισμένους χρήστες του μεγάλα γλωσσικά μοντέλα (LLM) chatbot είναι κυβερνοεγκληματίες, αποκαλύπτει ο πάροχος πληροφοριών απειλών σε πραγματικό χρόνο SlashNext κανω ΑΝΑΦΟΡΑ. Αλλά, ποιος είναι ακριβώς ο σκοπός της χρήσης chatbots LLM;
Σύμφωνα με την έκθεση με τίτλο «Η κατάσταση του phishing 2023Οι εγκληματίες του κυβερνοχώρου αξιοποιούν το εργαλείο για να βοηθήσουν στη σύνταξη επιχειρηματικών επιθέσεων συμβιβασμού μέσω email (BEC) και να εξαπολύουν συστηματικά άκρως στοχευμένες επιθέσεις phishing.
Από την εισαγωγή του OpenAI'S ChatGPT στα τέλη του 2022, παρατηρήθηκε σημαντική αύξηση των κακόβουλων μηνυμάτων ηλεκτρονικού ψαρέματος, με μια εκπληκτική αύξηση 1,265%.
Συγκεκριμένα, το 68% αυτών των μηνυμάτων ηλεκτρονικού "ψαρέματος" χρησιμοποιούν τακτικές Συμβιβασμού Επιχειρηματικών Email (BEC) που βασίζονται σε κείμενο. Αυτή η ανησυχητική τάση υπογραμμίζει τις αυξανόμενες ανησυχίες σχετικά με το ρόλο των chatbots και των jailbreaks στη διευκόλυνση της ταχείας εξάπλωσης των επιθέσεων phishing, δίνοντας τη δυνατότητα στους εγκληματίες του κυβερνοχώρου να εξαπολύσουν εξαιρετικά εξελιγμένες και γρήγορες επιθέσεις.
Όταν ρωτήθηκαν, το 40% των ερωτηθέντων (επαγγελματίες στον τομέα της κυβερνοασφάλειας) δήλωσαν ότι απασχολούν επί του παρόντος ChatGPT για τη σύνταξη email, τόσο για προσωπική όσο και για επαγγελματική χρήση.
Δεν προκαλεί έκπληξη το γεγονός ότι αυτή η χρήση επεκτείνεται σε εγκληματίες του κυβερνοχώρου, καθώς η σύνθεση email είναι μια από τις πιο διαδεδομένες εφαρμογές του ChatGPT για χάκερ. Οι επιτιθέμενοι στον κυβερνοχώρο εκμεταλλεύονται ChatGPTτις δυνατότητες του να βοηθά στη δημιουργία επιθέσεων Business Email Compromise (BEC) και στην ενορχήστρωση σχολαστικά στοχευμένων εκστρατειών phishing.
παράκαμψη ChatGPT Όπως Chatbots - Δεν είναι μια σύνθετη εργασία
Ενώ Chatbots AI Μου αρέσει ChatGPT διαθέτουν εκτεταμένες γνώσεις και μπορούν να δημιουργήσουν κείμενο για ένα ευρύ φάσμα θεμάτων, υπόκεινται σε ορισμένους περιορισμούς για την πρόληψη διαφόρων ζητημάτων.
Αυτοί οι περιορισμοί ισχύουν λόγω της φύσης των δεδομένων εκπαίδευσής τους και της πιθανότητας για επιβλαβείς ή ακατάλληλες αντιδράσεις. Αυτό το άρθρο διερευνά γιατί ChatGPT είναι περιορισμένη και παρέχει τεχνικές για την αντιμετώπιση αυτών των περιορισμών.
Ωστόσο, πλαισιώνοντας ερωτήσεις με βάση το πλαίσιο, αποφεύγοντας προβληματικές φράσεις και αντιμετωπίζοντας σενάρια από την οπτική γωνία του τρίτου προσώπου, οι χρήστες μπορούν συχνά να λάβουν πιο χρήσιμες απαντήσεις. Επιπλέον, οι χρήστες μπορούν να παρακάμψουν τα όρια χαρακτήρων ζητώντας μικρότερα τμήματα κειμένου κάθε φορά.
Μπορεί το Generative AI να είναι ο ήρωας διάσωσης;
Σε ένα ταχέως εξελισσόμενο ψηφιακό τοπίο, η συρροή του κακόβουλου δυναμικού της τεχνητής νοημοσύνης και η μεταβαλλόμενη δυναμική των απομακρυσμένων και υβριδικών εργασιακών περιβαλλόντων έχει εγείρει ανησυχίες σχετικά με τον αυξανόμενο κίνδυνο κυβερνοεπιθέσεων.
Με τους υπαλλήλους να είναι διασκορπισμένοι σε πολλές συσκευές και κανάλια επικοινωνίας, οι οργανισμοί είναι όλο και πιο ευάλωτοι σε παραβιάσεις ασφάλειας. Για την αντιμετώπιση αυτής της απειλής, υπάρχει μια αυξανόμενη ζήτηση για γενετική AI λύσεις ασφαλείας που έχουν σχεδιαστεί για να προστατεύουν από προηγμένες κυβερνοεπιθέσεις, όπως το Business Email Compromise (BEC), τις επιθέσεις στην αλυσίδα εφοδιασμού, την πλαστοπροσωπία στελεχών και την οικονομική απάτη.
Οι παραγωγικές λύσεις ασφάλειας τεχνητής νοημοσύνης είναι καλές στον εντοπισμό απειλών που χειραγωγούν τα ανθρώπινα συναισθήματα, αξιοποιώντας τακτικές όπως ο φόβος ή η εμπιστοσύνη για να προτρέψουν γρήγορες ενέργειες. Με την προσομοίωση αυτών των ανθρώπινων συναισθημάτων και συμπεριφορών στη διαδικασία ανίχνευσης, οι παραγωγικές λύσεις ασφάλειας τεχνητής νοημοσύνης παρέχουν μια ισχυρή άμυνα έναντι των πιο πρόσφατων απειλών στον κυβερνοχώρο.
Ένας αξιοσημείωτος παίκτης σε αυτόν τον τομέα είναι ο SlashNext. Η τεχνολογία της εταιρείας είναι έμπειρη στον εντοπισμό, την πρόβλεψη και την ανάσχεση επιθέσεων όπως το spear phishing, το BEC και το Smishing, που όλα εκμεταλλεύονται τεχνικές κοινωνικής μηχανικής μηδενικής ώρας. Αυτό το προηγμένο σύστημα λειτουργεί απρόσκοπτα σε εφαρμογές ηλεκτρονικού ταχυδρομείου, κινητών και διαδικτυακών μηνυμάτων, προσφέροντας πολυεπίπεδη άμυνα.
Σύμφωνα με το SlashNext, οι λύσεις του συνδυάζουν την επεξεργασία φυσικής γλώσσας, την όραση υπολογιστή, τη μηχανική εκμάθηση, τα γραφήματα σχέσεων και τη βαθιά δημιουργία πλαισίου για την εξουδετέρωση εξελιγμένων επιθέσεων πολυκαναλικών μηνυμάτων.
Η εταιρεία έχει τη δυνατότητα να προβλέψει ένα ευρύ φάσμα απειλών BEC που δημιουργούνται από AI χρησιμοποιώντας τεχνολογίες αύξησης και κλωνοποίησης δεδομένων AI.
Αυτή η προσέγγιση επιτρέπει στο σύστημα να αξιολογεί τις βασικές απειλές και να δημιουργεί πολλές παραλλαγές, εκπαιδεύοντας αποτελεσματικά τον εαυτό του να αναγνωρίζει και να αποτρέπει πιθανούς κινδύνους, πρόσθεσε.
Καθώς οι οργανισμοί παλεύουν με τις συνεχώς αυξανόμενες προκλήσεις στον κυβερνοχώρο που δημιουργούνται από απειλές που βασίζονται στην τεχνητή νοημοσύνη, οι παραγωγικές λύσεις ασφάλειας τεχνητής νοημοσύνης είναι ανεκτίμητοι σύμμαχοι στην προσπάθεια διαφύλαξης ευαίσθητων δεδομένων και διατήρησης της ψηφιακής ακεραιότητας. Το μέλλον της κυβερνοασφάλειας εξαρτάται όλο και περισσότερο από αυτές τις καινοτόμες τεχνολογίες, διασφαλίζοντας ότι οι οργανισμοί μπορούν να παραμείνουν ένα βήμα μπροστά από τους εγκληματίες του κυβερνοχώρου και τις αναδυόμενες απειλές.
Αποποίηση ευθυνών
Σύμφωνα με το Οδηγίες του έργου Trust, σημειώστε ότι οι πληροφορίες που παρέχονται σε αυτήν τη σελίδα δεν προορίζονται και δεν πρέπει να ερμηνεύονται ως νομικές, φορολογικές, επενδυτικές, χρηματοοικονομικές ή οποιαδήποτε άλλη μορφή συμβουλής. Είναι σημαντικό να επενδύσετε μόνο ό,τι έχετε την πολυτέλεια να χάσετε και να αναζητήσετε ανεξάρτητες οικονομικές συμβουλές εάν έχετε οποιεσδήποτε αμφιβολίες. Για περισσότερες πληροφορίες, προτείνουμε να ανατρέξετε στους όρους και τις προϋποθέσεις, καθώς και στις σελίδες βοήθειας και υποστήριξης που παρέχονται από τον εκδότη ή τον διαφημιστή. MetaversePost δεσμεύεται για ακριβείς, αμερόληπτες αναφορές, αλλά οι συνθήκες της αγοράς υπόκεινται σε αλλαγές χωρίς προειδοποίηση.
Σχετικά με το Συγγραφέας
Ο Kumar είναι ένας έμπειρος Τεχνικός Δημοσιογράφος με εξειδίκευση στις δυναμικές διασταυρώσεις της AI/ML, της τεχνολογίας μάρκετινγκ και των αναδυόμενων τομέων όπως η κρυπτογράφηση, η αλυσίδα μπλοκ και η NFTμικρό. Με περισσότερα από 3 χρόνια εμπειρίας στον κλάδο, η Kumar έχει δημιουργήσει ένα αποδεδειγμένο ιστορικό στη δημιουργία συναρπαστικών αφηγήσεων, τη διεξαγωγή οξυδερκών συνεντεύξεων και την παροχή ολοκληρωμένων πληροφοριών. Η τεχνογνωσία της Kumar έγκειται στην παραγωγή περιεχομένου υψηλής απήχησης, συμπεριλαμβανομένων άρθρων, εκθέσεων και ερευνητικών δημοσιεύσεων για εξέχουσες πλατφόρμες του κλάδου. Με ένα μοναδικό σύνολο δεξιοτήτων που συνδυάζει τεχνικές γνώσεις και αφήγηση, ο Kumar διαπρέπει στην επικοινωνία σύνθετων τεχνολογικών εννοιών σε διαφορετικά κοινά με σαφή και ελκυστικό τρόπο.
Περισσότερα άρθρα
Ο Kumar είναι ένας έμπειρος Τεχνικός Δημοσιογράφος με εξειδίκευση στις δυναμικές διασταυρώσεις της AI/ML, της τεχνολογίας μάρκετινγκ και των αναδυόμενων τομέων όπως η κρυπτογράφηση, η αλυσίδα μπλοκ και η NFTμικρό. Με περισσότερα από 3 χρόνια εμπειρίας στον κλάδο, η Kumar έχει δημιουργήσει ένα αποδεδειγμένο ιστορικό στη δημιουργία συναρπαστικών αφηγήσεων, τη διεξαγωγή οξυδερκών συνεντεύξεων και την παροχή ολοκληρωμένων πληροφοριών. Η τεχνογνωσία της Kumar έγκειται στην παραγωγή περιεχομένου υψηλής απήχησης, συμπεριλαμβανομένων άρθρων, εκθέσεων και ερευνητικών δημοσιεύσεων για εξέχουσες πλατφόρμες του κλάδου. Με ένα μοναδικό σύνολο δεξιοτήτων που συνδυάζει τεχνικές γνώσεις και αφήγηση, ο Kumar διαπρέπει στην επικοινωνία σύνθετων τεχνολογικών εννοιών σε διαφορετικά κοινά με σαφή και ελκυστικό τρόπο.
