Οι ειδικοί προειδοποιούν κατά των «κακόβουλων εισαγωγών» σε σύνολα δεδομένων AI ChatGPT
Εν συντομία
ChatGPT είναι δυνητικά ευάλωτες λόγω των δεδομένων εκπαίδευσης.
Σύμφωνα με ερευνητές, μόνο για 60 $ στις ΗΠΑ, θα μπορούσαμε να δηλητηριάσουμε το 0.01% των συνόλων δεδομένων LAION-400 ή COYO-700 το 2022.
ChatGPT η τεχνολογία γίνεται όλο και πιο δημοφιλής, αλλά πρόσφατη έρευνα υποδηλώνει ότι αυτή η τεχνολογία μπορεί να είναι ευάλωτη λόγω των δεδομένων εκπαίδευσης που χρησιμοποιεί. Καθώς τα μοντέλα γίνονται πιο περίπλοκα και τα σύνολα δεδομένων γίνονται μεγαλύτερα και πιο περίπλοκα, κακόβουλοι παράγοντες θα μπορούσαν να εκμεταλλευτούν αυτήν την ευπάθεια για να χειραγωγήσουν τα σύνολα δεδομένων και να αναγκάσουν τα μοντέλα μηχανικής μάθησης να παράγουν ανακριβή αποτελέσματα.
Το κύριο μέλημα είναι ότι οι βάσεις δεδομένων chatbot είναι συχνά σύνολα δεδομένων «επαληθευμένα υπό όρους», που σημαίνει ότι υπάρχει ένα ορισμένο επίπεδο εμπιστοσύνης στα δεδομένα χωρίς εκτενή επαλήθευση. Με άλλα λόγια, αυτά τα σύνολα δεδομένων μπορεί συχνά να έχουν υποκείμενα ζητήματα που δεν έχουν ληφθεί υπόψη. Αν και η επικύρωση των συνόλων δεδομένων συχνά δεν εκτελείται λόγω του μεγάλου μεγέθους τους, υπάρχει η πιθανότητα για κακόβουλους παράγοντες να χειριστούν αυτά τα δεδομένα.
Στην πραγματικότητα, οι ερευνητές έχουν προτείνει ότι μέχρι το 2022, οι επιτιθέμενοι θα μπορούσαν να ξοδέψουν περίπου 60 $ για να δηλητηριάσουν το 0.01% των συνόλων δεδομένων LAION-400 ή COYO-700. Αν και αυτό δεν ακούγεται πολύ, οι κακόβουλοι ηθοποιοί θα μπορούσαν να χρησιμοποιήσουν αυτά τα δηλητηριασμένα δεδομένα για δικό τους κέρδος εάν αφεθούν ανεξέλεγκτα. Τα κακόβουλα δεδομένα μπορούν τελικά διαρροή σε μεγαλύτερα σύνολα δεδομένων, αλλοιώνοντας την ποιότητα των δεδομένων και οδηγώντας σε αναξιόπιστα μοντέλα μηχανικής μάθησης.
Είναι απαραίτητο να ληφθούν μέτρα για την προστασία των βάσεων δεδομένων από κακόβουλα δεδομένα. Η συγκέντρωση πολλών πηγών δεδομένων θα πρέπει να γίνει το πρότυπο για το chatbot σύνολα δεδομένων εκπαίδευσης για να διασφαλιστεί ότι τα δεδομένα είναι αξιόπιστα και ακριβή. Επιπλέον, οι εταιρείες θα πρέπει να πειραματιστούν με σύνολα δεδομένων για να διασφαλίσουν ότι δεν είναι ευάλωτες σε κακόβουλους παράγοντες.
Τα AI Chatbots με κακόβουλο κώδικα μπορεί να είναι ευάλωτα σε hacking
Η απειλή κακόβουλου κώδικα στα chatbots μπορεί να είναι αρκετά σοβαρή. κακόβουλος κώδικας μπορεί να χρησιμοποιηθεί για την κλοπή δεδομένων χρήστη, την ενεργοποίηση κακόβουλης πρόσβασης σε διακομιστές και την ενεργοποίηση κακόβουλων δραστηριοτήτων όπως π.χ. ξεπλύματος παράνομου χρήματος ή διείσδυση δεδομένων. Εάν ένα chatbot AI εκπαιδεύεται σε δεδομένα με κακόβουλα ένθετα, θα μπορούσε εν αγνοία του να εισάγει τον κακόβουλο κώδικα στις απαντήσεις του και εν αγνοία του να χρησιμοποιηθεί ως εργαλείο για κακόβουλο κέρδος.
Είναι δυνατό για κακόβουλους παράγοντες να επωφεληθούν από αυτήν την ευπάθεια εισάγοντας σκόπιμα ή ακούσια κακόβουλο κώδικα στο δεδομένα κατάρτισης. Επιπλέον, δεδομένου ότι τα chatbot AI μαθαίνουν από τα δεδομένα με τα οποία παρουσιάζονται, αυτό θα μπορούσε επίσης να τους οδηγήσει στην εκμάθηση εσφαλμένων απαντήσεων ή ακόμη και κακόβουλης συμπεριφοράς.
Ένας άλλος κίνδυνος που μπορεί να αντιμετωπίσουν τα chatbot AI είναι αυτός της «υπερβολικής τοποθέτησης». Αυτό συμβαίνει όταν τα μοντέλα πρόβλεψης εκπαιδεύονται πολύ προσεκτικά στα δεδομένα που τους δόθηκαν, οδηγώντας έτσι σε κακές προβλέψεις όταν παρουσιάζονται με νέα δεδομένα. Αυτό μπορεί να είναι ένα ιδιαίτερο πρόβλημα καθώς Chatbots AI εκπαιδευμένοι σε κακόβουλο κώδικα θα μπορούσαν ενδεχομένως να γίνουν πιο αποτελεσματικοί στην εισαγωγή κακόβουλου κώδικα στις απαντήσεις τους καθώς εξοικειώνονται περισσότερο με τα δεδομένα.
Είναι σημαντικό να γνωρίζετε τους κινδύνους και να λαμβάνετε προφυλάξεις για να εγγυηθείτε τα δεδομένα εκπαίδευσης που χρησιμοποιούνται για τη διδασκαλία ChatGPT είναι ασφαλές και αξιόπιστο για την πρόληψη αυτών των πιθανών αδυναμιών. Τα αρχικά δεδομένα που χρησιμοποιούνται για την εκπαίδευση πρέπει επίσης να διατηρούνται ξεχωριστά και μοναδικά. η προώθηση "κακόβουλων ενθέτων" δεν πρέπει να έρχεται σε σύγκρουση ή να επικαλύπτεται με άλλες πηγές. Θα πρέπει να εξεταστεί και να συγκριθεί με άλλους τομείς εάν είναι εφικτή η «σύλληψη» πολλών επιβεβαιωμένων τομέων για την επικύρωση των δεδομένων.
Η τεχνολογία Chatbot υπόσχεται να μεταμορφώσει τον τρόπο με τον οποίο οι άνθρωποι διεξάγουν ανθρώπινες συζητήσεις. Προτού όμως μπορέσει να αξιοποιήσει πλήρως τις δυνατότητές του, πρέπει να βελτιωθεί και να διαφυλαχθεί. Τα σύνολα δεδομένων για chatbots πρέπει να ελέγχονται καλά και να είναι έτοιμα για να αποκρούσουν τους κακόβουλους παράγοντες. Κάνοντας αυτό, μπορούμε να διασφαλίσουμε ότι αξιοποιούμε πλήρως τις δυνατότητες της τεχνολογίας και συνεχίζουμε να το πιέζουμε όρια της τεχνητής νοημοσύνης.
Διαβάστε περισσότερα για το AI:
Αποποίηση ευθυνών
Σύμφωνα με το Οδηγίες του έργου Trust, σημειώστε ότι οι πληροφορίες που παρέχονται σε αυτήν τη σελίδα δεν προορίζονται και δεν πρέπει να ερμηνεύονται ως νομικές, φορολογικές, επενδυτικές, χρηματοοικονομικές ή οποιαδήποτε άλλη μορφή συμβουλής. Είναι σημαντικό να επενδύσετε μόνο ό,τι έχετε την πολυτέλεια να χάσετε και να αναζητήσετε ανεξάρτητες οικονομικές συμβουλές εάν έχετε οποιεσδήποτε αμφιβολίες. Για περισσότερες πληροφορίες, προτείνουμε να ανατρέξετε στους όρους και τις προϋποθέσεις, καθώς και στις σελίδες βοήθειας και υποστήριξης που παρέχονται από τον εκδότη ή τον διαφημιστή. MetaversePost δεσμεύεται για ακριβείς, αμερόληπτες αναφορές, αλλά οι συνθήκες της αγοράς υπόκεινται σε αλλαγές χωρίς προειδοποίηση.
Σχετικά με το Συγγραφέας
Ο Damir είναι ο αρχηγός της ομάδας, ο διευθυντής προϊόντων και ο συντάκτης στο Metaverse Post, καλύπτοντας θέματα όπως AI/ML, AGI, LLMs, Metaverse και Web3-σχετικά πεδία. Τα άρθρα του προσελκύουν ένα τεράστιο κοινό άνω του ενός εκατομμυρίου χρηστών κάθε μήνα. Φαίνεται να είναι ειδικός με 10ετή εμπειρία στο SEO και το ψηφιακό μάρκετινγκ. Ο Damir έχει αναφερθεί στο Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto και άλλες εκδόσεις. Ταξιδεύει μεταξύ των ΗΑΕ, της Τουρκίας, της Ρωσίας και της ΚΑΚ ως ψηφιακός νομάδας. Ο Damir απέκτησε πτυχίο στη φυσική, το οποίο πιστεύει ότι του έχει δώσει τις δεξιότητες κριτικής σκέψης που απαιτούνται για να είναι επιτυχής στο συνεχώς μεταβαλλόμενο τοπίο του Διαδικτύου.
Περισσότερα άρθρα
Ο Damir είναι ο αρχηγός της ομάδας, ο διευθυντής προϊόντων και ο συντάκτης στο Metaverse Post, καλύπτοντας θέματα όπως AI/ML, AGI, LLMs, Metaverse και Web3-σχετικά πεδία. Τα άρθρα του προσελκύουν ένα τεράστιο κοινό άνω του ενός εκατομμυρίου χρηστών κάθε μήνα. Φαίνεται να είναι ειδικός με 10ετή εμπειρία στο SEO και το ψηφιακό μάρκετινγκ. Ο Damir έχει αναφερθεί στο Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto και άλλες εκδόσεις. Ταξιδεύει μεταξύ των ΗΑΕ, της Τουρκίας, της Ρωσίας και της ΚΑΚ ως ψηφιακός νομάδας. Ο Damir απέκτησε πτυχίο στη φυσική, το οποίο πιστεύει ότι του έχει δώσει τις δεξιότητες κριτικής σκέψης που απαιτούνται για να είναι επιτυχής στο συνεχώς μεταβαλλόμενο τοπίο του Διαδικτύου.
