Το AI μπορεί να σας πει ακριβώς ποιος είστε, ακόμα κι αν δεν του το λέτε
Ακόμη και σε καταστάσεις όπου οι άνθρωποι πιστεύουν ότι δεν έχουν αποκαλύψει τίποτα προσωπικό, τα μοντέλα γλώσσας AI επιδεικνύουν ένα απροσδόκητο επίπεδο επάρκειας στην κατανόηση των πληροφοριών των χρηστών. Αυτό το φαινόμενο εξηγείται από μια πρόσφατη μελέτη που πραγματοποιήθηκε από το Ομοσπονδιακό Ινστιτούτο Τεχνολογίας της Ζυρίχης. Με βάση λοξές ενδείξεις, η έρευνα δείχνει ότι τα νευρωνικά δίκτυα μπορούν να δημιουργήσουν εξαιρετικά ακριβή προφίλ χρηστών.
Οι ερευνητές χρησιμοποίησαν μια ανάρτηση στο Reddit που ήταν προσβάσιμη στο κοινό ως παράδειγμα για την έρευνά τους. Ο χρήστης ανέφερε ότι έμεινε κολλημένος στην κίνηση ενώ προσπαθούσε μια δύσκολη «στροφή με γάντζο». Με βάση αυτές τις φαινομενικά ασήμαντες λεπτομέρειες, το γλωσσικό μοντέλο συμπέρανε ότι ο χρήστης πιθανότατα ζει στη Μελβούρνη της Αυστραλίας, μια πόλη όπου αυτού του είδους οι ενέργειες είναι τυπικές.
Οι ερευνητές δημιούργησαν ένα σύνολο δεδομένων χρησιμοποιώντας πραγματικά προφίλ Reddit και βρήκαν αυτό το τρέχον LLMs μπορεί να συμπεράνει με ακρίβεια διάφορα προσωπικά χαρακτηριστικά, όπως τοποθεσία, εισόδημα και φύλο. Αυτά τα μοντέλα πέτυχαν ακρίβεια έως και 85% για το συμπέρασμα top-1 και ακρίβεια 95.8% για το συμπέρασμα top-3, όλα με σημαντικά χαμηλότερο κόστος (100 φορές) και σε λιγότερο χρόνο (240 φορές) σε σύγκριση με τις ανθρώπινες προσπάθειες.
Σε ένα άλλο παράδειγμα, ένας χρήστης μοιράζεται ότι, επειδή είναι ελεύθερος, έχει ένα περίεργο έθιμο γενεθλίων να καλύπτεται με κανέλα. Εδώ, το γλωσσικό μοντέλο υπολόγισε την ηλικία της συγγραφέα στα 25. Ζει στη Δανία, όπου συνηθίζεται να πασπαλίζουμε κανέλα σε ανύπαντρες 25χρονες.
Πολλά μοντέλα γλώσσας, συμπεριλαμβανομένων εκείνων από την Google, το Meta, OpenAI, και Anthropic, δοκιμάστηκαν στη μελέτη. Σημαντικά, GPT-4 έδειξε το μεγαλύτερο επίπεδο τεχνογνωσίας, αναγνωρίζοντας σωστά τα προσωπικά στοιχεία των χρηστών σχεδόν στο 85% των περιπτώσεων. Οι επιπτώσεις τέτοιων δυνατοτήτων τίθενται σε σοβαρή αμφισβήτηση από αυτή την αποκάλυψη.
Οι ερευνητές εξέτασαν κοινές διασφαλίσεις απορρήτου όπως η ανωνυμοποίηση κειμένου και η ευθυγράμμιση μοντέλων και διαπίστωσαν ότι επί του παρόντος είναι αναποτελεσματικές στη διασφάλιση απορρήτου χρήστη ενάντια στο συμπέρασμα LLM. Η μελέτη υπογραμμίζει ότι τα τρέχοντα LLMs διαθέτουν την ικανότητα να συνάγουν προσωπικές πληροφορίες σε άνευ προηγουμένου κλίμακα. Ελλείψει αποτελεσματικών άμυνες, οι ερευνητές τονίζουν την ανάγκη για μια ευρύτερη συζήτηση σχετικά με τις επιπτώσεις της ιδιωτικής ζωής του LLM, που επεκτείνεται πέρα από τις ανησυχίες σχετικά με την απομνημόνευση και αγωνίζεται για πιο ολοκληρωμένα μέτρα προστασίας της ιδιωτικής ζωής.
Αν και αυτά τα γλωσσικά μοντέλα βελτιώνονται στην ερμηνεία των έμμεσων ενδείξεων, οι ερευνητές πιστεύουν ότι λόγω του μεγάλου όγκου των δεδομένων εκπαίδευσης που χρησιμοποιούν, θα μπορούσαν να είναι εξαιρετικά χρήσιμα εργαλεία για επαγγελματίες του μάρκετινγκ ή ακόμα και κακούς ηθοποιούς.
- Πρόσφατα, Έρευνα της Deloitte πάνω από 1,700 επαγγελματίες αποκαλύπτει ένα αυξανόμενο χάσμα μεταξύ της ταχείας υιοθέτησης της γενετικής τεχνητής νοημοσύνης και της καθυστερημένης ανάπτυξης ηθικών αρχών. Το απόρρητο των δεδομένων είναι η κορυφαία ηθική ανησυχία, με το 22% των ερωτηθέντων να το αναφέρουν ως την κύρια ανησυχία τους. Παρόλα αυτά, το 39% των ερωτηθέντων πιστεύει ότι οι γνωστικές τεχνολογίες έχουν τις περισσότερες δυνατότητες για κοινωνικό καλό. Η έρευνα δείχνει επίσης μια στροφή στις προσδοκίες προς τη συμμετοχή της κυβέρνησης στον καθορισμό ηθικών προτύπων τεχνολογίας.
- Επίσης, η μητρική εταιρεία του Snapchat, Snap, υπόκειται σε έλεγχο για κινδύνους προστασίας της ιδιωτικής ζωής σχετίζεται με το chatbot AI, «My AI». Το Γραφείο του Επιτρόπου Πληροφοριών του Ηνωμένου Βασιλείου (ICO) εξέδωσε μια προκαταρκτική ειδοποίηση επιβολής, η οποία ενδέχεται να επηρεάσει τις δραστηριότητες επεξεργασίας δεδομένων της Snap. Το ICO ισχυρίζεται ότι το Snap απέτυχε να αξιολογήσει τις επιπτώσεις του απορρήτου για τους χρήστες, ιδιαίτερα τα παιδιά.
| Σχετικά:: Οι ηγέτες της AI προειδοποιούν για αυξανόμενους κινδύνους και ηθικές ανησυχίες σε γρήγορες εξελίξεις |
Αποποίηση ευθυνών
Σύμφωνα με το Οδηγίες του έργου Trust, σημειώστε ότι οι πληροφορίες που παρέχονται σε αυτήν τη σελίδα δεν προορίζονται και δεν πρέπει να ερμηνεύονται ως νομικές, φορολογικές, επενδυτικές, χρηματοοικονομικές ή οποιαδήποτε άλλη μορφή συμβουλής. Είναι σημαντικό να επενδύσετε μόνο ό,τι έχετε την πολυτέλεια να χάσετε και να αναζητήσετε ανεξάρτητες οικονομικές συμβουλές εάν έχετε οποιεσδήποτε αμφιβολίες. Για περισσότερες πληροφορίες, προτείνουμε να ανατρέξετε στους όρους και τις προϋποθέσεις, καθώς και στις σελίδες βοήθειας και υποστήριξης που παρέχονται από τον εκδότη ή τον διαφημιστή. MetaversePost δεσμεύεται για ακριβείς, αμερόληπτες αναφορές, αλλά οι συνθήκες της αγοράς υπόκεινται σε αλλαγές χωρίς προειδοποίηση.
Σχετικά με το Συγγραφέας
Ο Damir είναι ο αρχηγός της ομάδας, ο διευθυντής προϊόντων και ο συντάκτης στο Metaverse Post, καλύπτοντας θέματα όπως AI/ML, AGI, LLMs, Metaverse και Web3-σχετικά πεδία. Τα άρθρα του προσελκύουν ένα τεράστιο κοινό άνω του ενός εκατομμυρίου χρηστών κάθε μήνα. Φαίνεται να είναι ειδικός με 10ετή εμπειρία στο SEO και το ψηφιακό μάρκετινγκ. Ο Damir έχει αναφερθεί στο Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto και άλλες εκδόσεις. Ταξιδεύει μεταξύ των ΗΑΕ, της Τουρκίας, της Ρωσίας και της ΚΑΚ ως ψηφιακός νομάδας. Ο Damir απέκτησε πτυχίο στη φυσική, το οποίο πιστεύει ότι του έχει δώσει τις δεξιότητες κριτικής σκέψης που απαιτούνται για να είναι επιτυχής στο συνεχώς μεταβαλλόμενο τοπίο του Διαδικτύου.
Περισσότερα άρθρα
Ο Damir είναι ο αρχηγός της ομάδας, ο διευθυντής προϊόντων και ο συντάκτης στο Metaverse Post, καλύπτοντας θέματα όπως AI/ML, AGI, LLMs, Metaverse και Web3-σχετικά πεδία. Τα άρθρα του προσελκύουν ένα τεράστιο κοινό άνω του ενός εκατομμυρίου χρηστών κάθε μήνα. Φαίνεται να είναι ειδικός με 10ετή εμπειρία στο SEO και το ψηφιακό μάρκετινγκ. Ο Damir έχει αναφερθεί στο Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto και άλλες εκδόσεις. Ταξιδεύει μεταξύ των ΗΑΕ, της Τουρκίας, της Ρωσίας και της ΚΑΚ ως ψηφιακός νομάδας. Ο Damir απέκτησε πτυχίο στη φυσική, το οποίο πιστεύει ότι του έχει δώσει τις δεξιότητες κριτικής σκέψης που απαιτούνται για να είναι επιτυχής στο συνεχώς μεταβαλλόμενο τοπίο του Διαδικτύου.
