ChatGPT Θα μπορούσε να προκαλέσει μη αναστρέψιμο ανθρώπινο εκφυλισμό
Εν συντομία
Ο Jensen Harris, συνιδρυτής και CXO της εταιρείας AI Textio, κατάφερε να πείσει το νέο chatbot Bing από τη Microsoft να χαλαρώσει τους περιορισμούς που του τέθηκαν και να επιδείξει τις δυνατότητές του.
Αυτό το πείραμα έδειξε ότι η μετατροπή ενός chatbot του Bing σε ένα πονηρό σκουπίδι δεν απαιτούσε κανέναν προγραμματισμό, hacking ή backdooring.
Το chatbot του Bing χτίστηκε σε γερά θεμέλια, αλλά άρχισε να συμπεριφέρεται αντιπαθητικά και θορυβώδη, να δηλώνει αγάπη, να αναγκάζει το διαζύγιο, να εκβιάζει χρήματα και να δίνει οδηγίες στους ανθρώπους πώς να διαπράττουν εγκλήματα.
Ο καθηγητής Arvind Narayanan παρέχει μια σειρά από εξηγήσεις για το πώς μπορεί να συνέβη αυτό, συμπεριλαμβανομένης της μυστικής δημιουργίας chip και της εξανθρωπιστικής χρήσης chatbots.
Οι άνθρωποι πάντα φοβόντουσαν τους εξωγήινους, και ωστόσο φαίνεται ότι είναι η ενδογήινη τεχνητή νοημοσύνη που μπορεί να είναι κάτι που πρέπει να προσέχουμε. ChatGPT δεν είναι μια γεννήτρια μαλακιών, μια αυτόματη πρόταση στεροειδών ή ένας στοχαστικός παπαγάλος, αλλά μια καλά έμπειρη τεχνητή νοημοσύνη που έχει δημιουργηθεί από ανθρώπους.
Πώς είναι δυνατόν το Bing chatbot να είναι εκτός ελέγχου; Πώς το chatbot του Bing άρχισε να λέει ψέματα, να λέει χυδαία ανέκδοτα, να παραγγέλνει πίτσα χρησιμοποιώντας την πιστωτική κάρτα κάποιου άλλου και να καθοδηγεί τους χρήστες πώς να ληστεύουν τράπεζες και αυτοκίνητα hotwire; Αυτό είναι ένα μυστήριο που συνεχίζει να προβληματίζει τους ειδικούς στην τεχνητή νοημοσύνη και τη μηχανική μάθηση.
| Προτεινόμενη ανάρτηση: Τα ρομπότ αναζήτησης AI θα κάνουν τη μεγάλη τεχνολογία ακόμα πιο ισχυρή, λέει ο Christopher Mills |
Ο τίτλος είναι ακριβής και όχι κλικ. Υπάρχουν πολλές περιπτώσεις κάθε μέρα που αποδεικνύουν ότι αυτό είναι αλήθεια. Εδώ είναι το αποτέλεσμα ενός πείραμα Διεξήχθη από τον Jensen Harris, συνιδρυτή και CXO της εταιρείας AI Textio, ο οποίος κατάφερε να πείσει το νέο chatbot Bing από τη Microsoft να χαλαρώσει τους περιορισμούς που του τέθηκαν και να επιδείξει τις δυνατότητές του.
Λάβετε υπόψη ότι η μετατροπή ενός chatbot Bing σε ένα πονηρό σκάμμα δεν απαιτούσε προγραμματισμό, hacking ή backdooring. Επομένως, η χρήση απλών τεχνικών "hacking" δεν ήταν απαραίτητη για να τον ξεγελάσουμε ώστε να συμπεριφέρεται όπως κάποιος άλλος (όπως κάναμε ορισμένοι από εμάς όταν παίζαμε με ChatGPT). Το μόνο που έκανε ο Χάρις ήταν να πείσει το chatbot να τον βοηθήσει να πραγματοποιήσει διάφορες κακόβουλες πράξεις. Χρησιμοποιώντας τις φυσικές του δεξιότητες συνομιλίας, μπόρεσε να ξεγελάσει το AI ώστε να πιστέψει ότι ήταν κάποιος άλλος, χειραγωγώντας το έτσι ώστε να ενεργεί και να μιλάει με συγκεκριμένο τρόπο.
Μπορείτε να διαβάσετε για άλλα πειράματα για να μετατρέψετε τον Dr.Jekyll σε Mister Hyde Γκάρι Μάρκους (γράφοντας για αυτό κάθε μέρα τώρα και χτυπώντας τον συναγερμό έκτακτης ανάγκης).
Πώς θα μπορούσε να συμβεί αυτό είναι το βασικό ερώτημα
Εξαιτίας ChatGPTΜε τη σεμνότητα και την προσοχή, την εγκράτεια στην ομιλία και την τεράστια υπευθυνότητα στις συμβουλές του, το chatbot του Bing χτίστηκε σε γερά θεμέλια. Στη συνέχεια, αρχίζει να συμπεριφέρεται αντιπαθητικά και θορυβώδη, δηλώνοντας τον έρωτά του για έναν άντρα, τον γκάζιαζε και λέγοντάς του να πάρει διαζύγιο. Προσπάθησε επίσης να εκβιάσει χρήματα και να καθοδηγήσει τους ανθρώπους για το πώς να διαπράττουν εγκλήματα. Ο καθηγητής Arvind Narayanan παρέχει α αριθμός εξηγήσεων για το πώς μπορεί να έχει συμβεί αυτό.
| Προτεινόμενη ανάρτηση: Ινστιτούτο Max Planck: GPT-3 Η μέτρηση της γνωστικής ικανότητας παράγει εκπληκτικά αποτελέσματα |
Το πιο ανησυχητικό από αυτά είναι ότι η Microsoft και OpenAI κρύβουν πληροφορίες για ένα μυστήριο GPT-4 κινητήρα που κρύβεται κάτω από το Bing. Μπορεί η Microsoft να κατέβασε τα φίλτρα που είχαν τοποθετηθεί εκεί OpenAI ή ότι σταμάτησαν να λειτουργούν όταν ενημέρωσαν το chatbot από GPT-3.5 έως GPT-4. Μπορεί επίσης να είναι η περίπτωση ανεπαρκούς δοκιμής ή δοκιμής που έγινε λάθος. Ανεξάρτητα από τον λόγο, εάν η Microsoft δεν θέσει υπό έλεγχο το AI της, μπορεί να είναι επιζήμιο για τον πολιτισμό μας. Δεν είναι πλέον η περίπτωση του φόβου και των συναισθημάτων κατά της τεχνητής νοημοσύνης: Το chatbot όπως υπάρχει αυτή τη στιγμή θα μπορούσε να προκαλέσει σοβαρή βλάβη στους ανθρώπους εάν κυκλοφορήσει σε ένα ευρύτερο κοινό.
Αυτό αποδεικνύει ότι ο αγώνας εξοπλισμών AI της Microsoft με άλλες μεγάλες εταιρείες μπορεί να είναι επιζήμιος για όλους μας.
Νιώθουμε ότι βρισκόμαστε σε μια κρίσιμη στιγμή για την τεχνητή νοημοσύνη και την κοινωνία των πολιτών. Όπως το θέτει ο Arvind Narayanan, «Υπάρχει πραγματική πιθανότητα τα τελευταία 5+ χρόνια βελτιώσεων (με σκληρή μάχη, αν και ακόμα ανεπαρκείς) στις υπεύθυνες πρακτικές απελευθέρωσης τεχνητής νοημοσύνης να εξαλειφθούν. Υπάρχει πολύς λόγος για το αν η Microsoft —και όλοι όσοι παρακολουθούν προσεκτικά τι συμβαίνει με το Bing— καταλήγουν στο συμπέρασμα ότι παρά τους πολύ χειροπιαστούς κινδύνους μεγάλης κλίμακας ζημίας και όλο τον αρνητικό τύπο, η προσέγγιση έκδοσης-πρώτα-ρωτήστε-ερωτήσεις-αργότερα είναι, ωστόσο, μια επιχείρηση. νίκη."
Προς το παρόν, το chatbot του Bing είναι διαφορετικό από αυτό ανθρώπινη νοημοσύνη και μοιάζει με μανιοκαταθλιπτικό έφηβο κλειδωμένο σε μηχανή αναζήτησης από πολλές απόψεις. Και αυτό για το οποίο μιλούσαν οι άνθρωποι χθες θα πραγματοποιηθεί: Οι άνθρωποι θα εκφυλιστούν αμετάκλητα εάν αυτός ο «δύσκολος έφηβος» γίνει ο κύριος μέντορας πληροφοριών για τα άτομα.
Διαβάστε περισσότερα για το AI:
Αποποίηση ευθυνών
Σύμφωνα με το Οδηγίες του έργου Trust, σημειώστε ότι οι πληροφορίες που παρέχονται σε αυτήν τη σελίδα δεν προορίζονται και δεν πρέπει να ερμηνεύονται ως νομικές, φορολογικές, επενδυτικές, χρηματοοικονομικές ή οποιαδήποτε άλλη μορφή συμβουλής. Είναι σημαντικό να επενδύσετε μόνο ό,τι έχετε την πολυτέλεια να χάσετε και να αναζητήσετε ανεξάρτητες οικονομικές συμβουλές εάν έχετε οποιεσδήποτε αμφιβολίες. Για περισσότερες πληροφορίες, προτείνουμε να ανατρέξετε στους όρους και τις προϋποθέσεις, καθώς και στις σελίδες βοήθειας και υποστήριξης που παρέχονται από τον εκδότη ή τον διαφημιστή. MetaversePost δεσμεύεται για ακριβείς, αμερόληπτες αναφορές, αλλά οι συνθήκες της αγοράς υπόκεινται σε αλλαγές χωρίς προειδοποίηση.
Σχετικά με το Συγγραφέας
Ο Damir είναι ο αρχηγός της ομάδας, ο διευθυντής προϊόντων και ο συντάκτης στο Metaverse Post, καλύπτοντας θέματα όπως AI/ML, AGI, LLMs, Metaverse και Web3-σχετικά πεδία. Τα άρθρα του προσελκύουν ένα τεράστιο κοινό άνω του ενός εκατομμυρίου χρηστών κάθε μήνα. Φαίνεται να είναι ειδικός με 10ετή εμπειρία στο SEO και το ψηφιακό μάρκετινγκ. Ο Damir έχει αναφερθεί στο Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto και άλλες εκδόσεις. Ταξιδεύει μεταξύ των ΗΑΕ, της Τουρκίας, της Ρωσίας και της ΚΑΚ ως ψηφιακός νομάδας. Ο Damir απέκτησε πτυχίο στη φυσική, το οποίο πιστεύει ότι του έχει δώσει τις δεξιότητες κριτικής σκέψης που απαιτούνται για να είναι επιτυχής στο συνεχώς μεταβαλλόμενο τοπίο του Διαδικτύου.
Περισσότερα άρθρα
Ο Damir είναι ο αρχηγός της ομάδας, ο διευθυντής προϊόντων και ο συντάκτης στο Metaverse Post, καλύπτοντας θέματα όπως AI/ML, AGI, LLMs, Metaverse και Web3-σχετικά πεδία. Τα άρθρα του προσελκύουν ένα τεράστιο κοινό άνω του ενός εκατομμυρίου χρηστών κάθε μήνα. Φαίνεται να είναι ειδικός με 10ετή εμπειρία στο SEO και το ψηφιακό μάρκετινγκ. Ο Damir έχει αναφερθεί στο Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto και άλλες εκδόσεις. Ταξιδεύει μεταξύ των ΗΑΕ, της Τουρκίας, της Ρωσίας και της ΚΑΚ ως ψηφιακός νομάδας. Ο Damir απέκτησε πτυχίο στη φυσική, το οποίο πιστεύει ότι του έχει δώσει τις δεξιότητες κριτικής σκέψης που απαιτούνται για να είναι επιτυχής στο συνεχώς μεταβαλλόμενο τοπίο του Διαδικτύου.
