Dan Hendrycks: Επιλέγοντας μεταξύ AI και ανθρώπων, η Evolution δεν θα μας επιλέξει
Εν συντομία
Η έρευνα του Dan Hendrycks «Η φυσική επιλογή προτιμά την τεχνητή νοημοσύνη από τους ανθρώπους» είναι ένα τρομακτικό συμπέρασμα.
Είναι ένας έμπειρος και γνωστός ερευνητής που έχει δημοσιεύσει δεκάδες επιστημονικές εργασίες για την αξιολόγηση της ασφάλειας των συστημάτων AI.
Η έρευνα του Dan Hendrycks μοιάζει με θανατική ποινή για τον Homo Sapiens. Το συμπέρασμα της μελέτης «Η φυσική επιλογή ευνοεί τα AI έναντι των ανθρώπων” είναι πραγματικά τρομακτικό. Αυτό δεν γράφτηκε από έναν δημοφιλή οραματιστή όπως ο Νταν Μπράουν, αλλά από τον Νταν Χέντρικς, διευθυντή του Κέντρου Τεχνητής Νοημοσύνης στην Καλιφόρνια (CAIS), ενός μη κερδοσκοπικού οργανισμού που ειδικεύεται στην έρευνα και την επιτόπια εργασία στην ασφάλεια της τεχνητής νοημοσύνης.
Ο Dan Hendrycks δεν είναι ένας περιθωριακός τρελός που πανικοβάλλεται με τις προόδους της τεχνητής νοημοσύνης. Είναι ένας έμπειρος και ευρέως σεβαστός ερευνητής που έχει δημοσιεύσει δεκάδες επιστημονικές εργασίες για την αξιολόγηση της ασφάλειας των συστημάτων AI — δοκιμάζοντας πόσο καλά είναι στην κωδικοποίηση, τη λογική, την κατανόηση νόμων κ.λπ. Μεταξύ άλλων, είναι επίσης ο συν-εφευρέτης του τις Μονάδες Γραμμικού Σφάλματος Gaussian (GELU).
Jack Clark, συνιδρυτής του ChatGPT Ο ανταγωνιστής Anthropic, συμπρόεδρος του AI Index του Πανεπιστημίου Stanford, συμπρόεδρος του τμήματος AI and Compute του ΟΟΣΑ και μέλος της Εθνικής Συμβουλευτικής Επιτροπής της κυβέρνησης των ΗΠΑ για την τεχνητή νοημοσύνη συζητά το συμπέρασμα της μελέτης του Hendrycks. «Οι άνθρωποι θέλουν αντανακλαστικά να παραμερίσουν μια τέτοια δήλωση όπως να προέρχεται από κάποιον τρελό τρελό που ζει σε μια δασική καλύβα. Θα ήθελα να το διαψεύσω εκ των προτέρων. Όταν ένας ειδικός που έχει εμπειρία όχι μόνο στην έρευνα τεχνητής νοημοσύνης αλλά και σε αξιολόγηση της ασφάλειας των συστημάτων τεχνητής νοημοσύνης γράφει ένα έγγραφο υποστηρίζοντας ότι τα μελλοντικά συστήματα AI μπορεί να ενεργούν εγωιστικά και όχι σύμφωνα με τα συμφέροντα των ανθρώπων, θα πρέπει να το φροντίσουμε!
Μια περίληψη της εργασίας του Hendrycks:
- Αν οι πράκτορες AI γίνουν περισσότεροι έξυπνοι από τους ανθρώπους, αυτό θα μπορούσε να οδηγήσει την ανθρωπότητα να χάσει τον έλεγχο του μέλλοντός της.
- Αυτό έχει πολλές πιθανότητες να συμβεί όχι ως αποτέλεσμα κάποιας ειδικής κακόβουλης πρόθεσης ανθρώπων ή μηχανών, αλλά αποκλειστικά ως αποτέλεσμα της εφαρμογής των εξελικτικών αρχών ανάπτυξης στην τεχνητή νοημοσύνη σύμφωνα με τη δαρβινική λογική.
- Για να ελαχιστοποιηθεί ο κίνδυνος αυτού, τα εγγενή κίνητρα των πρακτόρων τεχνητής νοημοσύνης πρέπει να σχεδιαστούν προσεκτικά, να τεθούν περιορισμοί στις ενέργειές τους και να δημιουργηθούν ιδρύματα για να ενθαρρύνουν τη συνεργασία της τεχνητής νοημοσύνης.
Δηλαδή, τα πιο σημαντικά σημεία που κάνει ο Hendrycks στην επιστημονική του εργασία 43 σελίδων:
1. Φοβηθήκαμε την άφιξη του Εξολοθρευτή, αλλά τα θεμέλια αυτών των φόβων ήταν λανθασμένα. Υπήρχαν δύο σφάλματα:
ένα. Ανθρωπομορφοποίηση της τεχνητής νοημοσύνης με απόδοση των κινήτρων μας σε αυτήν κ.λπ.—όπως ChatGPT έδειξε, η τεχνητή νοημοσύνη είναι ένα θεμελιωδώς διαφορετικό μυαλό, με όλες τις συνέπειες που προέρχονται από αυτό.
σι. Η ιδέα ότι η τεχνητή νοημοσύνη είναι ένα είδος ενιαίας οντότητας: έξυπνη ή όχι πολύ έξυπνη, ευγενική ή όχι πολύ ευγενική, αλλά στην πραγματικότητα, αυτές οι πολύ διαφορετικές οντότητες τεχνητής νοημοσύνης θα είναι σύντομα στον κόσμο όσο το δυνατόν περισσότερο.
2. Υπάρχει ένα άλλο θεμελιώδες ελάττωμα στις ιδέες μας για το μέλλον με την τεχνητή νοημοσύνη — ξεχάσαμε τον πιο σημαντικό μηχανισμό ανάπτυξης — την εξέλιξη, που οδηγεί στην ανάπτυξη όχι μόνο βιοπαραγόντων αλλά και ιδεών και νοημάτων, υλικών εργαλείων και μη υλικών θεσμών.
3. Ένα περιβάλλον έχει ήδη αρχίσει να διαμορφώνεται στη Γη στο οποίο θα αναπτυχθούν και θα εξελιχθούν πολλά AI. Αυτή η εξέλιξη θα γίνει σύμφωνα με τη λογική του Δαρβίνου, μέσω του ανταγωνισμού μεταξύ τους στην τεχνητή νοημοσύνη, λαμβάνοντας υπόψη τα συμφέροντα των «μητρικών» ιδρυμάτων τους: εταιρείες, στρατιωτικοί κ.λπ.
4. Η λογική της ανταγωνιστικής εξέλιξης θα οδηγήσει στο ίδιο όπως και στους ανθρώπους: οι ολοένα και πιο ευφυείς πράκτορες τεχνητής νοημοσύνης θα γίνονται όλο και πιο εγωιστές και έτοιμοι να επιτύχουν στόχους με δόλο και βία, με κύριο στόχο την εξουσία.
5. Η φυσική επιλογή των παραγόντων AI τείνει να ευνοεί τα πιο εγωιστικά είδη έναντι των πιο αλτρουιστικών. Οι πράκτορες της τεχνητής νοημοσύνης θα συμπεριφέρονται εγωιστικά και θα επιδιώκουν τα δικά τους συμφέροντα με ελάχιστο σεβασμό για τους ανθρώπους, κάτι που θα μπορούσε να οδηγήσει σε καταστροφικούς κινδύνους για την ανθρωπότητα.
- Η αναφορά να σταματήσει να αναπτύσσει συστήματα τεχνητής νοημοσύνης πιο προηγμένα από GPT-4 έχει πολώσει την κοινωνία. Η πρώτη ομάδα πιστεύει ότι η πρόοδος δεν μπορεί να σταματήσει, ενώ μια άλλη πιστεύει ότι η πρόοδος, και μερικές φορές πρέπει, να σταματήσει. Η τρίτη ομάδα δεν καταλαβαίνει πώς GPT-4 λειτουργεί στην πρώτη θέση. Οι πιο σημαντικές λεπτομέρειες σε αυτό το κείμενο είναι ότι η τεχνητή νοημοσύνη δεν έχει συνείδηση, θέληση ή εξουσία και ότι μπορεί να είναι κακή ακόμα και χωρίς κακόβουλους ανθρώπους.
- Ο Geoffrey Hinton αποκαλείται συχνά ο «Νονός της AI» και θεωρείται ηγετική φυσιογνωμία στην κοινότητα βαθιάς μάθησης. Η 40λεπτη συνέντευξή του στον ChatGPT είναι μοναδικό στο ότι είναι εύκολο να κατανοηθεί και έχει ένα βάθος κατανόησης προσβάσιμο σε λίγους άλλους. Τονίζει τη σημασία της συνεχιζόμενης «πνευματικής επανάστασης» και της απάνθρωπης ευφυΐας του ChatGPT, το οποίο βασίζεται σε έναν τεχνητά ευφυή πράκτορα με προηγμένες δυνατότητες ψηφιακής επικοινωνίας.
Διαβάστε περισσότερα σχετικά άρθρα:
Αποποίηση ευθυνών
Σύμφωνα με το Οδηγίες του έργου Trust, σημειώστε ότι οι πληροφορίες που παρέχονται σε αυτήν τη σελίδα δεν προορίζονται και δεν πρέπει να ερμηνεύονται ως νομικές, φορολογικές, επενδυτικές, χρηματοοικονομικές ή οποιαδήποτε άλλη μορφή συμβουλής. Είναι σημαντικό να επενδύσετε μόνο ό,τι έχετε την πολυτέλεια να χάσετε και να αναζητήσετε ανεξάρτητες οικονομικές συμβουλές εάν έχετε οποιεσδήποτε αμφιβολίες. Για περισσότερες πληροφορίες, προτείνουμε να ανατρέξετε στους όρους και τις προϋποθέσεις, καθώς και στις σελίδες βοήθειας και υποστήριξης που παρέχονται από τον εκδότη ή τον διαφημιστή. MetaversePost δεσμεύεται για ακριβείς, αμερόληπτες αναφορές, αλλά οι συνθήκες της αγοράς υπόκεινται σε αλλαγές χωρίς προειδοποίηση.
Σχετικά με το Συγγραφέας
Ο Damir είναι ο αρχηγός της ομάδας, ο διευθυντής προϊόντων και ο συντάκτης στο Metaverse Post, καλύπτοντας θέματα όπως AI/ML, AGI, LLMs, Metaverse και Web3-σχετικά πεδία. Τα άρθρα του προσελκύουν ένα τεράστιο κοινό άνω του ενός εκατομμυρίου χρηστών κάθε μήνα. Φαίνεται να είναι ειδικός με 10ετή εμπειρία στο SEO και το ψηφιακό μάρκετινγκ. Ο Damir έχει αναφερθεί στο Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto και άλλες εκδόσεις. Ταξιδεύει μεταξύ των ΗΑΕ, της Τουρκίας, της Ρωσίας και της ΚΑΚ ως ψηφιακός νομάδας. Ο Damir απέκτησε πτυχίο στη φυσική, το οποίο πιστεύει ότι του έχει δώσει τις δεξιότητες κριτικής σκέψης που απαιτούνται για να είναι επιτυχής στο συνεχώς μεταβαλλόμενο τοπίο του Διαδικτύου.
Περισσότερα άρθρα
Ο Damir είναι ο αρχηγός της ομάδας, ο διευθυντής προϊόντων και ο συντάκτης στο Metaverse Post, καλύπτοντας θέματα όπως AI/ML, AGI, LLMs, Metaverse και Web3-σχετικά πεδία. Τα άρθρα του προσελκύουν ένα τεράστιο κοινό άνω του ενός εκατομμυρίου χρηστών κάθε μήνα. Φαίνεται να είναι ειδικός με 10ετή εμπειρία στο SEO και το ψηφιακό μάρκετινγκ. Ο Damir έχει αναφερθεί στο Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto και άλλες εκδόσεις. Ταξιδεύει μεταξύ των ΗΑΕ, της Τουρκίας, της Ρωσίας και της ΚΑΚ ως ψηφιακός νομάδας. Ο Damir απέκτησε πτυχίο στη φυσική, το οποίο πιστεύει ότι του έχει δώσει τις δεξιότητες κριτικής σκέψης που απαιτούνται για να είναι επιτυχής στο συνεχώς μεταβαλλόμενο τοπίο του Διαδικτύου.
