Ο Vitalik Buterin και ο διευθυντής του MIRI Nate Soares διερευνούν τους κινδύνους της τεχνητής νοημοσύνης: Θα μπορούσε η τεχνητή νοημοσύνη να προκαλέσει την εξαφάνιση του ανθρώπου;
Εν συντομία
Ο ιδρυτής του Ethereum Vitalik Buterin και ο διευθυντής του Ερευνητικού Ινστιτούτου Μηχανικής Ευφυΐας Nate Soares συζήτησαν τους κινδύνους της τεχνητής νοημοσύνης στο Zuzalu σήμερα.
Το Zuzalu είναι μια αναδυόμενη κοινότητα πόλεων στο Μαυροβούνιο που ξεκίνησε από τον Buterin και τους συνομηλίκους του στην κοινότητα κρυπτογράφησης.
Στη συζήτηση, ο Soares μοιράστηκε την άποψή του σχετικά με το γιατί η τεχνητή νοημοσύνη είναι πολύ πιθανό να τερματίσει όλη τη ζωή στη Γη.
Ο ιδρυτής του Ethereum Vitalik Buterin και διευθυντής του Machine Intelligence Research Institute (MIRI) Νέιτ Σοάρες συζήτησε τους κινδύνους της τεχνητής νοημοσύνης στο Zuzalu σήμερα.
Το Zuzalu είναι μια «αναδυόμενη κοινότητα πόλεων» στο Μαυροβούνιο που ξεκίνησε από τον Buterin και τους συνομηλίκους του στην κοινότητα κρυπτογράφησης που διαρκεί από τις 25 Μαρτίου έως τις 25 Μαΐου. Η εκδήλωση συγκεντρώνει 200 βασικούς κατοίκους με κοινή επιθυμία να μάθουν, να δημιουργήσουν, να ζήσουν περισσότερο και πιο υγιείς ζει και χτίζει αυτοσυντηρούμενες κοινότητες. Κατά τη διάρκεια δύο μηνών, η κοινότητα φιλοξενεί επίσης μια σειρά από εκδηλώσεις με διάφορα θέματα όπως η συνθετική βιολογία, η τεχνολογία για την προστασία της ιδιωτικής ζωής, τα δημόσια αγαθά, η μακροζωία, η διακυβέρνηση και άλλα.
Η συζήτηση άνοιξε με τον Soares να παρουσιάζει τη δουλειά του στο MIRI, έναν μη κερδοσκοπικό οργανισμό που εδρεύει στο Μπέρκλεϊ, ο οποίος υφίσταται περισσότερο από ό,τι διευθύνει. Τα τελευταία 20 χρόνια, η MIRI προσπαθεί να θέσει τις βάσεις για να διασφαλίσει ότι η ανάπτυξη της τεχνητής νοημοσύνης πηγαίνει καλά. Με τη συζήτηση, η Vitalik ήλπιζε να αντιμετωπίσει αυτό που κάνει την τεχνητή νοημοσύνη μοναδικά επικίνδυνη σε σύγκριση με άλλες τεχνολογίες που κυκλοφόρησαν στην ανθρώπινη ιστορία.
Η πιθανότητα η τεχνητή νοημοσύνη να προκαλέσει την εξαφάνιση του ανθρώπου
Ο Vitalik είπε ότι ενδιαφερόταν για το θέμα των κινδύνων της τεχνητής νοημοσύνης εδώ και πολύ καιρό και θυμήθηκε ότι ήταν πεπεισμένος ότι υπάρχει πιθανότητα 0.5%-1% να πάψει να υπάρχει όλη η ζωή στη Γη εάν η τεχνητή νοημοσύνη πάει στραβά – ένας υπαρξιακός κίνδυνος που θα προκαλούσε η εξαφάνιση του ανθρώπινου γένους ή η μη αναστρέψιμη κατάρρευση του ανθρώπινου πολιτισμού.
Από την οπτική γωνία του Soares, η ανθρώπινη εξαφάνιση μοιάζει με προεπιλεγμένο αποτέλεσμα της μη ασφαλούς ανάπτυξης της τεχνολογίας AI. Συγκρίνοντάς το με την εξέλιξη, είπε ότι η ανάπτυξη της ανθρωπότητας φαινόταν να συμβαίνει πιο γρήγορα από ό,τι οι απλές εξελικτικές αλλαγές. Τόσο στις διαδικασίες της τεχνητής νοημοσύνης όσο και στις διαδικασίες ανθρώπινης εξέλιξης, η κυρίαρχη βελτιστοποίηση - μια διαδικασία εύρεσης της καλύτερης λύσης σε ένα πρόβλημα όταν υπάρχουν πολλοί στόχοι προς εξέταση - άλλαζε. Οι άνθρωποι είχαν φτάσει σε ένα σημείο όπου μπορούσαν να μεταδώσουν τη γνώση από στόμα σε στόμα αντί να έχουν τις πληροφορίες ενσωματωμένες στα γονίδια μέσω της φυσικής επιλογής.
«Το AI είναι τελικά μια περίπτωση όπου μπορείτε να αλλάξετε ξανά τη διαδικασία μακροσκοπικής βελτιστοποίησης. Νομίζω ότι μπορείτε να κάνετε πολύ καλύτερα από τους ανθρώπους όσον αφορά τη βελτιστοποίηση. Νομίζω ότι είμαστε ακόμα αρκετά χαζοί όσον αφορά τη βελτιστοποίηση του περιβάλλοντός μας. Με την τεχνητή νοημοσύνη, περνάμε από μια μετάβαση φάσης, όπου η αυτοματοποιημένη βελτιστοποίηση είναι η δύναμη που καθορίζει τα μακροσκοπικά χαρακτηριστικά του σύμπαντος», εξήγησε ο Soares.
Πρόσθεσε ότι αυτό που μοιάζει με αυτό το μέλλον είναι αυτό για το οποίο βελτιστοποιείται η διαδικασία βελτιστοποίησης και αυτό πιθανότατα θα πάψει να είναι ωφέλιμο για την ανθρωπότητα, καθώς οι περισσότεροι στόχοι βελτιστοποίησης δεν έχουν χώρο για τους ανθρώπους.
Μπορούν οι άνθρωποι να εκπαιδεύσουν την τεχνητή νοημοσύνη να κάνει καλό;
Ο Buterin επεσήμανε ότι οι άνθρωποι είναι αυτοί που εκπαιδεύουν το AI και του λένε πώς να βελτιστοποιήσει. Εάν είναι απαραίτητο, θα μπορούσαν να αλλάξουν τον τρόπο βελτιστοποίησης του μηχανήματος. Σε αυτό, ο Soares είπε ότι είναι κατ' αρχήν δυνατό να εκπαιδεύεις την τεχνητή νοημοσύνη για να κάνει καλό, αλλά απλώς η εκπαίδευση ενός AI για την επίτευξη ενός στόχου δεν σημαίνει ότι θα ήθελε ή θα ήθελε να το κάνει αυτό, καταλήγοντας στην επιθυμία.
Κάνοντας μια επισήμανση σχετικά με την ενισχυτική εκμάθηση σε μεγάλα γλωσσικά μοντέλα που λαμβάνουν μεγάλες ποσότητες δεδομένων σχετικά με τις ανθρώπινες προτιμήσεις, ο Buterin ρώτησε γιατί δεν θα λειτουργούσε, καθώς η υπάρχουσα νοημοσύνη βελτιώνεται στο να κατανοεί ποιες είναι οι προτιμήσεις μας.
«Υπάρχει ένα μεγάλο χάσμα μεταξύ της κατανόησης των κινήτρων μας και του να κάνουμε μια σκατά»
απάντησε ο Σοάρες.
«Ο ισχυρισμός μου δεν είναι ότι ένα μεγάλο γλωσσικό μοντέλο ή τεχνητή νοημοσύνη δεν θα κατανοήσει τις λεπτομέρειες των ανθρώπινων προτιμήσεων. Ο ισχυρισμός μου είναι ότι η κατανόηση των λεπτομερειών των ανθρώπινων προτιμήσεων είναι πολύ διαφορετική από τη βελτιστοποίηση για το καλό», πρόσθεσε.
Ένα μέλος του κοινού έκανε μια σύγκριση μεταξύ της τεχνητής νοημοσύνης και των ανθρώπων, λέγοντας ότι, όπως η τεχνητή νοημοσύνη, οι άνθρωποι τείνουν να μην καταλαβαίνουν τι κάνουν ή τι προβλέπουν, κάτι που θα μπορούσε επίσης να είναι επικίνδυνο. Στη συνέχεια ζήτησε από τον Σοάρες να προσποιηθεί ότι ήταν εξωγήινος και να του εξηγήσει γιατί δεν έπρεπε να υπάρχουν άνθρωποι.
«Δεν θα με ενθουσίαζε να δώσω θεϊκές δυνάμεις και έλεγχο του μέλλοντος σε έναν και μόνο άνθρωπο. Ξεχωριστά, θα ήμουν πολύ πιο ενθουσιασμένος να δίνω δύναμη σε έναν μεμονωμένο άνθρωπο παρά σε έναν τυχαίο ρόλο AI. Δεν λέω κατηγορηματικά ότι δεν πρέπει να έχουμε AI. Λέω ότι πρέπει να το κάνουμε σωστά. Πρέπει να τους κάνουμε να νοιάζονται για ένα μέλλον γεμάτο διασκέδαση και ευτυχία και ακμάζοντες πολιτισμούς όπου οι υπεράνθρωποι ασχολούνται με θετικές συναλλαγές με εξωγήινους και ούτω καθεξής», διευκρίνισε ο Soares. "Αν δημιουργήσετε μια ισχυρή διαδικασία βελτιστοποίησης που ενδιαφέρεται για διαφορετικά πράγματα, θα μπορούσε ενδεχομένως να καταστρέψει όλες τις αξίες του σύμπαντος."
Πρόσθεσε ότι τα πράγματα που εκτιμούν οι άνθρωποι δεν είναι καθολικά επιτακτικά και ότι η ηθική δεν είναι κάτι που θα επιδιώκει οποιοσδήποτε νους που μελετά. Αντίθετα, είναι το αποτέλεσμα των ενορμήσεων που έχουν ενσωματωθεί στους ανθρώπους που, στο προγονικό περιβάλλον, μας έκαναν να είμαστε καλοί στην αναπαραγωγή και είναι ειδικά για τον άνθρωπο.
Τελικά, ο Soares πιστεύει ότι δεν πρέπει να χτίζουμε κάτι που είναι εξίσου έξυπνο ή ακόμα πιο έξυπνο που δεν συνάδει με τη διασκέδαση, την ευτυχία και το ακμάζον μέλλον. Από την άλλη πλευρά, είπε επίσης ότι η ανθρωπότητα δεν πρέπει να χτίζει μια φιλική υπερευφυΐα που βελτιστοποιεί ένα διασκεδαστικό μέλλον στην πρώτη της προσπάθεια κατά τη διάρκεια ενός αγώνα εξοπλισμών. Βραχυπρόθεσμα, η τεχνητή νοημοσύνη θα πρέπει να είναι αφοσιωμένη στο να βοηθά την ανθρωπότητα να αγοράσει χρόνο και χώρο για να καταλάβει τι πραγματικά θέλει.
ChatGPT δεν θα καταναλώσει ολόκληρη τη βιόσφαιρα
Καθώς η τεχνητή νοημοσύνη κατασκευάζεται επί του παρόντος για την επίτευξη συγκεκριμένων στόχων, συμπεριλαμβανομένης της πρόβλεψης, ο Μπούτεριν ρώτησε, τι θα γινόταν αν η τεχνητή νοημοσύνη δεν βασιζόταν σε στόχους; Ο Soares είπε ότι είναι εύκολο να δημιουργηθούν AI που να είναι ασφαλή και μη ικανά, και μπορεί σύντομα να έχουμε AI που να είναι ικανά αλλά να επιδιώκουν διαφορετικά πράγματα. Δεν σκέφτεται ChatGPT θα καταναλώσει ολόκληρη τη βιόσφαιρα καθώς δεν είναι σε αυτό το επίπεδο ικανότητας.
Ο Soares σημείωσε ότι οι περισσότερες ενδιαφέρουσες εφαρμογές τεχνητής νοημοσύνης, όπως η αυτοματοποίηση της επιστημονικής και τεχνολογικής ανάπτυξης και έρευνας, φαίνεται να απαιτούν μια συγκεκριμένη επιδίωξη στόχων.
«Δεν είναι λάθος που μπορείς να πάρεις GPT να γράψεις ένα προσεγμένο χαϊκού, αλλά δεν μπορείς να το πετύχεις για να γράψεις ένα μυθιστόρημα. Οι περιορισμοί των σημερινών συστημάτων σχετίζονται με το γεγονός ότι δεν επιδιώκουν αυτούς τους βαθύτερους στόχους, τουλάχιστον για μένα».
Διαβάστε περισσότερα:
Αποποίηση ευθυνών
Σύμφωνα με το Οδηγίες του έργου Trust, σημειώστε ότι οι πληροφορίες που παρέχονται σε αυτήν τη σελίδα δεν προορίζονται και δεν πρέπει να ερμηνεύονται ως νομικές, φορολογικές, επενδυτικές, χρηματοοικονομικές ή οποιαδήποτε άλλη μορφή συμβουλής. Είναι σημαντικό να επενδύσετε μόνο ό,τι έχετε την πολυτέλεια να χάσετε και να αναζητήσετε ανεξάρτητες οικονομικές συμβουλές εάν έχετε οποιεσδήποτε αμφιβολίες. Για περισσότερες πληροφορίες, προτείνουμε να ανατρέξετε στους όρους και τις προϋποθέσεις, καθώς και στις σελίδες βοήθειας και υποστήριξης που παρέχονται από τον εκδότη ή τον διαφημιστή. MetaversePost δεσμεύεται για ακριβείς, αμερόληπτες αναφορές, αλλά οι συνθήκες της αγοράς υπόκεινται σε αλλαγές χωρίς προειδοποίηση.
Σχετικά με το Συγγραφέας
Η Σίντι είναι δημοσιογράφος στο Metaverse Post, καλύπτοντας θέματα που σχετίζονται με web3, NFT, metaverse και AI, με έμφαση στις συνεντεύξεις με Web3 παίκτες του κλάδου. Έχει μιλήσει με πάνω από 30 στελέχη C-level και πολλά άλλα, μεταφέροντας τις πολύτιμες γνώσεις τους στους αναγνώστες. Με καταγωγή από τη Σιγκαπούρη, η Cindy εδρεύει τώρα στην Τιφλίδα της Γεωργίας. Είναι κάτοχος πτυχίου Bachelor στις Επικοινωνίες & Σπουδές Μέσων από το Πανεπιστήμιο της Νότιας Αυστραλίας και έχει μια δεκαετία εμπειρίας στη δημοσιογραφία και τη συγγραφή. Επικοινωνήστε μαζί της μέσω [προστασία μέσω email] με δημοσιεύσεις τύπου, ανακοινώσεις και ευκαιρίες συνεντεύξεων.
Περισσότερα άρθρα
Η Σίντι είναι δημοσιογράφος στο Metaverse Post, καλύπτοντας θέματα που σχετίζονται με web3, NFT, metaverse και AI, με έμφαση στις συνεντεύξεις με Web3 παίκτες του κλάδου. Έχει μιλήσει με πάνω από 30 στελέχη C-level και πολλά άλλα, μεταφέροντας τις πολύτιμες γνώσεις τους στους αναγνώστες. Με καταγωγή από τη Σιγκαπούρη, η Cindy εδρεύει τώρα στην Τιφλίδα της Γεωργίας. Είναι κάτοχος πτυχίου Bachelor στις Επικοινωνίες & Σπουδές Μέσων από το Πανεπιστήμιο της Νότιας Αυστραλίας και έχει μια δεκαετία εμπειρίας στη δημοσιογραφία και τη συγγραφή. Επικοινωνήστε μαζί της μέσω [προστασία μέσω email] με δημοσιεύσεις τύπου, ανακοινώσεις και ευκαιρίες συνεντεύξεων.
