Η 6μηνη παύση στην εκπαίδευση τεχνητής νοημοσύνης είναι καλή ιδέα, αλλά μπορεί να μην είναι αρκετή
Εν συντομία
Η ιστορία της αναφοράς και η δημοσίευση του άρθρου του Yudkovsky έχουν πολώσει την κοινωνία.
Το δίλημμα του κρατούμενου και η θεωρία παιγνίων υποδηλώνουν ότι χρειάζεται μια κρίσιμη μάζα υγιών ανθρώπων σε διαφορετικά μέρη για να επιλυθούν τέτοια προβλήματα.
Ωστόσο, υπάρχουν μερικά αλλά σε αυτή την ιδέα, όπως η έλλειψη συνείδησης, θέλησης και πρακτόρευσης στην ψηφιακή εξέλιξη.
Η ιστορία του αίτηση για να σταματήσει η ανάπτυξη συστημάτων τεχνητής νοημοσύνης πιο προηγμένα από GPT-4 έχει πολώσει αισθητά την κοινωνία. Η απελευθέρωση του Γιουντκόφσκι άρθρο ζητώντας τον τερματισμό της περαιτέρω ανάπτυξης του GPT τα μοντέλα έβαλαν λάδι στη φωτιά, ειδικά τα αποσπάσματα του για τους βομβαρδισμούς σε κέντρα δεδομένων.
Από ό,τι μπορεί να παρατηρηθεί στο διαδίκτυο, φαίνεται ότι υπάρχουν πολύ λιγότεροι υποστηρικτές της αναφοράς από τους αντιπάλους, οι οποίοι έχουν τρία κύρια επιχειρήματα:
| 1 | – Η πρόοδος δεν μπορεί να σταματήσει. – Η αναφορά επινοήθηκε από OpenAI συναγωνιστές. – Η Κίνα δεν θα περιμένει. |
| 2 | – Δεν πρέπει να φοβάστε την τεχνητή νοημοσύνη αλλά τους ανθρώπους. - GPT δεν έχει συνείδηση, θέληση, φιλοδοξίες ή πρακτορεία, επομένως δεν υπάρχει τίποτα να φοβηθεί. - GPT-4 απέχει πάρα πολύ από το να υποδουλώσει τον κόσμο γιατί δεν καταλαβαίνει τίποτα, κάνει ανόητα λάθη και γενικά είναι αρκετά ανόητος. - GPT-4 δεν θα μπορέσει να διοικήσει τον κόσμο γιατί δεν έχει χέρια/πόδια. |
| 3 | – Η τρίτη ομάδα δεν καταλαβαίνει πώς GPT-4 λειτουργεί στην πρώτη θέση. |
Δεν θα επικεντρωθούμε στο τρίτο μάτσο γιατί η στάση τους προέρχεται από άγνοια. Αυτό δεν σημαίνει ότι όλοι οι αντίπαλοι της τεχνητής νοημοσύνης γνωρίζουν τα πάντα για την τεχνητή νοημοσύνη. μπορείτε να βρείτε πολλά άτομα κατά της τεχνητής νοημοσύνης που δεν έχουν κατανόηση της τεχνολογίας και του τι συνεπάγεται, αν και ο ίδιος ο Yudkovsky είναι πολύ βαθύτερα στο θέμα της τεχνητής νοημοσύνης, επομένως δεν μπορεί να κατηγορηθεί για άγνοια.
Ας ρίξουμε μια ματιά στην πρώτη ομάδα ανθρώπων – αυτούς που πιστεύουν ότι η πρόοδος δεν μπορεί να σταματήσει. Προσφέρουν διαφορετικά, αλλά παρόμοια επιχειρήματα και γενικά, αυτοί οι άνθρωποι δεν αρνούνται τις δυνατότητες της τεχνητής νοημοσύνης και τις προοπτικές που προσφέρει η υιοθέτησή της και πιστεύουν ότι η ανάπτυξη της τεχνητής νοημοσύνης θα συνεχιστεί ανεξάρτητα από το τι.
Η πρώτη θέση για την ασταμάτητη πρόοδο είναι ένα σύνθημα που δεν χρειάζεται να είναι αληθινό. Οι άνθρωποι φαίνεται να έχουν σταματήσει κάποια επιστημονικά πειράματα και πολλά ερευνητικά έργα που κάποτε έγιναν αποδεκτά δεν θεωρούνται πλέον ηθικά και παρόμοια δεν θα επιτρέπονταν ποτέ σήμερα. Ωστόσο, πόση ακόμη πρόοδος στο παρελθόν ανακόπηκε από την Ιερά Εξέταση και άλλες θρησκευτικές διώξεις, απαγορεύσεις βιβλίων και δολοφονίες επιστημόνων στην Κίνα (και σε άλλες χώρες); Αυτό είναι κάτι που δεν θα μπορέσουμε ποτέ να καταλάβουμε πλήρως λόγω της προκατάληψης της επιβίωσης.
Άλλες διατριβές περιλαμβάνουν την προσέγγιση που μπορεί να συνοψιστεί ως «αν όχι εμείς, θα είναι αυτοί». Αν και αυτή η γραμμή σκέψης μπορεί να είναι πιο κατανοητή, δεν φαίνεται να είναι ούτε η σωστή λύση. Μοιάζει πολύ με το δίλημμα του κρατούμενου στη θεωρία παιγνίων.
Η δεύτερη ομάδα επιχειρημάτων είναι η πιο ενδιαφέρουσα. Αν και προσωπικά συμφωνώ με αυτό σε κάποιο βαθμό, υπάρχουν μερικά αλλά που πρέπει να αντιμετωπιστούν. Ναι, η τεχνητή νοημοσύνη δεν έχει συνείδηση, θέληση, πρακτορείο κ.λπ. Ούτε το COVID-19, και ωστόσο προκάλεσε τον όλεθρο παγκοσμίως. Κάτι δεν χρειάζεται να έχει αίσθηση πρακτορείας και συνείδησης για να γίνει επικίνδυνο. Ένα σενάριο ότι η ζωή στη γη εξαφανίζεται εξαιτίας ενός ιού δεν είναι αδιανόητο. Μόλις τελειώσει η δουλειά του, μπορεί να βάλει τις καρέκλες στα τραπέζια, να σβήσει τα φώτα και να φύγει για πάντα.
Συνεχίζοντας τη βιολογική αναλογία, υπάρχει ένα υπέροχο άρθρο, «The Surprising Creativity of Digital Evolution: A Collection of Anecdotes from the Evolutionary Computation and Artificial Life Research Communities», το οποίο παρέχει πολλά παραδείγματα για το πότε οι διαδικασίες πηγαίνουν σε απροσδόκητη κατεύθυνση. Ακόμη και χωρίς μια εξελικτική διαδικασία, όλα μπορούν να πάνε σε λάθος γενίκευση «Εσφαλμένη γενίκευση στόχων: Γιατί οι σωστές προδιαγραφές δεν αρκούν για σωστούς στόχους». Το να δώσουμε ελεύθερα τα χέρια σε μια διαδικασία βελτιστοποίησης μπορεί να πάει στραβά συζητείται στο "Κίνδυνοι από την εκμάθηση βελτιστοποίησης σε προηγμένα συστήματα μηχανικής μάθησης. "
Ταυτόχρονα, γενικά δεν εξετάζουμε τους κινδύνους του κακόβουλη χρήση AI και οποιεσδήποτε κακή χρήση, το οποίο τροφοδοτεί μόνο το επιχείρημα ότι πρέπει να φοβόμαστε τους ανθρώπους και όχι την ίδια την τεχνητή νοημοσύνη. Ωστόσο, η αλήθεια του θέματος είναι ότι η τεχνητή νοημοσύνη μπορεί να είναι κακή ακόμη και χωρίς κακόβουλους ανθρώπους.
Συμφωνώ επίσης για το γεγονός ότι το μοντέλο κάνει ανόητα λάθη, αλλά το ίδιο κάνουν και οι άνθρωποι, και όμως ξέρουμε ότι μπορούν να κάνουν κακό. Ενώ τα μοντέλα κάνουν πολλά λάθη, μπορούν επίσης να λύσουν πολλά φοβερά, όμορφα και πολύπλοκα προβλήματα που ο μέσος άνθρωπος δεν μπορεί να λύσει. Από το περιβόητο έργο «Sparks of Artificial General Intelligence: Early Experiments with GPT-4», με εντυπωσίασε η τεχνητή νοημοσύνη που μπόρεσε να λύσει, αν και όχι πάντα σωστά, προβλήματα Fermi, μάλλον πολύπλοκα μαθηματικά προβλήματα. Η θεωρία του μυαλού του και «κάπως η ικανότητα κατανόησης» των πράξεων των άλλων είναι επίσης πολύ εντυπωσιακές. Όλα αυτά δείχνουν την ευφυΐα του AI. υπάρχον, αλλά όχι αρκετά σαν το δικό μας.
Η εξάλειψη τουλάχιστον ορισμένων από τα λάθη που κάνουν τα μοντέλα τεχνητής νοημοσύνης είναι γενικά εφικτή, επομένως η ευφυΐα τους μπορεί μόνο να αυξηθεί. Το μόνο που χρειάζεται να κάνετε είναι να προσθέσετε μια ενότητα για ακριβείς υπολογισμούς, μια βάση δεδομένων και επικύρωση με άλλο μοντέλο.
Το πιο σημαντικό πράγμα σε όλη αυτή την ιστορία είναι η ταχύτητα ανάπτυξης του AI. GPT μοντέλα έχουν μεγαλώσει τρομερά με ιλιγγιώδεις ρυθμούς. Τώρα, υπάρχουν ChatGPT Plugins διαθέσιμο, μπορείτε να χρησιμοποιήσετε GPT μοντέλα για τη σύνταξη κώδικα, τα API είναι διαθέσιμα στο ευρύ κοινό και μπορείτε να χρησιμοποιήσετε εξωτερικά εργαλεία χωρίς προηγούμενη εκπαίδευση.
GPT-4, φυσικά, δεν θα κατακτήσει τον κόσμο, αλλά μπορεί να ταρακουνήσει πολύ την οικονομία. GPT-5, και η μελλοντική επανάληψη του μοντέλου, μπορεί να μην είναι πολύ μπροστά και πιθανότατα θα έρθει με πολύ ισχυρότερες ικανότητες. Και ας το παραδεχτούμε, δεν μπορούμε να ελπίζουμε ότι θα κατανοήσουμε τα μοντέλα που δεν υπάρχουν ακόμη. δεν έχουμε φτάσει καν στο να κατανοήσουμε τα μοντέλα που ήδη υπάρχουν. Υπό αυτή την έννοια, ένα διάλειμμα έξι μηνών μπορεί να είναι μια καλή ιδέα, αλλά μπορεί απλώς να μην είναι αρκετό.
Και δεδομένου ότι το Αγώνας AI έχει ξεκινήσει, δεν υπάρχει χρόνος για μάθηση.
Γενικά εν όψει όλων αυτών υπέγραψα και εγώ την αναφορά. Αν και δεν πιστεύω ότι θα βοηθήσει με κανέναν τρόπο.
Διαβάστε περισσότερα σχετικά θέματα:
Αποποίηση ευθυνών
Σύμφωνα με το Οδηγίες του έργου Trust, σημειώστε ότι οι πληροφορίες που παρέχονται σε αυτήν τη σελίδα δεν προορίζονται και δεν πρέπει να ερμηνεύονται ως νομικές, φορολογικές, επενδυτικές, χρηματοοικονομικές ή οποιαδήποτε άλλη μορφή συμβουλής. Είναι σημαντικό να επενδύσετε μόνο ό,τι έχετε την πολυτέλεια να χάσετε και να αναζητήσετε ανεξάρτητες οικονομικές συμβουλές εάν έχετε οποιεσδήποτε αμφιβολίες. Για περισσότερες πληροφορίες, προτείνουμε να ανατρέξετε στους όρους και τις προϋποθέσεις, καθώς και στις σελίδες βοήθειας και υποστήριξης που παρέχονται από τον εκδότη ή τον διαφημιστή. MetaversePost δεσμεύεται για ακριβείς, αμερόληπτες αναφορές, αλλά οι συνθήκες της αγοράς υπόκεινται σε αλλαγές χωρίς προειδοποίηση.
Σχετικά με το Συγγραφέας
Ο Damir είναι ο αρχηγός της ομάδας, ο διευθυντής προϊόντων και ο συντάκτης στο Metaverse Post, καλύπτοντας θέματα όπως AI/ML, AGI, LLMs, Metaverse και Web3-σχετικά πεδία. Τα άρθρα του προσελκύουν ένα τεράστιο κοινό άνω του ενός εκατομμυρίου χρηστών κάθε μήνα. Φαίνεται να είναι ειδικός με 10ετή εμπειρία στο SEO και το ψηφιακό μάρκετινγκ. Ο Damir έχει αναφερθεί στο Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto και άλλες εκδόσεις. Ταξιδεύει μεταξύ των ΗΑΕ, της Τουρκίας, της Ρωσίας και της ΚΑΚ ως ψηφιακός νομάδας. Ο Damir απέκτησε πτυχίο στη φυσική, το οποίο πιστεύει ότι του έχει δώσει τις δεξιότητες κριτικής σκέψης που απαιτούνται για να είναι επιτυχής στο συνεχώς μεταβαλλόμενο τοπίο του Διαδικτύου.
Περισσότερα άρθρα
Ο Damir είναι ο αρχηγός της ομάδας, ο διευθυντής προϊόντων και ο συντάκτης στο Metaverse Post, καλύπτοντας θέματα όπως AI/ML, AGI, LLMs, Metaverse και Web3-σχετικά πεδία. Τα άρθρα του προσελκύουν ένα τεράστιο κοινό άνω του ενός εκατομμυρίου χρηστών κάθε μήνα. Φαίνεται να είναι ειδικός με 10ετή εμπειρία στο SEO και το ψηφιακό μάρκετινγκ. Ο Damir έχει αναφερθεί στο Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto και άλλες εκδόσεις. Ταξιδεύει μεταξύ των ΗΑΕ, της Τουρκίας, της Ρωσίας και της ΚΑΚ ως ψηφιακός νομάδας. Ο Damir απέκτησε πτυχίο στη φυσική, το οποίο πιστεύει ότι του έχει δώσει τις δεξιότητες κριτικής σκέψης που απαιτούνται για να είναι επιτυχής στο συνεχώς μεταβαλλόμενο τοπίο του Διαδικτύου.
