Οι ειδικοί της τεχνολογίας υπογράφουν ανοιχτή επιστολή που ζητούν προσωρινή παύση στην εκπαίδευση συστημάτων AI πιο προηγμένα από GPT-4
Εν συντομία
Περισσότεροι από 1100 υπογράφοντες έχουν υπογράψει την ανοιχτή επιστολή που ζητά να σταματήσουν τα γιγάντια πειράματα τεχνητής νοημοσύνης.
Μεταξύ άλλων, οι υπογράφοντες είναι ο Elon Musk, ο Steve Wozniak και ο Emad Mostaque.
Η ανοιχτή επιστολή εξέφρασε ανησυχίες σχετικά με προκαταλήψεις πληροφοριών από την τεχνητή νοημοσύνη, αυτοματοποίηση εργασιών και τον κίνδυνο της τεχνητής νοημοσύνης στον ανθρώπινο πολιτισμό.
Περισσότεροι από 1,100 υπογράφοντες, συμπεριλαμβανομένων κορυφαίων ειδικών στην τεχνολογία, υπέγραψαν ανοιχτή επιστολή ζητώντας μια εξάμηνη παύση στην εκπαίδευση συστημάτων τεχνητής νοημοσύνης πιο προηγμένα από GPT-4.
Η επιστολή γράφτηκε από το Future of Life Institute, έναν μη κερδοσκοπικό οργανισμό που εργάζεται για τη μείωση των παγκόσμιων καταστροφικών και υπαρξιακών κινδύνων που αντιμετωπίζει η ανθρωπότητα, ιδιαίτερα του υπαρξιακού κινδύνου από την προηγμένη τεχνητή νοημοσύνη.
Παραθέτοντας τις ευρέως εγκεκριμένες Αρχές Τεχνητής Νοημοσύνης Asilomar, οι οποίες δηλώνουν ότι «η προηγμένη τεχνητή νοημοσύνη θα μπορούσε να αντιπροσωπεύει μια βαθιά αλλαγή στην ιστορία της ζωής στη Γη και θα πρέπει να σχεδιαστεί και να διαχειρίζεται με ανάλογη προσοχή και πόρους», η επιστολή αναφέρει ότι το επίπεδο προγραμματισμού και διαχείριση δεν γίνεται.
Η επιστολή συνεχίζει λέγοντας ότι τα εργαστήρια τεχνητής νοημοσύνης βρίσκονται σε έναν αγώνα «εκτός ελέγχου» για την ανάπτυξη ολοένα και πιο ισχυρής τεχνητής νοημοσύνης που κανείς δεν μπορεί να καταλάβει, να προβλέψει ή να ελέγξει αξιόπιστα. Όπως αρέσει στα σύγχρονα συστήματα AI GPT-4 κουτί ανταγωνίζονται τους ανθρώπους σχετικά με γενικά καθήκοντα, η επιστολή εγείρει ανησυχίες σχετικά με τις προκαταλήψεις πληροφοριών από την τεχνητή νοημοσύνη, την αυτοματοποίηση της εργασίας και τον κίνδυνο απώλειας του ελέγχου στον ανθρώπινο πολιτισμό.
«Καλούμε όλα τα εργαστήρια τεχνητής νοημοσύνης να σταματήσουν αμέσως για τουλάχιστον 6 μήνες την εκπαίδευση συστημάτων τεχνητής νοημοσύνης πιο ισχυρά από GPT-4. Αυτή η παύση θα πρέπει να είναι δημόσια και επαληθεύσιμη και να περιλαμβάνει όλους τους βασικούς παράγοντες. Εάν μια τέτοια παύση δεν μπορεί να εφαρμοστεί γρήγορα, οι κυβερνήσεις θα πρέπει να παρέμβουν και να θεσπίσουν μορατόριουμ».
γράφει το γράμμα.
Η επιστολή καλεί τα εργαστήρια τεχνητής νοημοσύνης και τους ειδικούς τεχνολογίας να χρησιμοποιήσουν την περίοδο παύσης για να αναπτύξουν και να εφαρμόσουν πρωτόκολλα ασφαλείας για προηγμένο σχεδιασμό και ανάπτυξη τεχνητής νοημοσύνης που ελέγχονται αυστηρά και επιβλέπονται από ανεξάρτητους εξωτερικούς ειδικούς.
Ωστόσο, ο Αμερικανός δημοσιογράφος Τζεφ Τζάρβις επέκρινε την επιστολή, ρητό ότι είναι ένα «πρώτο δείγμα ηθικού πανικού».
Μερικά από τα κορυφαία μυαλά στην τεχνολογία και τη μηχανική μάθηση που έχουν υπογράψει την επιστολή μαζί με ερευνητές της DeepMind και αρκετούς καθηγητές πανεπιστημίου από όλο τον κόσμο περιλαμβάνουν:
- Yoshua Bengio, Πανεπιστήμιο του Μόντρεαλ, βραβευμένος με Turing για την ανάπτυξη βαθιάς μάθησης, επικεφαλής του Ινστιτούτου του Μόντρεαλ για αλγόριθμους μάθησης
- Stuart Russell, Berkeley, Καθηγητής Επιστήμης Υπολογιστών, Διευθυντής του Κέντρου Ευφυών Συστημάτων, και συν-συγγραφέας του τυπικού εγχειριδίου «Τεχνητή Νοημοσύνη: μια σύγχρονη προσέγγιση»
- Elon Musk, Διευθύνων Σύμβουλος της SpaceX, της Tesla και του Twitter
- Emad Mostaque, Διευθύνων Σύμβουλος, Stability AI
- Jaan Tallinn, συνιδρυτής του Skype, Κέντρο για τη Μελέτη του Υπαρξιακού Κινδύνου, Ινστιτούτο Future of Life
- Gary Marcus, Πανεπιστήμιο της Νέας Υόρκης, ερευνητής AI, Ομότιμος Καθηγητής
- Marc Rotenberg, Center for AI and Digital Policy (CAIDP), Πρόεδρος
Σε πρόσφατη επιστολή, ο Rotenberg έγραψε ότι η CAIDP θα υποβάλει καταγγελία στην Ομοσπονδιακή Επιτροπή Εμπορίου, ζητώντας τη διερεύνηση του Open AI και ChatGPT, καθώς και απαγόρευση περαιτέρω εμπορικών κυκλοφοριών του προϊόντος έως ότου θεσπιστούν διασφαλίσεις.
OpenAI Ο CEO Sam Altman έχει παράδεκτος ότι «χρειαζόμαστε επίσης αρκετό χρόνο για τα ιδρύματά μας να καταλάβουν τι να κάνουν» και ότι η κοινωνία δεν απέχει πολύ από τα «δυνητικά τρομακτικά» εργαλεία παραγωγής τεχνητής νοημοσύνης.
«Ζητάμε από την FTC να «πατήσει το κουμπί παύσης» ώστε να υπάρχει η ευκαιρία για τους θεσμούς μας, τους νόμους μας και την κοινωνία μας να καλύψουν τη διαφορά. Πρέπει να διεκδικήσουμε τις τεχνολογίες που δημιουργούμε πριν χάσουμε τον έλεγχο», αναφέρει η επιστολή της CAIDP.
Αλλού, νομοθέτες της ΕΕ στοχεύουν να υπογράψουν μια συμφωνία με χώρες της ΕΕ μέχρι το τέλος του έτους για την εφαρμογή κανόνων τεχνητής νοημοσύνης, αν και μπορεί να χτυπήσει εμπόδιο καθώς εντείνονται οι συζητήσεις για το πώς θα πρέπει να διοικείται η τεχνητή νοημοσύνη.
Διαβάστε περισσότερα:
Αποποίηση ευθυνών
Σύμφωνα με το Οδηγίες του έργου Trust, σημειώστε ότι οι πληροφορίες που παρέχονται σε αυτήν τη σελίδα δεν προορίζονται και δεν πρέπει να ερμηνεύονται ως νομικές, φορολογικές, επενδυτικές, χρηματοοικονομικές ή οποιαδήποτε άλλη μορφή συμβουλής. Είναι σημαντικό να επενδύσετε μόνο ό,τι έχετε την πολυτέλεια να χάσετε και να αναζητήσετε ανεξάρτητες οικονομικές συμβουλές εάν έχετε οποιεσδήποτε αμφιβολίες. Για περισσότερες πληροφορίες, προτείνουμε να ανατρέξετε στους όρους και τις προϋποθέσεις, καθώς και στις σελίδες βοήθειας και υποστήριξης που παρέχονται από τον εκδότη ή τον διαφημιστή. MetaversePost δεσμεύεται για ακριβείς, αμερόληπτες αναφορές, αλλά οι συνθήκες της αγοράς υπόκεινται σε αλλαγές χωρίς προειδοποίηση.
Σχετικά με το Συγγραφέας
Η Σίντι είναι δημοσιογράφος στο Metaverse Post, καλύπτοντας θέματα που σχετίζονται με web3, NFT, metaverse και AI, με έμφαση στις συνεντεύξεις με Web3 παίκτες του κλάδου. Έχει μιλήσει με πάνω από 30 στελέχη C-level και πολλά άλλα, μεταφέροντας τις πολύτιμες γνώσεις τους στους αναγνώστες. Με καταγωγή από τη Σιγκαπούρη, η Cindy εδρεύει τώρα στην Τιφλίδα της Γεωργίας. Είναι κάτοχος πτυχίου Bachelor στις Επικοινωνίες & Σπουδές Μέσων από το Πανεπιστήμιο της Νότιας Αυστραλίας και έχει μια δεκαετία εμπειρίας στη δημοσιογραφία και τη συγγραφή. Επικοινωνήστε μαζί της μέσω [προστασία μέσω email] με δημοσιεύσεις τύπου, ανακοινώσεις και ευκαιρίες συνεντεύξεων.
Περισσότερα άρθρα
Η Σίντι είναι δημοσιογράφος στο Metaverse Post, καλύπτοντας θέματα που σχετίζονται με web3, NFT, metaverse και AI, με έμφαση στις συνεντεύξεις με Web3 παίκτες του κλάδου. Έχει μιλήσει με πάνω από 30 στελέχη C-level και πολλά άλλα, μεταφέροντας τις πολύτιμες γνώσεις τους στους αναγνώστες. Με καταγωγή από τη Σιγκαπούρη, η Cindy εδρεύει τώρα στην Τιφλίδα της Γεωργίας. Είναι κάτοχος πτυχίου Bachelor στις Επικοινωνίες & Σπουδές Μέσων από το Πανεπιστήμιο της Νότιας Αυστραλίας και έχει μια δεκαετία εμπειρίας στη δημοσιογραφία και τη συγγραφή. Επικοινωνήστε μαζί της μέσω [προστασία μέσω email] με δημοσιεύσεις τύπου, ανακοινώσεις και ευκαιρίες συνεντεύξεων.
