Οι ειδικοί της τεχνητής νοημοσύνης και τα δημόσια πρόσωπα εγείρουν συναγερμούς σχετικά με τον κίνδυνο εξαφάνισης της τεχνητής νοημοσύνης
Εν συντομία
Εξέχοντες ειδικοί τεχνητής νοημοσύνης και προσωπικότητες με επιρροή εκφράζουν τα κοινά τους ανησυχίες σχετικά με τους κινδύνους που συνδέονται με την τεχνητή νοημοσύνη.
Παρά τη σημαντική πρόοδο στην τεχνητή νοημοσύνη, πολλές προκλήσεις που σχετίζονται με τον κίνδυνο της τεχνητής νοημοσύνης παραμένουν ανεπίλυτες.
Εξέχοντες ειδικοί της τεχνητής νοημοσύνης και δημόσια πρόσωπα εξέδωσαν μια δήλωση προειδοποιώντας ότι η τεχνητή νοημοσύνη θα μπορούσε να αποτελέσει απειλή για την επιβίωση της ανθρωπότητας, συγκρίσιμη ή ακόμη μεγαλύτερη από τους κινδύνους πανδημιών και πυρηνικού πολέμου. Οι 350 υπογράφοντες υποστηρίζουν ότι η τεχνητή νοημοσύνη θα μπορούσε να έχει απρόβλεπτες και καταστροφικές συνέπειες, όπως η απελευθέρωση αυτόνομων όπλων, η διατάραξη των κοινωνικών και οικονομικών συστημάτων ή η δημιουργία υπερευφυών πρακτόρων που θα μπορούσαν να ξεπεράσουν και να εξουδετερώσουν τους ανθρώπους.
Ζητούν από τους υπεύθυνους χάραξης πολιτικής να λάβουν σοβαρά υπόψη αυτούς τους κινδύνους και να υιοθετήσουν μέτρα για να διασφαλίσουν την ασφαλή και ωφέλιμη ανάπτυξη της τεχνητής νοημοσύνης. ο δήλωση υπογράφεται από ορισμένες από τις κορυφαίες προσωπικότητες στην έρευνα και ανάπτυξη της τεχνητής νοημοσύνης, όπως π.χ OpenAI Ο Διευθύνων Σύμβουλος Sam Altman, ο συνιδρυτής του Skype Jaan Tallinn, ο CEO της DeepMind, Demis Hassabis, και ο επιστήμονας υπολογιστών AI Geoffrey Hinton, καθώς και σημαντικές δημόσιες προσωπικότητες, όπως ο μουσικός Grimes και ο podcaster Sam Harris.
Μεταξύ των υπογραφόντων ήταν οι νικητές του Βραβείου Turing 2018 για τη συμβολή τους στη βαθιά μάθηση: ο Geoffrey Hinton και ο Yoshua Bengio. Μαζί τους συμμετείχαν καθηγητές από αναγνωρισμένα πανεπιστήμια όπως το Χάρβαρντ και το Πανεπιστήμιο Tsinghua στην Κίνα, καθώς και ο Max Tegmark του MIT.
«Ο μετριασμός του κινδύνου εξαφάνισης από την τεχνητή νοημοσύνη θα πρέπει να αποτελεί παγκόσμια προτεραιότητα μαζί με άλλους κινδύνους κοινωνικής κλίμακας όπως οι πανδημίες και ο πυρηνικός πόλεμος».
αναφέρει η επιστολή που δημοσίευσε η CAIS.
Το Κέντρο για την Ασφάλεια AI (CAIS), ένας μη κερδοσκοπικός οργανισμός με έδρα το Σαν Φρανσίσκο, στοχεύει να αντιμετωπίσει τις ανησυχίες για την ασφάλεια που σχετίζονται με την τεχνητή νοημοσύνη. Ενώ αναγνωρίζει τα πιθανά οφέλη της τεχνητής νοημοσύνης, το CAIS τονίζει την ανάγκη ανάπτυξης και χρήσης του με ασφάλεια. Παρά τις σημαντικές προόδους στην τεχνητή νοημοσύνη, πολλές θεμελιώδεις προκλήσεις στην ασφάλεια της τεχνητής νοημοσύνης παραμένουν ανεπίλυτες, πιστεύει η εταιρεία. Σύμφωνα με τον ιστότοπό του, η αποστολή του CAIS είναι να μετριάσει τους κινδύνους διενεργώντας έρευνα για την ασφάλεια, ενισχύοντας μια κοινότητα ερευνητών ασφάλειας τεχνητής νοημοσύνης και υποστηρίζοντας πρότυπα ασφαλείας.
«Υπάρχουν πολλοί «σημαντικοί και επείγοντες κίνδυνοι από την τεχνητή νοημοσύνη», όχι μόνο ο κίνδυνος εξαφάνισης. για παράδειγμα, συστημική μεροληψία, παραπληροφόρηση, κακόβουλη χρήση, κυβερνοεπιθέσεις και όπλα. Όλοι αυτοί είναι σημαντικοί κίνδυνοι που πρέπει να αντιμετωπιστούν. Οι κοινωνίες μπορούν να διαχειριστούν πολλαπλούς κινδύνους ταυτόχρονα. δεν είναι «είτε/ή» αλλά «ναι/και». Από την άποψη της διαχείρισης κινδύνου, όπως θα ήταν απερίσκεπτο να δοθεί αποκλειστικά προτεραιότητα στις παρούσες βλάβες, θα ήταν επίσης απερίσκεπτο να τις αγνοήσουμε επίσης».
Dan Hendrycks, ο διευθυντής της CAIS Έγραψε στο Twitter.
Τον Μάρτιο, περισσότεροι από 1,100 ειδικοί στην τεχνολογία υπογραφεί μια ανοιχτή επιστολή που απαιτούσε εξάμηνη διακοπή της εκπαίδευσης συστημάτων τεχνητής νοημοσύνης GPT-4. Ευρωπαίοι νομοθέτες επίσης πρόσφατα εγκεκριμένη αυστηρότερο νομοσχέδιο, γνωστό ως νόμος AI, που ρυθμίζει εργαλεία τεχνητής νοημοσύνης όπως ChatGPT. Ο νόμος περιλαμβάνει απαιτήσεις για ελέγχους ασφαλείας, διακυβέρνηση δεδομένων και μετριασμούς κινδύνου για βασικά μοντέλα τεχνητής νοημοσύνης και απαγορεύει πρακτικές όπως τεχνικές χειραγώγησης και ορισμένες χρήσεις βιομετρικών στοιχείων.
Διαβάστε περισσότερα:
- OpenAI Αποκαλύπτει την πιο πρόσφατη προσέγγισή του για τη διασφάλιση της ασφάλειας της τεχνητής νοημοσύνης
- Σκοπεύει η Google να ανακοινώσει ένα πρόγραμμα δημιουργίας κειμένου σε avatar για παίκτες;
- Το CodeWhisperer της Amazon δίνει στους προγραμματιστές το πλεονέκτημα που χρειάζονται στο AI Arena
- Ο Vitalik Buterin και ο διευθυντής του MIRI Nate Soares εμβαθύνουν στους κινδύνους της τεχνητής νοημοσύνης
Αποποίηση ευθυνών
Σύμφωνα με το Οδηγίες του έργου Trust, σημειώστε ότι οι πληροφορίες που παρέχονται σε αυτήν τη σελίδα δεν προορίζονται και δεν πρέπει να ερμηνεύονται ως νομικές, φορολογικές, επενδυτικές, χρηματοοικονομικές ή οποιαδήποτε άλλη μορφή συμβουλής. Είναι σημαντικό να επενδύσετε μόνο ό,τι έχετε την πολυτέλεια να χάσετε και να αναζητήσετε ανεξάρτητες οικονομικές συμβουλές εάν έχετε οποιεσδήποτε αμφιβολίες. Για περισσότερες πληροφορίες, προτείνουμε να ανατρέξετε στους όρους και τις προϋποθέσεις, καθώς και στις σελίδες βοήθειας και υποστήριξης που παρέχονται από τον εκδότη ή τον διαφημιστή. MetaversePost δεσμεύεται για ακριβείς, αμερόληπτες αναφορές, αλλά οι συνθήκες της αγοράς υπόκεινται σε αλλαγές χωρίς προειδοποίηση.
Σχετικά με το Συγγραφέας
Η Agne είναι μια δημοσιογράφος που καλύπτει τις τελευταίες τάσεις και εξελίξεις στο metaverse, AI και Web3 βιομηχανίες για την Metaverse Post. Το πάθος της για την αφήγηση την οδήγησε να πραγματοποιήσει πολυάριθμες συνεντεύξεις με ειδικούς σε αυτούς τους τομείς, επιδιώκοντας πάντα να αποκαλύψει συναρπαστικές και συναρπαστικές ιστορίες. Η Agne είναι κάτοχος πτυχίου στη λογοτεχνία και έχει εκτεταμένο υπόβαθρο γραφής για ένα ευρύ φάσμα θεμάτων, όπως ταξίδια, τέχνη και πολιτισμός. Έχει επίσης εργαστεί εθελοντικά ως συντάκτρια για την οργάνωση για τα δικαιώματα των ζώων, όπου βοήθησε στην ευαισθητοποίηση σχετικά με θέματα καλής διαβίωσης των ζώων. Επικοινωνήστε μαζί της [προστασία μέσω email].
Περισσότερα άρθρα
Η Agne είναι μια δημοσιογράφος που καλύπτει τις τελευταίες τάσεις και εξελίξεις στο metaverse, AI και Web3 βιομηχανίες για την Metaverse Post. Το πάθος της για την αφήγηση την οδήγησε να πραγματοποιήσει πολυάριθμες συνεντεύξεις με ειδικούς σε αυτούς τους τομείς, επιδιώκοντας πάντα να αποκαλύψει συναρπαστικές και συναρπαστικές ιστορίες. Η Agne είναι κάτοχος πτυχίου στη λογοτεχνία και έχει εκτεταμένο υπόβαθρο γραφής για ένα ευρύ φάσμα θεμάτων, όπως ταξίδια, τέχνη και πολιτισμός. Έχει επίσης εργαστεί εθελοντικά ως συντάκτρια για την οργάνωση για τα δικαιώματα των ζώων, όπου βοήθησε στην ευαισθητοποίηση σχετικά με θέματα καλής διαβίωσης των ζώων. Επικοινωνήστε μαζί της [προστασία μέσω email].
