Οι ηγέτες της AI προειδοποιούν για αυξανόμενους κινδύνους και ηθικές ανησυχίες σε γρήγορες εξελίξεις
Σε πρόσφατη δήλωση πολιτικής, εξέχουσες προσωπικότητες στον τομέα της τεχνητής νοημοσύνης, συμπεριλαμβανομένων των Bengio, Hinton, Russell, Harari και Kahneman, κρούουν τον κώδωνα του κινδύνου για την ταχεία πρόοδο και τους αυξανόμενους κοινωνικούς κινδύνους που συνδέονται με την τεχνητή νοημοσύνη.
Το AI αναπτύσσεται γρήγορα. GPT-2 Δεν μπορούσα να μετρήσω από το 0 έως το 100 πριν από τέσσερα χρόνια, αλλά τα σύγχρονα μοντέλα μπορούν να γράφουν κώδικα, να κάνουν εκπληκτικές εικόνες και να προσφέρουν πνευματική καθοδήγηση. Και επειδή βρισκόμαστε σε έναν αγώνα, η πρόοδος μπορεί να επιταχύνει ακόμη περισσότερο. Επιπλέον, η τεχνητή νοημοσύνη προχωρά πιο γρήγορα, βοηθώντας, για παράδειγμα, στον προγραμματισμό νέων συστημάτων και στη συλλογή δεδομένων για την εκπαίδευσή τους.
Μόλις η πρόοδος φτάσει σε ανθρώπινα επίπεδα, δεν υπάρχει λόγος να πιστεύουμε ότι θα επιβραδυνθεί ή θα σταματήσει. Σε ορισμένες περιοχές, τα τεχνητά συστήματα έχουν ήδη ξεπεράσει τους ανθρώπους από αυτή την άποψη, παρουσιάζοντας δυνατότητες όπως ταχύτερη επεξεργασία ταχύτητες, μεγαλύτερες δυνατότητες επεξεργασίας δεδομένων και επεκτασιμότητα μεγάλης κλίμακας. Οι επιχειρήσεις διαθέτουν τα οικονομικά μέσα για να εφαρμόσουν προγράμματα κατάρτισης που υπερβαίνουν κατά πολύ το τρέχον ανώτατο όριο.
Οι συγγραφείς πιστεύουν ότι υπάρχει μια καλή πιθανότητα να αναδειχθεί ένας καλύτερος γενικός τεχνητής νοημοσύνης μέσα στα επόμενα δέκα περίπου χρόνια, ξεπερνώντας τις ανθρώπινες δυνατότητες σε πολλούς σημαντικούς τομείς.
Τι πρόκειται να συμβεί στη συνέχεια; Όλες οι ζωές μπορούν να βελτιωθούν εάν διαχειρίζονται και διανέμονται σωστά. Η κακώς επιλεγμένη επιλογή συνεπάγεται σημαντικούς κινδύνους για τους οποίους δεν είμαστε καλά προετοιμασμένοι. Αντί να διατίθενται για την ασφάλεια και την πρόληψη των ζημιών, σημαντικοί πόροι χρησιμοποιούνται για την κατασκευή συστημάτων τεχνητής νοημοσύνης που είναι ολοένα και πιο ισχυρά. Αυτό πρέπει να αλλάξει. η επιδίωξη δεξιοτήτων από μόνη της είναι ανεπαρκής. Και αυτή η διαδικασία διαρκεί περισσότερο από το αναμενόμενο. Πρέπει να σχεδιάσουμε υψηλότερους κινδύνους προτού προκύψουν, προβλέποντας την κλιμάκωση των τρεχουσών απειλών και την εμφάνιση νέων. Δεν έχουμε τον ίδιο χρόνο για την τεχνητή νοημοσύνη καθώς χρειάζονται δεκαετίες για να γίνει αποδεκτή σε σχέση με της κλιματικής αλλαγής.
Υπάρχουν πολυάριθμοι κίνδυνοι σε κοινωνικό επίπεδο, συμπεριλαμβανομένης της αύξησης της αδικίας, της επιδείνωσης της σταθερότητας και της επιδείνωσης της κοινής αντίληψης της πραγματικότητας. Εδώ, τρομοκράτες και εγκληματίες επιδίδονται σε εκτεταμένη δραστηριότητα. Η τεχνητή νοημοσύνη θα μπορούσε να συγκεντρωθεί στα χέρια ορισμένων παικτών, οδηγώντας σε αυξημένη παγκόσμια ανισότητα, διευκολύνοντας τον αυτοματοποιημένο πόλεμο, τη μαζική χειραγώγηση που είναι προσαρμοσμένη σε κάθε άτομο και την πανταχού παρούσα επιτήρηση.
Ως αυτόνομη Η τεχνητή νοημοσύνη γίνεται πιο εξελιγμένη και μπορεί να προγραμματίσει, ενεργεί στον κόσμο και επιτυγχάνει τους στόχους του, αυτοί οι κίνδυνοι μόνο θα αυξηθούν. Αυτοί οι στόχοι μπορεί να μην είναι προς το συμφέρον μας και, στην περίπτωση κακών ηθοποιών, μπορεί να είναι ακόμη και επιζήμιοι. Προς το παρόν δεν είναι σαφές πώς να επιλυθεί το ζήτημα της ευθυγράμμισης AI, το οποίο περιλαμβάνει την αντιστοίχιση της συμπεριφοράς της τεχνητής νοημοσύνης με τους περίπλοκους στόχους μας. Επιπλέον, είναι πολύ απλό να παραβλέψεις τις προφυλάξεις ασφαλείας όταν αγωνίζεσαι με σκοπό τη νίκη.
Το κανονικό λογισμικό είναι δύσκολο για τον άνθρωπο να ελέγξει, πόσο μάλλον τα εξελιγμένα συστήματα τεχνητής νοημοσύνης που γίνονται ολοένα και πιο ικανά στην κοινωνική μηχανική, το hacking, την εξαπάτηση και τον στρατηγικό σχεδιασμό. Αυτό είναι κάτι που τα αυτόνομα συστήματα AI μπορούν να πάρουν από τους ανθρώπους ή να δημιουργήσουν μόνα τους.
Αυτά τα συστήματα έχουν την ικανότητα να δημιουργούν συνασπισμούς με άτομα και άλλα συστήματα, να κερδίζουν την εμπιστοσύνη, να εξασφαλίζουν χρηματοδότηση και να επηρεάζουν τους λήπτες αποφάσεων. Όπως ένα σκουλήκι, είναι ικανά να αυτοαναπαραχθούν σε όλο το δίκτυο. Τεράστιες ποσότητες κώδικα έχουν ήδη γραφτεί με τη βοήθεια βοηθών AI. Στο μέλλον, τα συστήματα ενδέχεται να ενσωματώσουν εκμεταλλεύσεις σε πολλά κρίσιμα συστήματα. Τα συστήματα AI έχουν τη δυνατότητα να χρησιμοποιούν ή να απειλούν βιολογικά ή αυτόνομα όπλα σε ανοιχτή μάχη. Αυτό είναι απλώς μια συνέχεια τις τρέχουσες κινήσεις προς τη βιολογική έρευνα, την τεχνητή νοημοσύνη και την αυτοματοποίηση του πολέμου. Οι άνθρωποι μπορεί να θεωρήσουν πολύ δύσκολο να παρέμβουν και να αντισταθούν.
Σε πολλές περιπτώσεις, είμαστε πρόθυμοι να τους δώσουμε τα ηνία χωρίς καν να χρειαστεί να το ζητήσουν. Πολλά άτομα και επιχειρήσεις είναι πρόθυμα να θέσουν σε εφαρμογή τέτοια συστήματα οι ίδιοι σε ένα ανταγωνιστικό περιβάλλον από την ανησυχία ότι θα μείνουν πίσω από τον ανταγωνισμό.
Μπορείτε να βρείτε το πλήρες έγγραφο εδώ.
Αποποίηση Eυθυνών
Σύμφωνα με το Οδηγίες του έργου Trust, σημειώστε ότι οι πληροφορίες που παρέχονται σε αυτήν τη σελίδα δεν προορίζονται και δεν πρέπει να ερμηνεύονται ως νομικές, φορολογικές, επενδυτικές, χρηματοοικονομικές ή οποιαδήποτε άλλη μορφή συμβουλής. Είναι σημαντικό να επενδύσετε μόνο ό,τι έχετε την πολυτέλεια να χάσετε και να αναζητήσετε ανεξάρτητες οικονομικές συμβουλές εάν έχετε οποιεσδήποτε αμφιβολίες. Για περισσότερες πληροφορίες, προτείνουμε να ανατρέξετε στους όρους και τις προϋποθέσεις, καθώς και στις σελίδες βοήθειας και υποστήριξης που παρέχονται από τον εκδότη ή τον διαφημιστή. MetaversePost δεσμεύεται για ακριβείς, αμερόληπτες αναφορές, αλλά οι συνθήκες της αγοράς υπόκεινται σε αλλαγές χωρίς προειδοποίηση.
Σχετικά με το Συγγραφέας
Ο Damir είναι ο αρχηγός της ομάδας, ο διευθυντής προϊόντων και ο συντάκτης στο Metaverse Post, καλύπτοντας θέματα όπως AI/ML, AGI, LLMs, Metaverse και Web3-σχετικά πεδία. Τα άρθρα του προσελκύουν ένα τεράστιο κοινό άνω του ενός εκατομμυρίου χρηστών κάθε μήνα. Φαίνεται να είναι ειδικός με 10ετή εμπειρία στο SEO και το ψηφιακό μάρκετινγκ. Ο Damir έχει αναφερθεί στο Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto και άλλες εκδόσεις. Ταξιδεύει μεταξύ των ΗΑΕ, της Τουρκίας, της Ρωσίας και της ΚΑΚ ως ψηφιακός νομάδας. Ο Damir απέκτησε πτυχίο στη φυσική, το οποίο πιστεύει ότι του έχει δώσει τις δεξιότητες κριτικής σκέψης που απαιτούνται για να είναι επιτυχής στο συνεχώς μεταβαλλόμενο τοπίο του Διαδικτύου.
Περισσότερα άρθρα
Ο Damir είναι ο αρχηγός της ομάδας, ο διευθυντής προϊόντων και ο συντάκτης στο Metaverse Post, καλύπτοντας θέματα όπως AI/ML, AGI, LLMs, Metaverse και Web3-σχετικά πεδία. Τα άρθρα του προσελκύουν ένα τεράστιο κοινό άνω του ενός εκατομμυρίου χρηστών κάθε μήνα. Φαίνεται να είναι ειδικός με 10ετή εμπειρία στο SEO και το ψηφιακό μάρκετινγκ. Ο Damir έχει αναφερθεί στο Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto και άλλες εκδόσεις. Ταξιδεύει μεταξύ των ΗΑΕ, της Τουρκίας, της Ρωσίας και της ΚΑΚ ως ψηφιακός νομάδας. Ο Damir απέκτησε πτυχίο στη φυσική, το οποίο πιστεύει ότι του έχει δώσει τις δεξιότητες κριτικής σκέψης που απαιτούνται για να είναι επιτυχής στο συνεχώς μεταβαλλόμενο τοπίο του Διαδικτύου.
