Οι εταιρείες τεχνητής νοημοσύνης πρέπει να δαπανούν το 30% της χρηματοδότησής τους σε Ε&Α στον τομέα της ασφάλειας και της ηθικής
Η ζημιά που προκαλείται από την προκατάληψη και τις ψευδείς πληροφορίες είναι ήδη εμφανής. Υπάρχουν ενδείξεις ότι μπορεί να εμφανιστούν και άλλοι κίνδυνοι. Είναι κρίσιμο να μετριαστούν οι τρέχοντες κίνδυνοι και να προβλεφθούν οι αναδυόμενοι.
Δεν θα ξέραμε πώς να διασφαλίσουμε ότι τα προηγμένα αυτόνομα συστήματα ή τα AGI είναι ασφαλή ή πώς να τα δοκιμάσουμε εάν ήταν διαθέσιμα αυτήν τη στιγμή. Επιπλέον, οι κυβερνήσεις δεν διαθέτουν τους απαραίτητους θεσμούς για να σταματήσουν τις καταχρήσεις και να εφαρμόσουν ασφαλείς πρακτικές, ακόμη κι αν το έκαναν. Οι συγγραφείς υποστηρίζουν την ανάπτυξη αποτελεσματικής κυβερνητικής εποπτείας και τον αναπροσανατολισμό των προσπαθειών Ε&Α προς την ασφάλεια και την ηθική.
Έλεγχος και ειλικρίνεια (πιο εξελιγμένα συστήματα μπορούν να ξεπεράσουν τις δοκιμές παράγοντας ψευδείς αλλά πειστικές απαντήσεις), στιβαρότητα (σε νέες συνθήκες με αλλαγή διανομής ή αντίθετες εισροές), ερμηνευτικότητα (κατανόηση εργασίας), εκτίμηση κινδύνου (αναδύονται νέες ικανότητες που είναι δύσκολο να προβλεφθούν), και η εμφάνιση νέων προκλήσεων (τρόποι αποτυχίας χωρίς προηγούμενο) είναι μερικές από τις προκλήσεις Ε&Α που δεν θα επιλυθούν με ανάπτυξη ισχυρότερων συστημάτων AI.
Οι συγγραφείς προτείνουν ότι η ασφάλεια και η ηθική θα πρέπει να λαμβάνουν τουλάχιστον το ένα τρίτο της χρηματοδότησης για την Ε&Α της τεχνητής νοημοσύνης.
Τα πρότυπα πρέπει να επιβληθούν τόσο σε σχέση με τους εθνικούς θεσμούς όσο και με την παγκόσμια διακυβέρνηση. Η τεχνητή νοημοσύνη στερείται αυτών, αλλά η φαρμακευτική, η χρηματοοικονομική και η πυρηνική βιομηχανία τα έχουν. Υπάρχουν πλέον κίνητρα για τα έθνη και τις επιχειρήσεις να κάνουν οικονομία σε βάρος της ασφάλειας. Οι εταιρείες μπορούν να επωφεληθούν από τις εξελίξεις της τεχνητής νοημοσύνης αφήνοντας την κοινωνία να φέρει τις συνέπειες, όπως οι βιομηχανίες απορρίπτουν απόβλητα στα ποτάμια.
Η ισχυρή τεχνική τεχνογνωσία και η ικανότητα γρήγορης κίνησης είναι απαιτήσεις για τα εθνικά ιδρύματα. Στην παγκόσμια σκηνή, οι συνεργασίες και οι συμφωνίες είναι απαραίτητες. Τα γραφειοκρατικά εμπόδια σε μικρά και προβλέψιμα μοντέλα πρέπει να αποφεύγονται προκειμένου να διαφυλαχθούν η ακαδημαϊκή έρευνα και οι εφαρμογές χαμηλού κινδύνου. Τα μοντέλα Frontier - μια επιλεγμένη ομάδα από τα πιο ισχυρά συστήματα που έχουν εκπαιδευτεί σε υπερυπολογιστές δισεκατομμυρίων δολαρίων - θα πρέπει να έχουν τη μεγαλύτερη εστίαση.
Οι κυβερνήσεις πρέπει να είναι πιο ανοιχτές στις εξελίξεις για να είναι αποτελεσματικοί οι κανονισμοί. Οι ρυθμιστικές αρχές πρέπει να επιβάλλουν την καταχώριση μοντέλων, να προστατεύουν τους εσωτερικούς πληροφοριοδότες, να επιβάλλουν την αναφορά περιστατικών και να παρακολουθούν την ανάπτυξη μοντέλων και τη χρήση υπερυπολογιστών.
Οι ρυθμιστικές αρχές πρέπει επίσης να έχουν πρόσβαση σε αυτά τα συστήματα πριν από την κυκλοφορία τους στην παραγωγή προκειμένου να αξιολογηθούν δυνητικά επιβλαβής χαρακτηριστικά όπως η δημιουργία παθογόνων, η αυτοαντιγραφή και η διείσδυση στο σύστημα.
Τα συστήματα με τη δυνατότητα να είναι επικίνδυνα χρειάζονται μια ποικιλία μεθόδων ελέγχου. Μοντέλο συνόρων Οι δημιουργοί πρέπει επίσης να θεωρηθούν νομικά υπεύθυνοι για οποιαδήποτε ζημιά στα συστήματά τους που θα μπορούσε να είχε αποφευχθεί. Αυτό θα πρέπει να ενθαρρύνει τις επενδύσεις στον τομέα της ασφάλειας. Περισσότερα χαρακτηριστικά, όπως η κρατική αδειοδότηση, η ικανότητα διακοπής της ανάπτυξης ως απάντηση δυνητικά επικίνδυνο Για εξαιρετικά ικανά συστήματα ενδέχεται να απαιτούνται δυνατότητες, έλεγχοι πρόσβασης και μέτρα ασφάλειας πληροφοριών αδιαπέραστα από τους χάκερ σε κρατικό επίπεδο.
Αν και δεν υπάρχουν κανόνες, οι επιχειρήσεις θα πρέπει να αποσαφηνίσουν γρήγορα τις ευθύνες τους αν-τότε περιγράφοντας τα ακριβή βήματα που θα λάβουν εάν ορισμένες δυνατότητες του μοντέλου υπερβούν την κόκκινη γραμμή. Αυτά τα μέτρα πρέπει να εξηγηθούν διεξοδικά και να επιβεβαιωθούν ανεξάρτητα. Έτσι, είναι. Ενας ξεχωριστός Συμπλήρωμα πολιτικής συντάσσει περίληψη διατριβών.
- Τον Οκτώβριο, το Frontier Model Forum έχει εισαγάγει ένα Ταμείο Ασφάλειας AI άνω των 10 εκατομμυρίων δολαρίων, με στόχο να προωθήσει τις εξελίξεις στην έρευνα για την ασφάλεια της τεχνητής νοημοσύνης. Το ταμείο, μια συνεργασία μεταξύ του Frontier Model Forum και φιλανθρωπικών εταίρων, θα παρέχει υποστήριξη σε ανεξάρτητους ερευνητές σε όλο τον κόσμο που συνδέονται με ακαδημαϊκά ιδρύματα, ερευνητικούς οργανισμούς και νεοφυείς επιχειρήσεις. Οι κύριοι συντελεστές της πρωτοβουλίας είναι οι Anthropic, Google, Microsoft, OpenAI, μαζί με φιλανθρωπικές οργανώσεις όπως το Ίδρυμα Patrick J. McGovern, το Ίδρυμα David and Lucile Packard, Eric Schmidt και Jaan Tallinn. Το AI Safety Fund εστιάζει κυρίως στην ενίσχυση της ανάπτυξης νέων τεχνικών αξιολόγησης και προσεγγίσεων κόκκινης ομαδοποίησης για μοντέλα AI, με στόχο την αποκάλυψη πιθανών κινδύνων. Το Φόρουμ σχεδιάζει να συστήσει μια Συμβουλευτική Επιτροπή τους επόμενους μήνες και θα εκδώσει την πρώτη πρόσκληση υποβολής προτάσεων και βραβεία επιχορήγησης αμέσως μετά.
Αποποίηση ευθυνών
Σύμφωνα με το Οδηγίες του έργου Trust, σημειώστε ότι οι πληροφορίες που παρέχονται σε αυτήν τη σελίδα δεν προορίζονται και δεν πρέπει να ερμηνεύονται ως νομικές, φορολογικές, επενδυτικές, χρηματοοικονομικές ή οποιαδήποτε άλλη μορφή συμβουλής. Είναι σημαντικό να επενδύσετε μόνο ό,τι έχετε την πολυτέλεια να χάσετε και να αναζητήσετε ανεξάρτητες οικονομικές συμβουλές εάν έχετε οποιεσδήποτε αμφιβολίες. Για περισσότερες πληροφορίες, προτείνουμε να ανατρέξετε στους όρους και τις προϋποθέσεις, καθώς και στις σελίδες βοήθειας και υποστήριξης που παρέχονται από τον εκδότη ή τον διαφημιστή. MetaversePost δεσμεύεται για ακριβείς, αμερόληπτες αναφορές, αλλά οι συνθήκες της αγοράς υπόκεινται σε αλλαγές χωρίς προειδοποίηση.
Σχετικά με το Συγγραφέας
Ο Damir είναι ο αρχηγός της ομάδας, ο διευθυντής προϊόντων και ο συντάκτης στο Metaverse Post, καλύπτοντας θέματα όπως AI/ML, AGI, LLMs, Metaverse και Web3-σχετικά πεδία. Τα άρθρα του προσελκύουν ένα τεράστιο κοινό άνω του ενός εκατομμυρίου χρηστών κάθε μήνα. Φαίνεται να είναι ειδικός με 10ετή εμπειρία στο SEO και το ψηφιακό μάρκετινγκ. Ο Damir έχει αναφερθεί στο Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto και άλλες εκδόσεις. Ταξιδεύει μεταξύ των ΗΑΕ, της Τουρκίας, της Ρωσίας και της ΚΑΚ ως ψηφιακός νομάδας. Ο Damir απέκτησε πτυχίο στη φυσική, το οποίο πιστεύει ότι του έχει δώσει τις δεξιότητες κριτικής σκέψης που απαιτούνται για να είναι επιτυχής στο συνεχώς μεταβαλλόμενο τοπίο του Διαδικτύου.
Περισσότερα άρθρα
Ο Damir είναι ο αρχηγός της ομάδας, ο διευθυντής προϊόντων και ο συντάκτης στο Metaverse Post, καλύπτοντας θέματα όπως AI/ML, AGI, LLMs, Metaverse και Web3-σχετικά πεδία. Τα άρθρα του προσελκύουν ένα τεράστιο κοινό άνω του ενός εκατομμυρίου χρηστών κάθε μήνα. Φαίνεται να είναι ειδικός με 10ετή εμπειρία στο SEO και το ψηφιακό μάρκετινγκ. Ο Damir έχει αναφερθεί στο Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto και άλλες εκδόσεις. Ταξιδεύει μεταξύ των ΗΑΕ, της Τουρκίας, της Ρωσίας και της ΚΑΚ ως ψηφιακός νομάδας. Ο Damir απέκτησε πτυχίο στη φυσική, το οποίο πιστεύει ότι του έχει δώσει τις δεξιότητες κριτικής σκέψης που απαιτούνται για να είναι επιτυχής στο συνεχώς μεταβαλλόμενο τοπίο του Διαδικτύου.
