Anthropic, Google, Microsoft και OpenAI Διορίστε εκτελεστικό διευθυντή για το Frontier Model Forum και αποκαλύψτε το Ταμείο Ασφάλειας AI 10 εκατομμυρίων δολαρίων
Εν συντομία
Anthropic, Google, Microsoft και OpenAI παρουσίασαν τον Chris Meserole ως τον εναρκτήριο Εκτελεστικό Διευθυντή του Frontier Model Forum.
Ταυτόχρονα, έχουν ανακοινώσει ένα σημαντικό Ταμείο Ασφάλειας AI, με πάνω από 10 εκατομμύρια δολάρια σε χρηματοδότηση.
Anthropic, Google, Microsoft και OpenAI έχουν καθορισμένος Ο Chris Meserole ως εναρκτήριος Εκτελεστικός Διευθυντής του Frontier Model Forum. Η κοινοπραξία του κλάδου είναι αφοσιωμένη στην προώθηση της ασφαλούς και ηθικής εξέλιξης των μοντέλων τεχνητής νοημοσύνης αιχμής παγκοσμίως. Ταυτόχρονα, το Forum εισήγαγε ένα Ταμείο Ασφάλειας AI άνω των 10 εκατομμυρίων δολαρίων. Στόχος του ταμείου είναι να προωθήσει τις εξελίξεις στην έρευνα για την ασφάλεια της τεχνητής νοημοσύνης.
Εκτελεστικός Διευθυντής - [email protected] Κρις Μεσερόλε φέρνει ένα εκτενές υπόβαθρο στην τεχνολογική πολιτική και τη διακυβέρνηση των αναδυόμενων τεχνολογιών. Πριν από το διορισμό του, υπηρέτησε ως Διευθυντής της Πρωτοβουλίας Τεχνητής Νοημοσύνης και Αναδυόμενης Τεχνολογίας στο Ινστιτούτο Brookings. Με τη νέα του ιδιότητα, ο Meserole θα ηγηθεί των προσπαθειών για την προώθηση της έρευνας για την ασφάλεια της τεχνητής νοημοσύνης, θα εντοπίσει βέλτιστες πρακτικές για ασφαλή ανάπτυξη μοντέλων τεχνητής νοημοσύνης, θα διαδώσει τη γνώση στους ενδιαφερόμενους και θα υποστηρίξει πρωτοβουλίες που αξιοποιούν την τεχνητή νοημοσύνη για την αντιμετώπιση κοινωνικών προκλήσεων.
«Τα πιο ισχυρά μοντέλα τεχνητής νοημοσύνης υπόσχονται τεράστιες δυνατότητες για την κοινωνία, αλλά για να αξιοποιήσουμε τις δυνατότητές τους, πρέπει να κατανοήσουμε καλύτερα πώς να τα αναπτύξουμε και να τα αξιολογήσουμε με ασφάλεια. Είμαι ενθουσιασμένος που θα αντιμετωπίσω αυτήν την πρόκληση με το Frontier Model Forum.”
είπε ο Μεσερόλε.
Το Ταμείο Ασφάλειας AI προέκυψε ως απάντηση στην ταχεία πρόοδο των δυνατοτήτων τεχνητής νοημοσύνης τον περασμένο χρόνο, απαιτώντας περαιτέρω ακαδημαϊκή έρευνα για την ασφάλεια της τεχνητής νοημοσύνης. Αυτό το ταμείο, μια συνεργασία μεταξύ του Frontier Model Forum και φιλανθρωπικών εταίρων, θα παρέχει υποστήριξη σε ανεξάρτητους ερευνητές παγκοσμίως που συνδέονται με ακαδημαϊκά ιδρύματα, ερευνητικούς οργανισμούς και νεοφυείς επιχειρήσεις.
Οι κύριοι συντελεστές αυτής της πρωτοβουλίας είναι οι Anthropic, Google, Microsoft και OpenAI, μαζί με φιλανθρωπικές οργανώσεις όπως το Ίδρυμα Patrick J. McGovern, το Ίδρυμα David and Lucile Packard, Eric Schmidt και Jaan Tallinn. Οι συνδυασμένες συνεισφορές τους ξεπερνούν τα 10 εκατομμύρια δολάρια, με την αναμονή πρόσθετων δωρεών από άλλους εταίρους.
Νωρίτερα φέτος, τα μέλη του φόρουμ υποσχέθηκαν εθελοντικές δεσμεύσεις στον Λευκό Οίκο, συμπεριλαμβανομένης της δυνατότητας ανακάλυψης και αναφοράς τρωτών σημείων από τρίτους στα συστήματα τεχνητής νοημοσύνης τους. Το Ταμείο Ασφάλειας AI ευθυγραμμίζεται με αυτή τη δέσμευση, προσφέροντας χρηματοδότηση σε εξωτερικές κοινότητες για τον έλεγχο των συνοριακών συστημάτων τεχνητής νοημοσύνης. Μια ποικιλία φωνών και προοπτικών θα εμπλουτίσει τον παγκόσμιο διάλογο για την ασφάλεια της τεχνητής νοημοσύνης και θα διευρύνει τη γενική βάση γνώσεων για την τεχνητή νοημοσύνη.
Ενίσχυση της ασφάλειας και της συνεργασίας της τεχνητής νοημοσύνης
Το Ταμείο Ασφάλειας AI επικεντρώνεται κυρίως στην ενίσχυση της ανάπτυξης νέων τεχνικών αξιολόγησης και προσεγγίσεων red teaming για μοντέλα AI, με στόχο την αποκάλυψη πιθανών κινδύνων. Το Red teaming είναι μια δομημένη διαδικασία για τον έλεγχο συστημάτων AI για τον εντοπισμό επιβλαβών δυνατοτήτων, αποτελεσμάτων ή απειλών υποδομής. Η αυξημένη χρηματοδότηση σε αυτόν τον τομέα θα μπορούσε να ανυψώσει τα πρότυπα ασφάλειας και ασφάλειας και να παράσχει πολύτιμες γνώσεις για τον μετριασμό των προκλήσεων που θέτουν τα συστήματα τεχνητής νοημοσύνης.
Επιπλέον, το Ταμείο θα αναζητήσει ερευνητικές προτάσεις σύντομα και θα το διαχειρίζεται το Ινστιτούτο Meridian με συμβουλές από μια συμβουλευτική επιτροπή, που περιλαμβάνει ανεξάρτητους εμπειρογνώμονες, επαγγελματίες τεχνητής νοημοσύνης και εμπειρογνώμονες χορήγησης επιχορηγήσεων.
Μια υπεύθυνη διαδικασία αποκάλυψης βρίσκεται σε εξέλιξη, η οποία επιτρέπει στα εργαστήρια τεχνητής νοημοσύνης Frontier να μοιράζονται πληροφορίες σχετικά με τρωτά σημεία και επικίνδυνες δυνατότητες σε μοντέλα συνοριακής τεχνητής νοημοσύνης, μαζί με τις λύσεις τους. Ορισμένες εταιρείες του φόρουμ έχουν ήδη εντοπίσει τέτοια ζητήματα στο πλαίσιο της εθνικής ασφάλειας, χρησιμεύοντας ως περιπτωσιολογικές μελέτες για την καθοδήγηση άλλων εργαστηρίων στην εφαρμογή διαδικασιών υπεύθυνης αποκάλυψης.
Κοιτάζοντας το μέλλον, το Frontier Model Forum σχεδιάζει να συγκροτήσει μια Συμβουλευτική Επιτροπή τους επόμενους μήνες, με αποστολή να καθοδηγεί τις στρατηγικές προτεραιότητές του και να εκπροσωπεί ποικίλες εμπειρογνωμοσύνη και προοπτικές. Το φόρουμ θα δημοσιεύει τακτικά ενημερώσεις, συμπεριλαμβανομένης της προσθήκης νέων μελών. Ταυτόχρονα, το Ταμείο Ασφάλειας AI θα εκδώσει την πρώτη πρόσκληση υποβολής προτάσεων, με τις επιχορηγήσεις να χορηγούνται αμέσως μετά. Επιπλέον, το Φόρουμ θα συνεχίσει να δημοσιεύει τεχνικά ευρήματα μόλις καταστούν διαθέσιμα.
Ο πρωταρχικός στόχος του Φόρουμ είναι να συνεργαστεί με τον Chris Meserole και να επεκτείνει τη δέσμευση με την ευρύτερη ερευνητική κοινότητα. Αυτό περιλαμβάνει συνεργασίες με οργανισμούς όπως το Partnership on AI, MLCommons και άλλες κορυφαίες ΜΚΟ, κυβερνητικές οντότητες και πολυεθνικούς οργανισμούς. Μαζί, στοχεύουν να αξιοποιήσουν τις δυνατότητες της τεχνητής νοημοσύνης διασφαλίζοντας παράλληλα την ασφαλή και ηθική ανάπτυξη και χρήση της.
Αποποίηση Eυθυνών
Σύμφωνα με το Οδηγίες του έργου Trust, σημειώστε ότι οι πληροφορίες που παρέχονται σε αυτήν τη σελίδα δεν προορίζονται και δεν πρέπει να ερμηνεύονται ως νομικές, φορολογικές, επενδυτικές, χρηματοοικονομικές ή οποιαδήποτε άλλη μορφή συμβουλής. Είναι σημαντικό να επενδύσετε μόνο ό,τι έχετε την πολυτέλεια να χάσετε και να αναζητήσετε ανεξάρτητες οικονομικές συμβουλές εάν έχετε οποιεσδήποτε αμφιβολίες. Για περισσότερες πληροφορίες, προτείνουμε να ανατρέξετε στους όρους και τις προϋποθέσεις, καθώς και στις σελίδες βοήθειας και υποστήριξης που παρέχονται από τον εκδότη ή τον διαφημιστή. MetaversePost δεσμεύεται για ακριβείς, αμερόληπτες αναφορές, αλλά οι συνθήκες της αγοράς υπόκεινται σε αλλαγές χωρίς προειδοποίηση.
Σχετικά με το Συγγραφέας
Η Agne είναι μια δημοσιογράφος που καλύπτει τις τελευταίες τάσεις και εξελίξεις στο metaverse, AI και Web3 βιομηχανίες για την Metaverse Post. Το πάθος της για την αφήγηση την οδήγησε να πραγματοποιήσει πολυάριθμες συνεντεύξεις με ειδικούς σε αυτούς τους τομείς, επιδιώκοντας πάντα να αποκαλύψει συναρπαστικές και συναρπαστικές ιστορίες. Η Agne είναι κάτοχος πτυχίου στη λογοτεχνία και έχει εκτεταμένο υπόβαθρο γραφής για ένα ευρύ φάσμα θεμάτων, όπως ταξίδια, τέχνη και πολιτισμός. Έχει επίσης εργαστεί εθελοντικά ως συντάκτρια για την οργάνωση για τα δικαιώματα των ζώων, όπου βοήθησε στην ευαισθητοποίηση σχετικά με θέματα καλής διαβίωσης των ζώων. Επικοινωνήστε μαζί της [προστασία μέσω email].
Περισσότερα άρθρα
Η Agne είναι μια δημοσιογράφος που καλύπτει τις τελευταίες τάσεις και εξελίξεις στο metaverse, AI και Web3 βιομηχανίες για την Metaverse Post. Το πάθος της για την αφήγηση την οδήγησε να πραγματοποιήσει πολυάριθμες συνεντεύξεις με ειδικούς σε αυτούς τους τομείς, επιδιώκοντας πάντα να αποκαλύψει συναρπαστικές και συναρπαστικές ιστορίες. Η Agne είναι κάτοχος πτυχίου στη λογοτεχνία και έχει εκτεταμένο υπόβαθρο γραφής για ένα ευρύ φάσμα θεμάτων, όπως ταξίδια, τέχνη και πολιτισμός. Έχει επίσης εργαστεί εθελοντικά ως συντάκτρια για την οργάνωση για τα δικαιώματα των ζώων, όπου βοήθησε στην ευαισθητοποίηση σχετικά με θέματα καλής διαβίωσης των ζώων. Επικοινωνήστε μαζί της [προστασία μέσω email].
