OpenAI Αποκαλύπτει την πιο πρόσφατη προσέγγισή του για τη διασφάλιση της ασφάλειας της τεχνητής νοημοσύνης
Εν συντομία
OpenAI δημοσίευσε μια ανάρτηση ιστολογίου που περιγράφει τη βελτιωμένη προσέγγισή της για την ασφάλεια μετά από πρόσφατες ανησυχίες σχετικά με την ασφάλεια και το απόρρητο και τις έρευνες.
Η εταιρεία δεσμεύεται να πραγματοποιήσει αυστηρές δοκιμές, να δεσμεύσει εξωτερικούς εμπειρογνώμονες για σχόλια και να συνεργαστεί με τις κυβερνήσεις για να καθορίσει το καλύτερο προσέγγιση για κανονισμούς τεχνητής νοημοσύνης.
Μετά από ανησυχίες σχετικά με την ασφάλεια και το απόρρητο και μετά πρόσφατες έρευνες σε ορισμένες ευρωπαϊκές χώρες, OpenAI έχει κυκλοφόρησε μια ανάρτηση ιστολογίου που περιγράφει τη βελτιωμένη προσέγγιση της εταιρείας για την ασφάλεια.
OpenAI δεσμεύεται να διεξάγει αυστηρές δοκιμές, να δεσμεύει εξωτερικούς εμπειρογνώμονες για ανατροφοδότηση πριν από την κυκλοφορία οποιουδήποτε νέου συστήματος και να συνεργαστεί με τις κυβερνήσεις για να καθορίσει την καλύτερη προσέγγιση για τους κανονισμούς της τεχνητής νοημοσύνης.
Προηγουμένως, η εταιρεία δαπάνησε πάνω από έξι μήνες για την ασφάλεια και την ευθυγράμμιση του τελευταίου μοντέλου της, GPT-4, πριν το κυκλοφορήσει δημόσια. Για να διασφαλίσει την ασφάλεια του νεότερου μοντέλου γλώσσας, GPT-4, OpenAI μισθωτός μια ομάδα άνω των 50 ειδικών: ειδικοί σε θέματα ασφάλειας, δεοντολογίας και πολιτικής τεχνητής νοημοσύνης, συμπεριλαμβανομένων ερευνητών και μηχανικών.
«Κυρίως, πιστεύουμε ότι η κοινωνία πρέπει να έχει χρόνο να ενημερώσει και να προσαρμοστεί σε όλο και πιο ικανή τεχνητή νοημοσύνη και ότι όλοι όσοι επηρεάζονται από αυτή την τεχνολογία θα πρέπει να έχουν σημαντικό λόγο για το πώς η τεχνητή νοημοσύνη αναπτύσσεται περαιτέρω».
OpenAI Έγραψε.
OpenAIΕστίαση στην ασφάλεια και την ιδιωτικότητα των παιδιών
Η Ιταλία απαγορεύτηκε ChatGPT, αναφέροντας OpenAIΗ αποτυχία επαλήθευσης της ηλικίας των χρηστών του, παρά το γεγονός ότι έχει σχεδιαστεί για άτομα ηλικίας 13 ετών και άνω, ως ένας από τους λόγους. Ένα κρίσιμο επίκεντρο των προσπαθειών ασφάλειας της εταιρείας έχει μετατοπιστεί στην προστασία των παιδιών με την εφαρμογή επιλογών επαλήθευσης ηλικίας, οι οποίες OpenAI τώρα εξερευνά, ειδικά επειδή τα εργαλεία AI προορίζονται για άτομα ηλικίας 18 ετών και άνω ή 13 ετών και άνω με γονική έγκριση.
Η εταιρεία απαγορεύει αυστηρά τη δημιουργία περιεχομένου μίσους, παρενόχλησης, βίαιου ή ενηλίκου και GPT-4 έχει ήδη 82% μικρότερη πιθανότητα ανταπόκρισης σε αιτήματα για μη επιτρεπόμενο περιεχόμενο σε σύγκριση με GPT-3. 5.
OpenAI έχει δημιουργήσει ένα ισχυρό σύστημα παρακολούθησης για κατάχρηση και ελπίζει να κάνει GPT-4 διαθέσιμο σε περισσότερα άτομα με την πάροδο του χρόνου. Η εταιρεία συνεργάζεται με προγραμματιστές για προσαρμοσμένους μετριασμούς ασφαλείας, όπως η μη κερδοσκοπική Ακαδημία Khan, και εργάζεται σε λειτουργίες που επιτρέπουν αυστηρότερα πρότυπα για τα αποτελέσματα των μοντέλων.
Η βελτίωση του απορρήτου είναι μια άλλη πτυχή ασφάλειας OpenAI εστιάζει, ειδικά μετά την πρόσφατη παραβιάσεις δεδομένων. Τα μεγάλα γλωσσικά μοντέλα της εταιρείας τεχνητής νοημοσύνης εκπαιδεύονται σε τεράστιο όγκο κειμένου που περιλαμβάνει περιεχόμενο διαθέσιμο σε κοινό, περιεχόμενο με άδεια χρήσης και περιεχόμενο που δημιουργείται από ανθρώπους αναθεωρητές. χρησιμοποιεί δεδομένα για να κάνει τα μοντέλα AI πιο χρήσιμα για τους ανθρώπους.
OpenAI λαμβάνει μέτρα για την προστασία του απορρήτου των ατόμων αφαιρώντας προσωπικές πληροφορίες από τα δεδομένα εκπαίδευσης, βελτιστοποιεί τα μοντέλα για την απόρριψη αιτημάτων για προσωπικές πληροφορίες και διαγράφοντας προσωπικές πληροφορίες από τα συστήματά της κατόπιν αιτήματος. Αυτό μειώνει την πιθανότητα τα μοντέλα AI να δημιουργήσουν απαντήσεις που περιλαμβάνουν προσωπικές πληροφορίες.
OpenAIπροσέγγιση του Η αντιμετώπιση των ανησυχιών για την ασφάλεια της τεχνητής νοημοσύνης είναι η έρευνα αποτελεσματικών μετριασμών και τεχνικές ευθυγράμμισης και να τις δοκιμάσουν έναντι της πραγματικής κατάχρησης. Δεσμεύεται επίσης να είναι όλο και πιο προσεκτική στη δημιουργία και ανάπτυξη πιο ικανών μοντέλων και να ενισχύσει τις προφυλάξεις ασφαλείας. Η αποτελεσματική διακυβέρνηση της ανάπτυξης και ανάπτυξης της τεχνητής νοημοσύνης είναι απαραίτητη για τη διασφάλιση της ασφάλειας, η οποία απαιτεί τεχνική και θεσμική καινοτομία.
Διαβάστε περισσότερα:
Αποποίηση ευθυνών
Σύμφωνα με το Οδηγίες του έργου Trust, σημειώστε ότι οι πληροφορίες που παρέχονται σε αυτήν τη σελίδα δεν προορίζονται και δεν πρέπει να ερμηνεύονται ως νομικές, φορολογικές, επενδυτικές, χρηματοοικονομικές ή οποιαδήποτε άλλη μορφή συμβουλής. Είναι σημαντικό να επενδύσετε μόνο ό,τι έχετε την πολυτέλεια να χάσετε και να αναζητήσετε ανεξάρτητες οικονομικές συμβουλές εάν έχετε οποιεσδήποτε αμφιβολίες. Για περισσότερες πληροφορίες, προτείνουμε να ανατρέξετε στους όρους και τις προϋποθέσεις, καθώς και στις σελίδες βοήθειας και υποστήριξης που παρέχονται από τον εκδότη ή τον διαφημιστή. MetaversePost δεσμεύεται για ακριβείς, αμερόληπτες αναφορές, αλλά οι συνθήκες της αγοράς υπόκεινται σε αλλαγές χωρίς προειδοποίηση.
Σχετικά με το Συγγραφέας
Η Agne είναι μια δημοσιογράφος που καλύπτει τις τελευταίες τάσεις και εξελίξεις στο metaverse, AI και Web3 βιομηχανίες για την Metaverse Post. Το πάθος της για την αφήγηση την οδήγησε να πραγματοποιήσει πολυάριθμες συνεντεύξεις με ειδικούς σε αυτούς τους τομείς, επιδιώκοντας πάντα να αποκαλύψει συναρπαστικές και συναρπαστικές ιστορίες. Η Agne είναι κάτοχος πτυχίου στη λογοτεχνία και έχει εκτεταμένο υπόβαθρο γραφής για ένα ευρύ φάσμα θεμάτων, όπως ταξίδια, τέχνη και πολιτισμός. Έχει επίσης εργαστεί εθελοντικά ως συντάκτρια για την οργάνωση για τα δικαιώματα των ζώων, όπου βοήθησε στην ευαισθητοποίηση σχετικά με θέματα καλής διαβίωσης των ζώων. Επικοινωνήστε μαζί της [προστασία μέσω email].
Περισσότερα άρθρα
Η Agne είναι μια δημοσιογράφος που καλύπτει τις τελευταίες τάσεις και εξελίξεις στο metaverse, AI και Web3 βιομηχανίες για την Metaverse Post. Το πάθος της για την αφήγηση την οδήγησε να πραγματοποιήσει πολυάριθμες συνεντεύξεις με ειδικούς σε αυτούς τους τομείς, επιδιώκοντας πάντα να αποκαλύψει συναρπαστικές και συναρπαστικές ιστορίες. Η Agne είναι κάτοχος πτυχίου στη λογοτεχνία και έχει εκτεταμένο υπόβαθρο γραφής για ένα ευρύ φάσμα θεμάτων, όπως ταξίδια, τέχνη και πολιτισμός. Έχει επίσης εργαστεί εθελοντικά ως συντάκτρια για την οργάνωση για τα δικαιώματα των ζώων, όπου βοήθησε στην ευαισθητοποίηση σχετικά με θέματα καλής διαβίωσης των ζώων. Επικοινωνήστε μαζί της [προστασία μέσω email].
