GPT-4 Κληρονομεί «παραισθησιογόνα» γεγονότα και συλλογιστικά λάθη από νωρίτερα GPT Μοντέλα
Εν συντομία
OpenAI λέει GPT-4 έχει παρόμοιους περιορισμούς όπως προηγουμένως GPT μοντέλα.
GPT-4 εξακολουθεί να έχει παραισθήσεις για γεγονότα και κάνει συλλογιστικά λάθη.
Ωστόσο, GPT-4 σκοράρει 40% υψηλότερα από OpenAIτελευταία GPT-3.5 σχετικά με τις εσωτερικές αξιολογήσεις αντιφατικών πραγματικών στοιχείων της εταιρείας.
OpenAI έχει προειδοποιήσει τους χρήστες ότι το πιο πρόσφατο γλωσσικό μοντέλο της, GPT-4, εξακολουθεί να μην είναι πλήρως αξιόπιστη και μπορεί να «παραισθανθεί» γεγονότα και να κάνει συλλογιστικά λάθη. Η εταιρεία προτρέπει τους χρήστες να είναι προσεκτικοί όταν χρησιμοποιούν αποτελέσματα γλωσσικών μοντέλων, ειδικά σε «πλαίσια υψηλού πονταρίσματος».
Ωστόσο, τα καλά νέα είναι ότι GPT-4 μειώνει σημαντικά τις παραισθήσεις σε σχέση με προηγούμενα μοντέλα. OpenAI ισχυρίζεται ότι GPT-4 σκοράρει 40% υψηλότερα από τα τελευταία GPT-3.5 σχετικά με τις εσωτερικές αντιπαρατιθέμενες πραγματολογικές αξιολογήσεις.
«Έχουμε σημειώσει πρόοδο σε εξωτερικά σημεία αναφοράς όπως το TruthfulQA, το οποίο ελέγχει την ικανότητα του μοντέλου να διαχωρίζει τα γεγονότα από ένα σύνολο λανθασμένων δηλώσεων που έχουν επιλεγεί από αντιπάλους. Αυτές οι ερωτήσεις συνδυάζονται με ανακριβείς απαντήσεις που είναι στατιστικά ελκυστικές». OpenAI έγραψε σε ένα ανάρτηση.
Παρά αυτή τη βελτίωση, το μοντέλο εξακολουθεί να στερείται γνώσης γεγονότων που συνέβησαν μετά τον Σεπτέμβριο του 2021 και μερικές φορές κάνει απλά λάθη συλλογισμού, όπως κάνουν τα προηγούμενα μοντέλα. Επιπλέον, μπορεί να είναι υπερβολικά αφελής στην αποδοχή προφανών ψευδών δηλώσεων από χρήστες και να αποτυγχάνει σε δύσκολα προβλήματα, όπως η εισαγωγή τρωτών σημείων ασφαλείας στον κώδικά του. Επίσης, δεν ελέγχει τις πληροφορίες που παρέχει.
Όπως και οι προκάτοχοί της, GPT-4 μπορεί να δημιουργήσει επιβλαβείς συμβουλές, κωδικό σφάλματος ή ανακριβείς πληροφορίες. Ωστόσο, οι πρόσθετες δυνατότητες του μοντέλου οδηγούν σε νέες επιφάνειες κινδύνου που πρέπει να γίνουν κατανοητές. Για να εκτιμηθεί η έκταση αυτών των κινδύνων, πάνω από 50 ειδικοί από διάφορους τομείς, συμπεριλαμβανομένων των κινδύνων ευθυγράμμισης της τεχνητής νοημοσύνης, της ασφάλειας στον κυβερνοχώρο, του βιολογικού κινδύνου, της εμπιστοσύνης και της ασφάλειας και της διεθνούς ασφάλειας, δεσμεύτηκαν για να δοκιμάσουν το μοντέλο αντίθετα. Τα σχόλια και τα δεδομένα τους χρησιμοποιήθηκαν στη συνέχεια για τη βελτίωση του μοντέλου, όπως η συλλογή πρόσθετων δεδομένων για βελτίωση GPT-4την ικανότητα του να απορρίπτει αιτήματα σχετικά με τον τρόπο σύνθεσης επικίνδυνων χημικών ουσιών.
Ένας από τους κύριους τρόπους OpenAI Η μείωση των επιβλαβών εξόδων γίνεται με την ενσωμάτωση ενός πρόσθετου σήματος ανταμοιβής ασφάλειας κατά τη διάρκεια της εκπαίδευσης RLHF (Ενίσχυση Μάθησης από Ανθρώπινη Ανάδραση). Το σήμα εκπαιδεύει το μοντέλο να απορρίπτει αιτήματα για επιβλαβές περιεχόμενο, όπως defiσύμφωνα με τις οδηγίες χρήσης του μοντέλου. Η ανταμοιβή παρέχεται από α GPT-4 ταξινομητής μηδενικής βολής, ο οποίος κρίνει τα όρια ασφαλείας και το στυλ ολοκλήρωσης σε προτροπές που σχετίζονται με την ασφάλεια.
OpenAI είπε επίσης ότι είχε μειώσει την τάση του μοντέλου να ανταποκρίνεται σε αιτήματα για μη επιτρεπόμενο περιεχόμενο κατά 82% σε σύγκριση με GPT-3.5, και GPT-4 ανταποκρίνεται σε ευαίσθητα αιτήματα όπως ιατρική συμβουλή και αυτοτραυματισμό σύμφωνα με τις πολιτικές της εταιρείας 29% συχνότερα.
Ενώ OpenAIΟι παρεμβάσεις του έχουν αυξήσει τη δυσκολία πρόκλησης κακής συμπεριφοράς από GPT-4, εξακολουθεί να είναι δυνατό και εξακολουθούν να υπάρχουν jailbreak που μπορούν να δημιουργήσουν περιεχόμενο που παραβαίνει τις οδηγίες χρήσης.
«Καθώς τα συστήματα τεχνητής νοημοσύνης γίνονται πιο διαδεδομένα, η επίτευξη υψηλών βαθμών αξιοπιστίας σε αυτές τις παρεμβάσεις θα γίνεται όλο και πιο κρίσιμη. Προς το παρόν, είναι απαραίτητο να συμπληρωθούν αυτοί οι περιορισμοί με τεχνικές ασφάλειας κατά την ανάπτυξη, όπως η παρακολούθηση για κατάχρηση», πρόσθεσε η εταιρεία.
OpenAI συνεργάζεται με εξωτερικούς ερευνητές για την καλύτερη κατανόηση και αξιολόγηση των πιθανών επιπτώσεων του GPT-4 και τα διαδοχικά μοντέλα του. Η ομάδα αναπτύσσει επίσης αξιολογήσεις για επικίνδυνες δυνατότητες που μπορεί να προκύψουν σε μελλοντικά συστήματα τεχνητής νοημοσύνης. Καθώς συνεχίζουν να μελετούν τις πιθανές κοινωνικές και οικονομικές επιπτώσεις of GPT-4 και άλλα συστήματα AI, OpenAI θα μοιραστούν τα ευρήματά τους και τις γνώσεις τους με το κοινό σε εύθετο χρόνο.
Διαβάστε περισσότερα:
Αποποίηση ευθυνών
Σύμφωνα με το Οδηγίες του έργου Trust, σημειώστε ότι οι πληροφορίες που παρέχονται σε αυτήν τη σελίδα δεν προορίζονται και δεν πρέπει να ερμηνεύονται ως νομικές, φορολογικές, επενδυτικές, χρηματοοικονομικές ή οποιαδήποτε άλλη μορφή συμβουλής. Είναι σημαντικό να επενδύσετε μόνο ό,τι έχετε την πολυτέλεια να χάσετε και να αναζητήσετε ανεξάρτητες οικονομικές συμβουλές εάν έχετε οποιεσδήποτε αμφιβολίες. Για περισσότερες πληροφορίες, προτείνουμε να ανατρέξετε στους όρους και τις προϋποθέσεις, καθώς και στις σελίδες βοήθειας και υποστήριξης που παρέχονται από τον εκδότη ή τον διαφημιστή. MetaversePost δεσμεύεται για ακριβείς, αμερόληπτες αναφορές, αλλά οι συνθήκες της αγοράς υπόκεινται σε αλλαγές χωρίς προειδοποίηση.
Σχετικά με το Συγγραφέας
Η Σίντι είναι δημοσιογράφος στο Metaverse Post, καλύπτοντας θέματα που σχετίζονται με web3, NFT, metaverse και AI, με έμφαση στις συνεντεύξεις με Web3 παίκτες του κλάδου. Έχει μιλήσει με πάνω από 30 στελέχη C-level και πολλά άλλα, μεταφέροντας τις πολύτιμες γνώσεις τους στους αναγνώστες. Με καταγωγή από τη Σιγκαπούρη, η Cindy εδρεύει τώρα στην Τιφλίδα της Γεωργίας. Είναι κάτοχος πτυχίου Bachelor στις Επικοινωνίες & Σπουδές Μέσων από το Πανεπιστήμιο της Νότιας Αυστραλίας και έχει μια δεκαετία εμπειρίας στη δημοσιογραφία και τη συγγραφή. Επικοινωνήστε μαζί της μέσω [προστασία μέσω email] με δημοσιεύσεις τύπου, ανακοινώσεις και ευκαιρίες συνεντεύξεων.
Περισσότερα άρθρα
Η Σίντι είναι δημοσιογράφος στο Metaverse Post, καλύπτοντας θέματα που σχετίζονται με web3, NFT, metaverse και AI, με έμφαση στις συνεντεύξεις με Web3 παίκτες του κλάδου. Έχει μιλήσει με πάνω από 30 στελέχη C-level και πολλά άλλα, μεταφέροντας τις πολύτιμες γνώσεις τους στους αναγνώστες. Με καταγωγή από τη Σιγκαπούρη, η Cindy εδρεύει τώρα στην Τιφλίδα της Γεωργίας. Είναι κάτοχος πτυχίου Bachelor στις Επικοινωνίες & Σπουδές Μέσων από το Πανεπιστήμιο της Νότιας Αυστραλίας και έχει μια δεκαετία εμπειρίας στη δημοσιογραφία και τη συγγραφή. Επικοινωνήστε μαζί της μέσω [προστασία μέσω email] με δημοσιεύσεις τύπου, ανακοινώσεις και ευκαιρίες συνεντεύξεων.
