Η Anthropic προτείνει μια «Συνθετική τεχνητή νοημοσύνη» για μοντέλα συνομιλίας με βάση 60 αρχές
Εν συντομία
OpenAI χρησιμοποιεί ενισχυτική μάθηση από την ανθρώπινη ανατροφοδότηση (RLHF) για να ευθυγραμμιστεί γλωσσικά μοντέλα με ανθρώπινες αρχές, ασφάλεια και χρησιμότητα.
Η Anthropic πρότεινε μια εναλλακτική προσέγγιση: την τεχνητή νοημοσύνη με βάση τα συμφραζόμενα, η οποία περιλαμβάνει άτομα που γράφουν ένα σύνταγμα που πρέπει να ακολουθεί το μοντέλο.
Αυτό το σύνταγμα βασίζεται στη Διακήρυξη των Ηνωμένων Εθνών για τα Ανθρώπινα Δικαιώματα, στους Όρους Παροχής Υπηρεσιών της Apple, στις Αρχές που ενθαρρύνουν την εξέταση των μη δυτικών προοπτικών.
Η Anthropic έχει προτείνει μια νέα προσέγγιση για την εκπαίδευση μοντέλων συνομιλίας χρησιμοποιώντας 'Συνταγματική ΑΙ'. Αυτή η μέθοδος βασίζεται σε OpenAI'S ενίσχυση μάθησης από την ανθρώπινη ανατροφοδότηση, αλλά βασίζεται σε αυτήν αποφεύγοντας την ανάγκη να γράψετε δείγματα βαθιάς εκπαίδευσης. Αντίθετα, το μοντέλο εκπαιδεύεται να ανταποκρίνεται στις εισροές μέσω της χρήσης ενός συντάγματος που προορίζεται να λειτουργεί ως ένα σύνολο νόμων που πρέπει να ακολουθεί το μοντέλο.
Μέσω αυτής της μεθόδου, η τεχνητή νοημοσύνη μπορεί να δημιουργήσει τα δικά της δείγματα εκπαίδευσης, αξιολογώντας αυτά που είπε σε σχέση με το σύνολο των νομικά αποδεκτών αρχών του. Αυτή η τεχνική εξοικονόμησης χρόνου μπορεί να θεωρηθεί ως Isaac Asimov'μικρό Νόμοι της ρομποτικής τεθούν σε εφαρμογή.
Οι αρχές που αποτελούν τη βάση του μοντέλου είναι πάρα πολλές για να συζητηθούν λεπτομερώς. Ωστόσο, καλύπτουν πολλά θέματα, όπως ηθική, αποστροφή κινδύνου, οικονομία και τεχνητή νοημοσύνη. Καθένα έχει αναπτυχθεί για να βοηθήσει στην καθοδήγηση των αποφάσεων της τεχνητής νοημοσύνης όσον αφορά την ανταπόκριση προτροπές συνομιλίας.
Η Anthropic κατάφερε να εκπαιδεύσει αποτελεσματικά ένα μοντέλο AI που ονομάζεται Claude, το οποίο ανταγωνίζεται με επιτυχία OpenAI'S ChatGPT. Χρησιμοποιώντας την Μέθοδος Constitution-AI, ο Claude θα μπορούσε να ανταποκριθεί σε προτροπές συνομιλίας με εντυπωσιακό επίπεδο ακρίβειας, αλλά αναμένονται πρόσθετες βελτιώσεις καθώς η Anthropic συνεχίζει να βασίζεται σε αυτήν την τεχνολογία που αλλάζει το παιχνίδι.
Πράγματι, αυτή η νέα προσέγγιση έχει τη δυνατότητα να εξοικονομήσει χρόνο και χρήμα για εταιρείες που δεν θα χρειάζεται πλέον να κατασκευάζουν τα δικά τους δείγματα εκπαίδευσης. Αντίθετα, αυτή η «έτοιμη» μέθοδος μπορεί να χρησιμοποιηθεί ως βάση για τη δημιουργία προσαρμοσμένων μοντέλων - δεν απαιτούνται γνώσεις προγραμματισμού. Είναι επίσης σημαντικό να σημειωθεί πώς αυτή η τεχνολογία υπόσχεται επίσης να αυξήσει την ασφάλεια όταν πρόκειται για ρομπότ συνομιλίας. Δημιουργία ενός συνόλου νομικά αποδεκτών αρχών μετριάζει τον κίνδυνο της τεχνητής νοημοσύνης που γίνεται απατεώνας.
Επομένως, η Constituation AI όχι μόνο υπόσχεται να κάνει την ανάπτυξη μοντέλων συνομιλίας ευκολότερη και ταχύτερη, αλλά θα την κάνει και ασφαλέστερη. Μια win-win κατάσταση για τον κόσμο της Τεχνητής Νοημοσύνης και των ChatBots.
Μια αναλυτική ματιά στο "Contextual AI" της Anthropic για Chatbots
Το Contextual AI της Anthropic βασίζεται στην ενσωμάτωση περισσότερων από 60 αρχών που προέρχονται από τη Διακήρυξη των Ηνωμένων Εθνών για τα Ανθρώπινα Δικαιώματα, τους Όρους Παροχής Υπηρεσιών της Apple, τις Αρχές που ενθαρρύνουν την εξέταση των μη δυτικών προοπτικών, Του Deepmind Sparrow Rules, and Anthropic Research Set 1 and Set 2.
Το γεγονός ότι η τεχνητή νοημοσύνη μπορεί πλέον να διδαχθεί να συμπεριφέρεται σύμφωνα με αρχές που προέρχονται από μια τόσο εκτεταμένη και ποικίλη σειρά πηγών είναι πραγματικά αξιοσημείωτο. Ενσωματώνοντας αρχές από τη Διακήρυξη των Ηνωμένων Εθνών για τα Ανθρώπινα Δικαιώματα, για παράδειγμα, οι απαντήσεις του chatbot αντικατοπτρίζουν τώρα τη σημασία της διατήρησης της έννοιας της ελευθερίας, της ισότητας και της αδελφοσύνης. Τέτοιες αρχές είναι ζωτικής σημασίας για τη διασφάλιση αυτού συνομιλίες chatbot παραμένετε ηθικοί και με σεβασμό. Ομοίως, η ενσωμάτωση των Όρων Παροχής Υπηρεσιών της Apple διασφαλίζει ότι chatbot λαμβάνει υπόψη τα συμφέροντα απορρήτου των χρηστών του.
Οι Αρχές που ενθαρρύνουν τη θεώρηση των μη δυτικών προοπτικών διαδραματίζουν επίσης σημαντικό ρόλο στο μοντέλο «Συφρονιστικού AI». Αυτές οι αρχές αντικατοπτρίζουν την ανάγκη για την τεχνητή νοημοσύνη να σέβεται τους άλλους πολιτισμούς και διασφαλίζουν ότι οι απαντήσεις των chatbot δεν γίνονται αντιληπτές ως επιβλαβείς ή προσβλητικές. Ομοίως, οι κανόνες Sparrow του Deepmind υπαγορεύουν ότι το chatbot ανταποκρίνεται με απαντήσεις που έχουν σκοπό να δημιουργήσουν μια σχέση με τον χρήστη.
Η ενσωμάτωση του Anthropic Research Set 1 και του Set 2 παρέχει την τελική εγγύηση ότι οι συνομιλίες με τεχνητή νοημοσύνη παραμένουν αστικές και με σεβασμό. Το AI είναι εκπαιδευμένο ώστε να διασφαλίζει ότι απαντά σε ερωτήσεις με προσεκτικό και ευγενικό τρόπο.
Συνολικά, το μοντέλο «Contextual AI» της Anthropic είναι μια απίστευτα σημαντική ανακάλυψη στον τομέα της Έρευνα AI. Επιτρέποντας τη διδασκαλία της τεχνητής νοημοσύνης σύμφωνα με αρχές που προέρχονται από ένα τόσο ποικίλο φάσμα πηγών, οι ηθικές συνέπειες των αυτοματοποιημένων συνομιλιών βελτιώνονται σημαντικά.
Διαβάστε περισσότερα για το AI:
Αποποίηση ευθυνών
Σύμφωνα με το Οδηγίες του έργου Trust, σημειώστε ότι οι πληροφορίες που παρέχονται σε αυτήν τη σελίδα δεν προορίζονται και δεν πρέπει να ερμηνεύονται ως νομικές, φορολογικές, επενδυτικές, χρηματοοικονομικές ή οποιαδήποτε άλλη μορφή συμβουλής. Είναι σημαντικό να επενδύσετε μόνο ό,τι έχετε την πολυτέλεια να χάσετε και να αναζητήσετε ανεξάρτητες οικονομικές συμβουλές εάν έχετε οποιεσδήποτε αμφιβολίες. Για περισσότερες πληροφορίες, προτείνουμε να ανατρέξετε στους όρους και τις προϋποθέσεις, καθώς και στις σελίδες βοήθειας και υποστήριξης που παρέχονται από τον εκδότη ή τον διαφημιστή. MetaversePost δεσμεύεται για ακριβείς, αμερόληπτες αναφορές, αλλά οι συνθήκες της αγοράς υπόκεινται σε αλλαγές χωρίς προειδοποίηση.
Σχετικά με το Συγγραφέας
Ο Damir είναι ο αρχηγός της ομάδας, ο διευθυντής προϊόντων και ο συντάκτης στο Metaverse Post, καλύπτοντας θέματα όπως AI/ML, AGI, LLMs, Metaverse και Web3-σχετικά πεδία. Τα άρθρα του προσελκύουν ένα τεράστιο κοινό άνω του ενός εκατομμυρίου χρηστών κάθε μήνα. Φαίνεται να είναι ειδικός με 10ετή εμπειρία στο SEO και το ψηφιακό μάρκετινγκ. Ο Damir έχει αναφερθεί στο Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto και άλλες εκδόσεις. Ταξιδεύει μεταξύ των ΗΑΕ, της Τουρκίας, της Ρωσίας και της ΚΑΚ ως ψηφιακός νομάδας. Ο Damir απέκτησε πτυχίο στη φυσική, το οποίο πιστεύει ότι του έχει δώσει τις δεξιότητες κριτικής σκέψης που απαιτούνται για να είναι επιτυχής στο συνεχώς μεταβαλλόμενο τοπίο του Διαδικτύου.
Περισσότερα άρθρα
Ο Damir είναι ο αρχηγός της ομάδας, ο διευθυντής προϊόντων και ο συντάκτης στο Metaverse Post, καλύπτοντας θέματα όπως AI/ML, AGI, LLMs, Metaverse και Web3-σχετικά πεδία. Τα άρθρα του προσελκύουν ένα τεράστιο κοινό άνω του ενός εκατομμυρίου χρηστών κάθε μήνα. Φαίνεται να είναι ειδικός με 10ετή εμπειρία στο SEO και το ψηφιακό μάρκετινγκ. Ο Damir έχει αναφερθεί στο Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto και άλλες εκδόσεις. Ταξιδεύει μεταξύ των ΗΑΕ, της Τουρκίας, της Ρωσίας και της ΚΑΚ ως ψηφιακός νομάδας. Ο Damir απέκτησε πτυχίο στη φυσική, το οποίο πιστεύει ότι του έχει δώσει τις δεξιότητες κριτικής σκέψης που απαιτούνται για να είναι επιτυχής στο συνεχώς μεταβαλλόμενο τοπίο του Διαδικτύου.
