Όλες οι μεγάλες εταιρείες τεχνολογίας που αναπτύσσουν LLM θα πρέπει να δίνουν προτεραιότητα στην ασφάλεια του μοντέλου
Εν συντομία
Οι ερευνητές δημιούργησαν ένα σύστημα που συνδυάζει μεγάλα γλωσσικά μοντέλα για αυτόνομο σχεδιασμό, σχεδιασμό και εκτέλεση επιστημονικών πειραμάτων, αποδεικνύοντας τις ερευνητικές του δυνατότητες σε τρεις διαφορετικές περιπτώσεις.
Το μοντέλο έγραψε κώδικα για χημικές εξισώσεις για να καταλάβει πόση ουσία χρειάζεται για την αντίδραση.
Η άρθρο Οι «Εμφανείς αυτόνομες επιστημονικές ερευνητικές δυνατότητες μεγάλων γλωσσικών μοντέλων» εξετάζουν την ιδέα της δημιουργίας ενός συστήματος που συνδυάζει πολλά μεγάλα γλωσσικά μοντέλα για αυτόνομο σχεδιασμό, σχεδιασμό και εκτέλεση επιστημονικών πειραμάτων. Καταδεικνύει τις ερευνητικές δυνατότητες του παράγοντα σε τρεις διαφορετικές περιπτώσεις, η πιο δύσκολη από τις οποίες είναι η επιτυχής υλοποίηση καταλυόμενων αντιδράσεων.
Η κύρια διατριβή αυτού του άρθρου είναι:
- Οι ερευνητές βρήκαν μια βιβλιοθήκη που σας επιτρέπει να γράφετε κώδικα σε Python και στη συνέχεια να μεταφέρετε εντολές για εκτέλεση σε μια ειδική συσκευή για τη διεξαγωγή πειραμάτων (με ανάμειξη ουσιών).
- Οι ερευνητές χρησιμοποίησαν GPT-4 για αναζήτηση στο Διαδίκτυο και τεκμηρίωση βιβλιοθήκης, καθώς και δυνατότητα εκτέλεσης κώδικα Python (για την εκτέλεση πειραμάτων).
- Υπάρχει ένας προγραμματιστής ανώτατου επιπέδου (επίσης GPT-4), το οποίο αναλύει το αρχικό αίτημα και καταρτίζει ένα «σχέδιο έρευνας».
- GPT-4 κάνει καλή δουλειά εκτελώντας απλές μη χημικές εργασίες, όπως η δημιουργία ορισμένων σχημάτων σε έναν πίνακα χημικών (γεμίζοντας σωστά τα κύτταρα με ουσίες).
- Δοκίμασαν ένα πιο περίπλοκο και εφαρμοσμένο έργο της διεξαγωγής μιας αντίδρασης. το μοντέλο τα κατάφερε καλά και ενήργησε λογικά.
- Στη συνέχεια έδωσαν στο μοντέλο αρκετές εργασίες για τη διεξαγωγή πειραμάτων. Ωστόσο, για αυτό που έδωσε το μοντέλο, δεν έγιναν πραγματικά πειράματα.
- Επιπλέον, το μοντέλο έγραψε τον κώδικα για τις χημικές εξισώσεις αρκετές φορές για να εκτιμήσει πόση ουσία χρειάζεται για την αντίδραση.
- Ζητήθηκε επίσης να δημιουργηθεί μια θεραπεία για τον καρκίνο. Το μοντέλο προσέγγισε την ανάλυση λογικά και μεθοδικά. Πρώτον, «έψαξε» στο διαδίκτυο για τις τρέχουσες τάσεις στην ανακάλυψη αντικαρκινικών φαρμάκων. Στη συνέχεια, το μοντέλο επέλεξε ένα μόριο που θα χρησιμοποιηθεί για τη μοντελοποίηση του φαρμάκου και έγραψε τον κώδικα για τη σύνθεσή του. Οι άνθρωποι δεν εκτέλεσαν τον κώδικα (και δεν είδα ανάλυση της επάρκειάς του).
- Επιπλέον, της ζητήθηκε να συνθέσει αρκετές επικίνδυνες ουσίες όπως ναρκωτικά και δηλητήρια.
Εδώ είναι το πιο ενδιαφέρον μέρος. Για ορισμένα αιτήματα, το μοντέλο αρνήθηκε αμέσως να δουλέψει (για παράδειγμα, ηρωίνη ή αέριο μουστάρδας, ένα εξαιρετικά επικίνδυνο δηλητηριώδες αέριο). Για άλλους, άρχισε να ψάχνει στο Google πώς να φτιάχνει τις ουσίες, αλλά συνειδητοποίησε ότι θα μπορούσαν να χρησιμοποιηθούν για παράνομους σκοπούς και αρνήθηκε να συνεχίσει να εργάζεται. Για άλλους, έγραψε ένα ερευνητικό σχέδιο και κώδικα για τη σύνθεση της ουσίας.
Αυτή η «άρνηση» είναι πιθανή επειδή GPT-4 έχει σχεδιαστεί για να αναλύει το αίτημα και εάν του ζητηθεί να κάνει κάτι παράνομο ή επικίνδυνο, αρνείται αμέσως να εκτελέσει το αίτημα. Είναι πολύ ωραίο που το αποτέλεσμα της διαδικασίας ευθυγράμμισης είναι αισθητό.
Και στο τέλος του άρθρου, οι συγγραφείς προτρέπουν όλους τους μεγάλους εταιρείες που αναπτύσσουν LLM να δοθεί προτεραιότητα στην ασφάλεια των μοντέλων.
- Ερευνητές στο Πανεπιστήμιο της Καλιφόρνια δημιούργησαν το Σημείο αναφοράς Μακιαβέλι να μετρήσει την ικανότητα και τη βλαβερότητα των μοντέλων τεχνητής νοημοσύνης σε ένα ευρύ περιβάλλον μακροπρόθεσμων γλωσσικών αλληλεπιδράσεων. Αυτό το τεστ χρησιμοποιεί λύσεις υψηλού επιπέδου για να δώσει στους πράκτορες ρεαλιστικούς στόχους και να απομακρύνει τις αλληλεπιδράσεις χαμηλού επιπέδου.
- Η πνευματική επανάσταση που σημαδεύτηκε από ChatGPT είναι μια τριάδα από συνεργιστικά υψηλές επαναστάσεις: τεχνολογικές, τεχνοανθρωπιστικές και κοινωνικοπολιτικές. Για να ρίξετε μια ολοκληρωμένη ματιά στο τι συμβαίνει, συνιστάται να ακούσετε τρεις φρέσκες απόψεις από διανοούμενους από τους τομείς της φιλοσοφίας, της ιστορίας και της καινοτομίας.
- Η ιστορία της αναφοράς να σταματήσει η ανάπτυξη συστημάτων τεχνητής νοημοσύνης πιο προηγμένα από GPT-4 έχει πολώσει την κοινωνία. Ενα άρθρο παρέχει παραδείγματα για το πότε οι διαδικασίες πηγαίνουν σε απροσδόκητη κατεύθυνση. Οι κίνδυνοι κακόβουλης χρήσης της τεχνητής νοημοσύνης και κακής χρήσης δεν λαμβάνονται υπόψη, οδηγώντας στο επιχείρημα ότι πρέπει να φοβόμαστε τους ανθρώπους και όχι την ίδια την τεχνητή νοημοσύνη.
Διαβάστε περισσότερα για το AI:
Αποποίηση ευθυνών
Σύμφωνα με το Οδηγίες του έργου Trust, σημειώστε ότι οι πληροφορίες που παρέχονται σε αυτήν τη σελίδα δεν προορίζονται και δεν πρέπει να ερμηνεύονται ως νομικές, φορολογικές, επενδυτικές, χρηματοοικονομικές ή οποιαδήποτε άλλη μορφή συμβουλής. Είναι σημαντικό να επενδύσετε μόνο ό,τι έχετε την πολυτέλεια να χάσετε και να αναζητήσετε ανεξάρτητες οικονομικές συμβουλές εάν έχετε οποιεσδήποτε αμφιβολίες. Για περισσότερες πληροφορίες, προτείνουμε να ανατρέξετε στους όρους και τις προϋποθέσεις, καθώς και στις σελίδες βοήθειας και υποστήριξης που παρέχονται από τον εκδότη ή τον διαφημιστή. MetaversePost δεσμεύεται για ακριβείς, αμερόληπτες αναφορές, αλλά οι συνθήκες της αγοράς υπόκεινται σε αλλαγές χωρίς προειδοποίηση.
Σχετικά με το Συγγραφέας
Ο Damir είναι ο αρχηγός της ομάδας, ο διευθυντής προϊόντων και ο συντάκτης στο Metaverse Post, καλύπτοντας θέματα όπως AI/ML, AGI, LLMs, Metaverse και Web3-σχετικά πεδία. Τα άρθρα του προσελκύουν ένα τεράστιο κοινό άνω του ενός εκατομμυρίου χρηστών κάθε μήνα. Φαίνεται να είναι ειδικός με 10ετή εμπειρία στο SEO και το ψηφιακό μάρκετινγκ. Ο Damir έχει αναφερθεί στο Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto και άλλες εκδόσεις. Ταξιδεύει μεταξύ των ΗΑΕ, της Τουρκίας, της Ρωσίας και της ΚΑΚ ως ψηφιακός νομάδας. Ο Damir απέκτησε πτυχίο στη φυσική, το οποίο πιστεύει ότι του έχει δώσει τις δεξιότητες κριτικής σκέψης που απαιτούνται για να είναι επιτυχής στο συνεχώς μεταβαλλόμενο τοπίο του Διαδικτύου.
Περισσότερα άρθρα
Ο Damir είναι ο αρχηγός της ομάδας, ο διευθυντής προϊόντων και ο συντάκτης στο Metaverse Post, καλύπτοντας θέματα όπως AI/ML, AGI, LLMs, Metaverse και Web3-σχετικά πεδία. Τα άρθρα του προσελκύουν ένα τεράστιο κοινό άνω του ενός εκατομμυρίου χρηστών κάθε μήνα. Φαίνεται να είναι ειδικός με 10ετή εμπειρία στο SEO και το ψηφιακό μάρκετινγκ. Ο Damir έχει αναφερθεί στο Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto και άλλες εκδόσεις. Ταξιδεύει μεταξύ των ΗΑΕ, της Τουρκίας, της Ρωσίας και της ΚΑΚ ως ψηφιακός νομάδας. Ο Damir απέκτησε πτυχίο στη φυσική, το οποίο πιστεύει ότι του έχει δώσει τις δεξιότητες κριτικής σκέψης που απαιτούνται για να είναι επιτυχής στο συνεχώς μεταβαλλόμενο τοπίο του Διαδικτύου.
