OpenAI: Η τεχνητή νοημοσύνη θα μπορούσε δυνητικά να κάνει πολύ κακό στους ανθρώπους, αλλά η προσπάθεια διακοπής της προόδου δεν είναι επιλογή
Εν συντομία
OpenAIΤο έγγραφο του «Planning for AGI and Beyond» προτείνει μια σταδιακή, αργή εισαγωγή πιο περίπλοκων και «έξυπνων» μοντέλων, την οργάνωση ανεξάρτητων ελέγχων μεγάλων συστημάτων και τον περιορισμό των υπολογιστικών πόρων.
OpenAI θέλει η τεχνητή νοημοσύνη να είναι ανοιχτή σε όλους εξίσου και να δημιουργεί πιο συνεπή και διαχειρίσιμα μοντέλα για τη μείωση της προκατάληψης και της ανεπιθύμητης συμπεριφοράς.
OpenAI Πρόσφατα δημοσίευσε ένα έγγραφο με τίτλο «Σχεδιασμός για το AGI and Beyond». Περιγράφει τις γενικές ιδέες που καθοδηγούν τις ενέργειες της εταιρείας καθώς ο κόσμος πλησιάζει πιο κοντά στην ανάπτυξη του AGI (τεχνητή γενική νοημοσύνη).
OpenAI with πιστεύει ότι ενώ η τεχνητή νοημοσύνη έχει τη δυνατότητα να προκαλέσει σημαντική βλάβη στους ανθρώπους, η προσπάθεια να σταματήσει η πρόοδος δεν αποτελεί επιλογή. Ως αποτέλεσμα, πρέπει να μάθουμε πώς να διατηρήσουμε αυτή τη βελτίωση ώστε να μην επιδεινωθεί σημαντικά.
Το έγγραφο μπορεί να βρεθεί εδώ. Ας επισημάνουμε μερικά κρίσιμα στοιχεία από αυτό:
- OpenAI θέλει η AGI να βοηθήσει τους ανθρώπους να ευδοκιμήσουν σε όλες τις πτυχές της ζωής τους, τόσο οικονομικά όσο και επιστημονικά.
Αντί να δημιουργήσετε εξαιρετικά κουλ μεγάλο AI και να το απελευθερώσετε αμέσως στον κόσμο, OpenAI θα εισάγει σταδιακά πιο περίπλοκα και «έξυπνα» μοντέλα. Η υπόθεση είναι ότι η σταδιακή αύξηση των δυνατοτήτων τεχνητής νοημοσύνης δεν θα σοκάρει τον κόσμο, δίνοντας στους ανθρώπους χρόνο να προσαρμοστούν, να προσαρμόσουν την οικονομία και να δημιουργήσουν διαδικασίες αλληλεπίδρασης με την τεχνητή νοημοσύνη. - OpenAI καλεί όλους τους οργανισμούς να υιοθετήσουν επίσημα την προαναφερθείσα αρχή (σταδιακή ανάπτυξη ισχυρής τεχνητής νοημοσύνης). Ο Altman συνιστά επίσης τον περιορισμό της ποσότητας των υπολογιστικών πόρων που μπορούν να χρησιμοποιηθούν για την εκπαίδευση μοντέλων και τη δημιουργία αμερόληπτων ελέγχων των μεγάλων συστημάτων προτού διατεθούν στο ευρύ κοινό. Αντί να συμμετέχετε σε διαγωνισμούς όπως "ποιος θα είναι ο πρώτος που θα παρουσιάσει ένα πιο cool και μεγαλύτερο μοντέλο;" OpenAI ζητά από τις επιχειρήσεις να συνεργαστούν για τη βελτίωση της ασφάλειας της τεχνητής νοημοσύνης.
- OpenAI πιστεύει ότι είναι κρίσιμο να ενημερώνονται οι κυβερνήσεις για εκπαιδευτικές διαδρομές που υπερβαίνουν μια συγκεκριμένη κλίμακα. Αυτή είναι μια ενδιαφέρουσα ιδέα και θα θέλαμε να μάθουμε περισσότερα για το φώναξε OpenAI έχει ως προς αυτό. Αυτή η πρόταση δεν μου φαίνεται και τόσο ωραία στην αρχή.
- OpenAI θα προσπαθήσει να αναπτύξει μοντέλα που να είναι πιο αξιόπιστα και ελεγχόμενα, πιθανότατα να περιορίσουν την προκατάληψη και τη δυσμενή συμπεριφορά στην τεχνητή νοημοσύνη. Η προσέγγιση που ακολουθείται από OpenAI σε αυτήν την περίπτωση είναι να γίνει το μοντέλο διαθέσιμο στο ευρύ κοινό σε πολύ περιορισμένη μορφή, ενώ παράλληλα δίνεται στους χρήστες η επιλογή να το εξατομικεύσουν. Δεδομένου ότι οι καταναλωτές δεν θα μπορούν να «προσωποποιήσουν» τίποτα εκεί, δεν είμαι σίγουρος πώς αυτό θα βοηθήσει το μοντέλο στο σύνολό του να γίνει λιγότερο προκατειλημμένο. Εκτός εάν απαλλάσσει την εταιρεία από την ευθύνη για τις ενέργειες του μοντέλου.
Συνολικά, το έγγραφο δείχνει με τον σωστό τρόπο. Ωστόσο, υπήρξε μια μικρή σύγκρουση μεταξύ «δεν θα δείξουμε αμέσως ωραία μοντέλα στο κοινό, αλλά θα μιλήσουμε για αυτά σε κράτη» και «Ο κόσμος πρέπει να ξέρει σχετικά με την πρόοδο του AI." Εν ολίγοις, θα περιμένουμε αναλυτικές διευκρινίσεις από OpenAI σε όλα τα θέματα.
Διαβάστε περισσότερα για το AI:
Αποποίηση ευθυνών
Σύμφωνα με το Οδηγίες του έργου Trust, σημειώστε ότι οι πληροφορίες που παρέχονται σε αυτήν τη σελίδα δεν προορίζονται και δεν πρέπει να ερμηνεύονται ως νομικές, φορολογικές, επενδυτικές, χρηματοοικονομικές ή οποιαδήποτε άλλη μορφή συμβουλής. Είναι σημαντικό να επενδύσετε μόνο ό,τι έχετε την πολυτέλεια να χάσετε και να αναζητήσετε ανεξάρτητες οικονομικές συμβουλές εάν έχετε οποιεσδήποτε αμφιβολίες. Για περισσότερες πληροφορίες, προτείνουμε να ανατρέξετε στους όρους και τις προϋποθέσεις, καθώς και στις σελίδες βοήθειας και υποστήριξης που παρέχονται από τον εκδότη ή τον διαφημιστή. MetaversePost δεσμεύεται για ακριβείς, αμερόληπτες αναφορές, αλλά οι συνθήκες της αγοράς υπόκεινται σε αλλαγές χωρίς προειδοποίηση.
Σχετικά με το Συγγραφέας
Ο Damir είναι ο αρχηγός της ομάδας, ο διευθυντής προϊόντων και ο συντάκτης στο Metaverse Post, καλύπτοντας θέματα όπως AI/ML, AGI, LLMs, Metaverse και Web3-σχετικά πεδία. Τα άρθρα του προσελκύουν ένα τεράστιο κοινό άνω του ενός εκατομμυρίου χρηστών κάθε μήνα. Φαίνεται να είναι ειδικός με 10ετή εμπειρία στο SEO και το ψηφιακό μάρκετινγκ. Ο Damir έχει αναφερθεί στο Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto και άλλες εκδόσεις. Ταξιδεύει μεταξύ των ΗΑΕ, της Τουρκίας, της Ρωσίας και της ΚΑΚ ως ψηφιακός νομάδας. Ο Damir απέκτησε πτυχίο στη φυσική, το οποίο πιστεύει ότι του έχει δώσει τις δεξιότητες κριτικής σκέψης που απαιτούνται για να είναι επιτυχής στο συνεχώς μεταβαλλόμενο τοπίο του Διαδικτύου.
Περισσότερα άρθρα
Ο Damir είναι ο αρχηγός της ομάδας, ο διευθυντής προϊόντων και ο συντάκτης στο Metaverse Post, καλύπτοντας θέματα όπως AI/ML, AGI, LLMs, Metaverse και Web3-σχετικά πεδία. Τα άρθρα του προσελκύουν ένα τεράστιο κοινό άνω του ενός εκατομμυρίου χρηστών κάθε μήνα. Φαίνεται να είναι ειδικός με 10ετή εμπειρία στο SEO και το ψηφιακό μάρκετινγκ. Ο Damir έχει αναφερθεί στο Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto και άλλες εκδόσεις. Ταξιδεύει μεταξύ των ΗΑΕ, της Τουρκίας, της Ρωσίας και της ΚΑΚ ως ψηφιακός νομάδας. Ο Damir απέκτησε πτυχίο στη φυσική, το οποίο πιστεύει ότι του έχει δώσει τις δεξιότητες κριτικής σκέψης που απαιτούνται για να είναι επιτυχής στο συνεχώς μεταβαλλόμενο τοπίο του Διαδικτύου.
