Παρατηρητήριο Stanford: Η τεχνητή νοημοσύνη θα οδηγήσει σε πανταχού παρόντα ψέματα και ακαταμάχητη προπαγάνδα το 2023
Εν συντομία
Οι τεχνολογίες AICG (δημιουργία περιεχομένου τεχνητής νοημοσύνης) θα κάνουν την αλήθεια και το ψέμα αδιάκριτα, τόσο για άτομα όσο και για κοινωνίες οποιασδήποτε κλίμακας.
Αυτό θα δημιουργήσει ένα περιβάλλον «μετά-αλήθεια» στο οποίο τα ψέματα και η προπαγάνδα θα γίνουν πανταχού παρούσες.defiικανός και ακαταμάχητος.
Το γεγονός ότι πολλοί άνθρωποι εμπιστεύονται περισσότερο τις πληροφορίες που προέρχονται από το Διαδίκτυο παρά από τα παραδοσιακά μέσα ενημέρωσης είναι μια σημαντική ανησυχία.
Οι γεννήτριες εικόνας και βίντεο που βασίζονται σε τεχνητή νοημοσύνη γίνονται όλο και πιο βολικές στη χρήση, εξαιρετικά αξιόπιστες και εξαιρετικά αποδοτικές.
Αυτό τα καθιστά απίστευτα χρήσιμα για προπαγανδιστικούς σκοπούς.
Στην ομιλία του προς την παγκόσμια κοινότητα τεχνητής νοημοσύνης, ο Κινέζος γκουρού της τεχνητής νοημοσύνης Kai-Fu Lee προειδοποίησε ότι ο κόσμος θα αντιμετωπίσει έναν κίνδυνο πιο σοβαρό από τους κινδύνους πυρηνικού πολέμου, πείνας ή πανδημίας ήδη από το 2023. Ο κίνδυνος είναι η δημιουργία περιεχομένου τεχνητής νοημοσύνης (AICG). Οι τεχνολογίες AICG θα μπορούσαν να κάνουν την αλήθεια και το ψέμα αδιάκριτα, τόσο για άτομα όσο και για κοινωνίες κάθε κλίμακας.
Η νέα έκθεση από το Κέντρο για την Ασφάλεια και τις Αναδυόμενες Τεχνολογίες, OpenAI, και το Stanford Internet Observatory, «Generative Language Models and Automated Influence Operations: Emerging Threats and Potential Mitigation Measures», παρέχει μια στρατηγική εικόνα για το καταστροφικό σενάριο που περιγράφεται από τον Kai-Fu Lee.
| Σχετικό άρθρο: Το Κογκρέσο των ΗΠΑ θέλει να δημιουργήσει μια ομοσπονδιακή υπηρεσία για τη ρύθμιση της τεχνητής νοημοσύνης |
Η έκθεση περιγράφει λεπτομερώς πώς είναι πιθανό να συμβεί η πτώση της ανθρωπότητας στην άβυσσο της AICG. Οι τεχνολογίες AICG θα καταστήσουν δυνατή τη δημιουργία τεράστιων ποσοτήτων περιεχομένου που δεν θα διακρίνονται από το περιεχόμενο που δημιουργείται από τον άνθρωπο. Αυτό θα δημιουργήσει ένα περιβάλλον «μετά-αλήθεια» στο οποίο τα ψέματα και η προπαγάνδα θα γίνουν πανταχού παρούσες.defiικανός και ακαταμάχητος.
Η έκθεση συνιστά μια σειρά μέτρων μετριασμού, συμπεριλαμβανομένης της ρύθμισης της χρήσης των τεχνολογιών AICG, της αύξησης της διαφάνειας σχετικά με τη χρήση τους και της ανάπτυξης προτύπων για τη χρήση τους. Ωστόσο, οι συντάκτες της έκθεσης προειδοποιούν ότι αυτά τα μέτρα θα είναι αποτελεσματικά μόνο εάν εφαρμοστούν σε παγκόσμια κλίμακα.
Η δημοσίευση της έκθεσης έρχεται σε μια περίοδο που ο κόσμος ήδη παλεύει να αντιμετωπίσει τη διάδοση παραπληροφόρησης και παραπληροφόρησης. Η πανδημία COVID-19 συνοδεύτηκε από πολλαπλασιασμό ψευδών πληροφοριών σχετικά με τον ιό και την προέλευσή του και οι πλατφόρμες μέσων κοινωνικής δικτύωσης αγωνίζονται να αποτρέψουν τη διάδοση αυτών των ψευδών πληροφοριών.
Το AI θα αλλάξει σημαντικά τον Ιστό
Τα ψέματα και η προπαγάνδα ήταν πάντα μέρος της ανθρώπινης κοινωνίας. Ωστόσο, η διαθεσιμότητα και η αποτελεσματικότητα οποιωνδήποτε λειτουργιών επιρροής (τόσο σε άτομα όσο και σε κοινωνίες) έχουν αυξηθεί λόγω της ανάπτυξης πιο εξελιγμένων τεχνολογιών, ιδιαίτερα στον τομέα της τεχνητής νοημοσύνης (AI).
| Σχετικό άρθρο: OpenAIΟ Διευθύνων Σύμβουλος της δηλώνει ότι το εκπαιδευτικό σύστημα πρέπει να προσαρμοστεί ChatGPT, όχι να το απαγορεύσει |
Τρεις κύριοι παράγοντες συμβάλλουν στην παγκόσμια εμφάνιση, διάδοση και αποδοχή των ψεμάτων ως αλήθεια:
- Η ανάπτυξη εικόνας και βίντεο που βασίζεται σε AI Γεννήτριες που μπορεί να δημιουργήσει εξαιρετικά ρεαλιστικές εικόνες και βίντεο ανθρώπων και γεγονότων που δεν συνέβησαν ποτέ στην πραγματικότητα.
- Η χρήση των μέσων κοινωνικής δικτύωσης για τη διάδοση ψευδών πληροφοριών σε μεγάλο αριθμό ανθρώπων πολύ γρήγορα.
- Το γεγονός ότι πολλοί άνθρωποι πλέον εμπιστεύονται περισσότερο τις πληροφορίες που προέρχονται από το διαδίκτυο παρά από παραδοσιακές πηγές μέσων ενημέρωσης.
Ως αποτέλεσμα αυτών των παραγόντων, οι γεννήτριες εικόνων και βίντεο που βασίζονται σε τεχνητή νοημοσύνη γίνονται όλο και πιο βολικές στη χρήση, εξαιρετικά αξιόπιστες και εξαιρετικά αποδοτικές. Αυτό τα καθιστά απίστευτα χρήσιμα για προπαγανδιστικούς σκοπούς.
Είναι πλέον δυνατό για όποιον διαθέτει υπολογιστή και σύνδεση στο Διαδίκτυο να δημιουργεί ψεύτικες εικόνες και βίντεο που ουσιαστικά δεν διακρίνονται από την πραγματικότητα. Αυτό έχει οδηγήσει σε μια κατάσταση στην οποία είναι πολύ δύσκολο να προσδιοριστεί τι είναι αλήθεια και τι όχι.
Η χρήση των μέσων κοινωνικής δικτύωσης για τη διάδοση ψευδών πληροφοριών αποτελεί επίσης μεγάλη ανησυχία. Λόγω του τρόπου λειτουργίας των μέσων κοινωνικής δικτύωσης, οι ψευδείς πληροφορίες μπορούν να διαδοθούν πολύ γρήγορα και εύκολα. Αυτό καθιστά δύσκολο για τους ανθρώπους να ξέρουν τι να πιστέψουν.
Το παρακάτω δείχνει πώς μια επαναστατική εξέλιξη το 2022 κατέστησε δυνατή τη δημιουργία πλαστών εικόνες που ταίριαζε με περιγραφές όπως «Ένα ρακούν με επίσημα ρούχα με καπέλο, μπαστούνι και σακούλα σκουπιδιών. «Ελαιογραφία σε στυλ Ρέμπραντ (το αποτέλεσμα είναι στα αριστερά) και Βαν Γκογκ (το αποτέλεσμα είναι στα δεξιά).»
Η ακραία απλοποίηση της διαδικασίας διαγραφής της γραμμής μεταξύ αλήθειας και ψεύδους σε συνδυασμό με την αδυναμία της κριτικής σκέψης των ανθρώπων να αντιμετωπίσει την προπαγάνδα της τεχνητής νοημοσύνης θα οδηγήσει στην κυριαρχία της πανταχού παρούσαςdefiδυνατές και ανυπέρβλητες επιχειρήσεις επιρροής, τόσο στην πολιτική όσο και στις επιχειρήσεις.
Διαβάστε περισσότερα για το AI:
Αποποίηση ευθυνών
Σύμφωνα με το Οδηγίες του έργου Trust, σημειώστε ότι οι πληροφορίες που παρέχονται σε αυτήν τη σελίδα δεν προορίζονται και δεν πρέπει να ερμηνεύονται ως νομικές, φορολογικές, επενδυτικές, χρηματοοικονομικές ή οποιαδήποτε άλλη μορφή συμβουλής. Είναι σημαντικό να επενδύσετε μόνο ό,τι έχετε την πολυτέλεια να χάσετε και να αναζητήσετε ανεξάρτητες οικονομικές συμβουλές εάν έχετε οποιεσδήποτε αμφιβολίες. Για περισσότερες πληροφορίες, προτείνουμε να ανατρέξετε στους όρους και τις προϋποθέσεις, καθώς και στις σελίδες βοήθειας και υποστήριξης που παρέχονται από τον εκδότη ή τον διαφημιστή. MetaversePost δεσμεύεται για ακριβείς, αμερόληπτες αναφορές, αλλά οι συνθήκες της αγοράς υπόκεινται σε αλλαγές χωρίς προειδοποίηση.
Σχετικά με το Συγγραφέας
Ο Damir είναι ο αρχηγός της ομάδας, ο διευθυντής προϊόντων και ο συντάκτης στο Metaverse Post, καλύπτοντας θέματα όπως AI/ML, AGI, LLMs, Metaverse και Web3-σχετικά πεδία. Τα άρθρα του προσελκύουν ένα τεράστιο κοινό άνω του ενός εκατομμυρίου χρηστών κάθε μήνα. Φαίνεται να είναι ειδικός με 10ετή εμπειρία στο SEO και το ψηφιακό μάρκετινγκ. Ο Damir έχει αναφερθεί στο Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto και άλλες εκδόσεις. Ταξιδεύει μεταξύ των ΗΑΕ, της Τουρκίας, της Ρωσίας και της ΚΑΚ ως ψηφιακός νομάδας. Ο Damir απέκτησε πτυχίο στη φυσική, το οποίο πιστεύει ότι του έχει δώσει τις δεξιότητες κριτικής σκέψης που απαιτούνται για να είναι επιτυχής στο συνεχώς μεταβαλλόμενο τοπίο του Διαδικτύου.
Περισσότερα άρθρα
Ο Damir είναι ο αρχηγός της ομάδας, ο διευθυντής προϊόντων και ο συντάκτης στο Metaverse Post, καλύπτοντας θέματα όπως AI/ML, AGI, LLMs, Metaverse και Web3-σχετικά πεδία. Τα άρθρα του προσελκύουν ένα τεράστιο κοινό άνω του ενός εκατομμυρίου χρηστών κάθε μήνα. Φαίνεται να είναι ειδικός με 10ετή εμπειρία στο SEO και το ψηφιακό μάρκετινγκ. Ο Damir έχει αναφερθεί στο Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto και άλλες εκδόσεις. Ταξιδεύει μεταξύ των ΗΑΕ, της Τουρκίας, της Ρωσίας και της ΚΑΚ ως ψηφιακός νομάδας. Ο Damir απέκτησε πτυχίο στη φυσική, το οποίο πιστεύει ότι του έχει δώσει τις δεξιότητες κριτικής σκέψης που απαιτούνται για να είναι επιτυχής στο συνεχώς μεταβαλλόμενο τοπίο του Διαδικτύου.
