Observatorul Stanford: AI va duce la minciuni omniprezente și propagandă irezistibilă în 2023
Pe scurt
Tehnologiile AICG (generarea de conținut de inteligență artificială) vor face adevărul și minciunile să nu se distingă, atât pentru indivizi, cât și pentru societățile de orice scară.
Acest lucru va crea un mediu „post-adevăr” în care minciunile și propaganda vor deveni omniprezente, îndefiabil și irezistibil.
Faptul că mulți oameni au mai multă încredere în informațiile care provin de pe internet decât din media tradițională este o preocupare majoră.
Generatoarele de imagini și video bazate pe inteligență artificială devin din ce în ce mai convenabile de utilizat, foarte fiabile și extrem de eficiente.
Acest lucru le face incredibil de utile în scopuri propagandistice.
În discursul său adresat comunității globale de inteligență artificială, guru chinez al inteligenței artificiale Kai-Fu Lee a avertizat că lumea se va confrunta cu un risc mai serios decât riscurile de război nuclear, foamete sau pandemie încă din 2023. Riscul este generarea de conținut de inteligență artificială. (AICG). Tehnologiile AICG ar putea face adevărul și minciunile să nu se distingă, atât pentru indivizi, cât și pentru societățile de orice scară.
raport nou de Centrul pentru Securitate și Tehnologie Emergentă, OpenAI, și Stanford Internet Observatory, „Generative Language Models and Automated Influence Operations: Emerging Threats and Potential Mitigation Measures”, oferă o perspectivă strategică asupra scenariului catastrofal descris de Kai-Fu Lee.
| Articol asociat: Congresul SUA vrea să creeze o agenție federală care să reglementeze inteligența artificială |
Raportul detaliază cum va avea loc probabil căderea umanității în abisul AICG. Tehnologiile AICG vor face posibilă generarea unor cantități mari de conținut care nu se pot distinge de conținutul generat de oameni. Acest lucru va crea un mediu „post-adevăr” în care minciunile și propaganda vor deveni omniprezente, îndefiabil și irezistibil.
Raportul recomandă o serie de măsuri de atenuare, inclusiv reglementarea utilizării tehnologiilor AICG, creșterea transparenței cu privire la utilizarea lor și dezvoltarea standardelor pentru utilizarea lor. Cu toate acestea, autorii raportului avertizează că aceste măsuri vor fi eficiente doar dacă sunt implementate la scară globală.
Publicarea raportului vine într-un moment în care lumea se luptă deja să facă față răspândirii dezinformarii și dezinformării. Pandemia de COVID-19 a fost însoțită de o proliferare de informații false despre virus și originile sale, iar platformele de socializare s-au luptat pentru a preveni răspândirea acestor informații false.
AI va modifica semnificativ web-ul
Minciunile și propaganda au făcut întotdeauna parte din societatea umană. Cu toate acestea, disponibilitatea și eficacitatea oricăror operațiuni de influență (atât asupra indivizilor, cât și asupra societăților) au crescut datorită dezvoltării unor tehnologii mai sofisticate, în special în domeniul inteligenței artificiale (AI).
| Articol asociat: OpenAICEO-ul lui afirmă că sistemul de învățământ ar trebui să se adapteze la ChatGPT, nu-l interzice |
Trei factori majori contribuie la apariția, răspândirea și acceptarea minciunii la nivel global ca adevăr:
- Dezvoltarea imaginilor și videoclipurilor bazate pe inteligență artificială Generatoare care poate crea imagini și videoclipuri extrem de realiste cu oameni și evenimente care nu s-au întâmplat niciodată.
- Utilizarea rețelelor sociale pentru a disemina informații false către un număr mare de oameni foarte rapid.
- Faptul că mulți oameni au acum mai multă încredere în informațiile care provin de pe internet decât din sursele media tradiționale.
Ca urmare a acestor factori, generatoarele de imagini și video bazate pe inteligență artificială devin din ce în ce mai convenabile de utilizat, mai fiabile și mai eficiente. Acest lucru le face incredibil de utile în scopuri propagandistice.
Acum este posibil ca oricine are un computer și o conexiune la internet să creeze imagini și videoclipuri false care nu se pot distinge practic de realitate. Acest lucru a dus la o situație în care este foarte dificil să se determine ce este adevărat și ce nu.
Utilizarea rețelelor sociale pentru a disemina informații false este, de asemenea, o preocupare majoră. Datorită modului în care funcționează rețelele sociale, informațiile false se pot răspândi foarte rapid și ușor. Acest lucru face dificil pentru oameni să știe ce să creadă.
Următoarele ilustrează modul în care o dezvoltare revoluționară din 2022 a făcut posibilă crearea de falsuri imagini care se potriveau cu descrieri precum „Un raton în haine formale, cu o pălărie de top, un baston și un sac de gunoi. „Pictură în ulei în stilul lui Rembrandt (rezultatul este în stânga) și Van Gogh (rezultatul este în dreapta).”
Simplificarea extremă a procesului de ștergere a graniței dintre adevăr și minciună combinată cu incapacitatea gândirii critice a oamenilor de a contracara propaganda AI va duce la dominarea omniprezentului, îndefioperațiuni de influență capabile și insurmontabile, atât în politică, cât și în afaceri.
Citiți mai multe despre AI:
Declinare a responsabilităţii
În conformitate cu Ghidurile proiectului Trust, vă rugăm să rețineți că informațiile furnizate pe această pagină nu sunt destinate și nu trebuie interpretate ca fiind consiliere juridică, fiscală, investițională, financiară sau orice altă formă de consiliere. Este important să investești doar ceea ce îți poți permite să pierzi și să cauți sfaturi financiare independente dacă ai îndoieli. Pentru informații suplimentare, vă sugerăm să consultați termenii și condițiile, precum și paginile de ajutor și asistență furnizate de emitent sau agent de publicitate. MetaversePost se angajează să raporteze corecte, imparțial, dar condițiile de piață pot fi modificate fără notificare.
Despre autor
Damir este liderul echipei, manager de produs și editor la Metaverse Post, care acoperă subiecte precum AI/ML, AGI, LLM-uri, Metaverse și Web3-domenii conexe. Articolele sale atrag o audiență masivă de peste un milion de utilizatori în fiecare lună. El pare a fi un expert cu 10 ani de experiență în SEO și marketing digital. Damir a fost menționat în Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto și alte publicații. Călătorește între Emiratele Arabe Unite, Turcia, Rusia și CSI ca nomad digital. Damir a obținut o diplomă de licență în fizică, despre care crede că i-a oferit abilitățile de gândire critică necesare pentru a avea succes în peisajul în continuă schimbare al internetului.
Mai multe articole
Damir este liderul echipei, manager de produs și editor la Metaverse Post, care acoperă subiecte precum AI/ML, AGI, LLM-uri, Metaverse și Web3-domenii conexe. Articolele sale atrag o audiență masivă de peste un milion de utilizatori în fiecare lună. El pare a fi un expert cu 10 ani de experiență în SEO și marketing digital. Damir a fost menționat în Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto și alte publicații. Călătorește între Emiratele Arabe Unite, Turcia, Rusia și CSI ca nomad digital. Damir a obținut o diplomă de licență în fizică, despre care crede că i-a oferit abilitățile de gândire critică necesare pentru a avea succes în peisajul în continuă schimbare al internetului.
