Observatori de Stanford: la IA conduirà a mentides omnipresents i propaganda irresistible el 2023
En breu
Les tecnologies AICG (generació de contingut d'intel·ligència artificial) faran que la veritat i la mentida siguin indistinguibles, tant per als individus com per a les societats de qualsevol escala.
Això crearà un entorn "post-veritat" en el qual la mentida i la propaganda esdevindran omnipresentsdefinoble i irresistible.
El fet que molta gent confiï més en la informació que prové d'Internet que no pas dels mitjans tradicionals és una preocupació important.
Els generadors d'imatges i vídeos basats en IA són cada cop més còmodes d'utilitzar, altament fiables i molt eficients.
Això els fa increïblement útils amb finalitats propagandístiques.
En el seu discurs a la comunitat global d'IA, el guru xinès d'IA Kai-Fu Lee va advertir que el món s'enfrontaria a un risc més greu que els riscos de guerra nuclear, fam o pandèmia ja el 2023. El risc és la generació de contingut d'intel·ligència artificial. (AICG). Les tecnologies d'AICG podrien fer que la veritat i la mentida no es distingeixin, tant per als individus com per a les societats de qualsevol escala.
El nou informe pel Centre de Seguretat i Tecnologia Emergent, OpenAI, i Stanford Internet Observatory, "Models de llenguatge generatiu i operacions d'influència automatitzades: amenaces emergents i mesures de mitigació potencials", ofereix una visió estratègica de l'escenari catastròfic descrit per Kai-Fu Lee.
| Article relacionat: El Congrés dels EUA vol crear una agència federal per regular la intel·ligència artificial |
L'informe detalla com és probable que es produeixi la caiguda de la humanitat a l'abisme de l'AICG. Les tecnologies AICG permetran generar grans quantitats de contingut indistinguibles del contingut generat per humans. Això crearà un entorn "post-veritat" en el qual la mentida i la propaganda esdevindran omnipresentsdefinoble i irresistible.
L'informe recomana una sèrie de mesures de mitigació, inclosa la regulació de l'ús de tecnologies AICG, l'augment de la transparència sobre el seu ús i el desenvolupament d'estàndards per al seu ús. Tanmateix, els autors de l'informe adverteixen que aquestes mesures només seran efectives si s'apliquen a escala mundial.
La publicació de l'informe arriba en un moment en què el món ja està lluitant per fer front a la propagació de la desinformació i la desinformació. La pandèmia de la COVID-19 ha anat acompanyada d'una proliferació d'informació falsa sobre el virus i els seus orígens, i les plataformes de xarxes socials han estat lluitant per evitar la propagació d'aquesta informació falsa.
La IA alterarà significativament el web
La mentida i la propaganda sempre han format part de la societat humana. Tanmateix, la disponibilitat i l'eficàcia de qualsevol operació d'influència (tant sobre els individus com sobre les societats) ha anat augmentant a causa del desenvolupament de tecnologies més sofisticades, especialment en l'àmbit de la intel·ligència artificial (IA).
| Article relacionat: OpenAIEl conseller delegat d' s afirma que el sistema educatiu s'ha d'adaptar ChatGPT, no prohibir-ho |
Tres factors principals contribueixen a l'aparició, la difusió i l'acceptació global de la mentida com a veritat:
- El desenvolupament d'imatges i vídeos basats en IA generadors que poden crear imatges i vídeos molt realistes de persones i esdeveniments que mai van passar.
- L'ús de les xarxes socials per difondre informació falsa a un gran nombre de persones molt ràpidament.
- El fet que ara molta gent confia més en la informació que prové d'Internet que en les fonts de mitjans tradicionals.
Com a resultat d'aquests factors, els generadors d'imatges i vídeos basats en IA són cada cop més còmodes d'utilitzar, altament fiables i altament eficients. Això els fa increïblement útils amb finalitats propagandístiques.
Ara és possible que qualsevol persona amb un ordinador i connexió a Internet pugui crear imatges i vídeos falsos que pràcticament no es distingeixen de la realitat. Això ha portat a una situació en la qual és molt difícil determinar què és cert i què no.
L'ús de les xarxes socials per difondre informació falsa també és una preocupació important. A causa de la manera com funcionen les xarxes socials, la informació falsa es pot propagar de manera molt ràpida i senzilla. Això fa que sigui difícil que la gent sàpiga què creure.
A continuació s'il·lustra com un desenvolupament revolucionari el 2022 va permetre crear falsificacions imatges que coincideix amb descripcions com "Un mapache amb roba formal amb un barret de copa, un bastó i una bossa d'escombraries. "Pintura a l'oli a l'estil de Rembrandt (el resultat és a l'esquerra) i Van Gogh (el resultat és a la dreta)."
L'extrema simplificació del procés d'esborrar la línia entre la veritat i la falsedat combinada amb la incapacitat del pensament crític de la gent per contrarestar la propaganda de la IA conduirà al domini de l'omnipresent, endefioperacions d'influència possibles i insuperables, tant en política com en els negocis.
Llegeix més sobre AI:
renúncia
En línia amb la Directrius del projecte Trust, si us plau, tingueu en compte que la informació proporcionada en aquesta pàgina no pretén ni s'ha d'interpretar com a assessorament legal, fiscal, d'inversió, financer o de cap altra forma. És important invertir només el que et pots permetre perdre i buscar assessorament financer independent si tens dubtes. Per obtenir més informació, us suggerim que feu referència als termes i condicions, així com a les pàgines d'ajuda i assistència proporcionades per l'emissor o l'anunciant. MetaversePost es compromet a fer informes precisos i imparcials, però les condicions del mercat estan subjectes a canvis sense previ avís.
About The Autor
Damir és el líder d'equip, cap de producte i editor de Metaverse Post, que cobreix temes com AI/ML, AGI, LLMs, Metaverse i Web3-camps relacionats. Els seus articles atrauen una audiència massiva de més d'un milió d'usuaris cada mes. Sembla ser un expert amb 10 anys d'experiència en SEO i màrqueting digital. Damir ha estat esmentat a Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto i altres publicacions. Viatja entre els Emirats Àrabs Units, Turquia, Rússia i la CEI com a nòmada digital. Damir va obtenir una llicenciatura en física, que creu que li ha donat les habilitats de pensament crític necessàries per tenir èxit en el paisatge en constant canvi d'Internet.
més articles
Damir és el líder d'equip, cap de producte i editor de Metaverse Post, que cobreix temes com AI/ML, AGI, LLMs, Metaverse i Web3-camps relacionats. Els seus articles atrauen una audiència massiva de més d'un milió d'usuaris cada mes. Sembla ser un expert amb 10 anys d'experiència en SEO i màrqueting digital. Damir ha estat esmentat a Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto i altres publicacions. Viatja entre els Emirats Àrabs Units, Turquia, Rússia i la CEI com a nòmada digital. Damir va obtenir una llicenciatura en física, que creu que li ha donat les habilitats de pensament crític necessàries per tenir èxit en el paisatge en constant canvi d'Internet.
