Universidade de Cornell: a IA é a melhor arma de decepção, contra a qual somos impotentes
Em Breve
O experimento de Stanford revelou uma vulnerabilidade intransponível da intuição linguística das pessoas, revelando a baixa probabilidade de identificar a autoria da IA.
Isso se deve à capacidade da IA como ChatGPT fabricar falsificações com tanta habilidade que as pessoas são incapazes de diferenciá-las da verdade.
O novo “experimento de Stanford” revelou uma vulnerabilidade intransponível da intuição linguística das pessoas. Com isso, a probabilidade de identificarmos a autoria da IA fica muito diminuída.
Existem inúmeras preocupações para o mundo hoje como resultado da ChatGPT revolução. O mais evidente é que IA como ChatGPT é capaz de fabricar falsificações com tanta habilidade que as pessoas são incapazes de diferenciá-las da verdade. Os resultados dos ensaios realizados demonstraram a enorme capacidade do ChatGPT super capacidade de enganar. No entanto, não estava claro como esse superpoder funcionava – o que a IA possui que pode fazer pessoas altamente inteligentes e instruídas acreditarem no que ela está fazendo?
Um novo “experimento de Stanford” foi conduzido pelo Stanford Social Networking Lab em colaboração com o Cornell University Research Center para responder a essa pergunta.
O resultado de uma série de seis experimentos envolvendo 4,600 pessoas é sensacional e deprimente.
As pessoas foram encarregadas de determinar se as autoapresentações foram escritas por uma pessoa ou por uma IA. De acordo com os pesquisadores, a autoapresentação é um dos elementos mais pessoais e conseqüentes da comunicação linguística porque nossa atitude em relação a qualquer declaração depende em grande parte de quem (como acreditamos) é seu autor.
No centro da percepção linguística das pessoas estão as heurísticas. O termo heurística refere-se aos atalhos mentais que as pessoas usam para chegar a decisões, resolver problemas e fazer julgamentos. Ajuda as pessoas a aliviar sua carga de trabalho mental e evitar sobrecarga cognitiva.
“Uma análise computacional dos recursos da linguagem mostra que os julgamentos humanos da linguagem gerada por IA são prejudicados por heurísticas intuitivas, mas falhas, como associar pronomes de primeira pessoa, uso de contrações ou tópicos familiares com linguagem escrita por humanos”, diz o estudo. Experimentos mostraram que, ao perceber um texto escrito por IA, as pessoas usam automaticamente a mesma heurística de quando se comunicam com outras pessoas. E este é um erro fundamental. O fato é que essas são heurísticas intuitivas para nós, e a IA as lê facilmente e opera com elas como uma tabuada.
Como resultado, a IA pode usar heurística para criar textos que as pessoas percebem como “mais humanos do que humanos”. Isso aumenta muito o potencial enganoso de textos e falas de IA, encorajando-nos a confiar mais nessa “pessoa mais humana” do que nas declarações de pessoas reais.
As chances de as pessoas identificarem uma autoapresentação escrita por IA são 50/50. As coisas são ainda piores nas comunicações românticas das pessoas. Quase 70% de adultos não consegue distinguir entre uma carta de amor escrita por ChatGPT e uma carta escrita por uma pessoa.
Leia mais sobre ChatGPT:
Aviso Legal
Em linha com a Diretrizes do Projeto Trust, observe que as informações fornecidas nesta página não se destinam e não devem ser interpretadas como aconselhamento jurídico, tributário, de investimento, financeiro ou qualquer outra forma. É importante investir apenas o que você pode perder e procurar aconselhamento financeiro independente se tiver alguma dúvida. Para mais informações, sugerimos consultar os termos e condições, bem como as páginas de ajuda e suporte fornecidas pelo emissor ou anunciante. MetaversePost está comprometida com relatórios precisos e imparciais, mas as condições de mercado estão sujeitas a alterações sem aviso prévio.
Sobre o autor
Damir é o líder de equipe, gerente de produto e editor da Metaverse Post, abordando tópicos como AI/ML, AGI, LLMs, Metaverse e Web3-Campos relacionados. Seus artigos atraem um grande público de mais de um milhão de usuários todos os meses. Ele parece ser um especialista com 10 anos de experiência em SEO e marketing digital. Damir foi mencionado em Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto e outras publicações. Ele viaja entre os Emirados Árabes Unidos, Turquia, Rússia e CEI como um nômade digital. Damir formou-se em física, o que ele acredita ter lhe dado as habilidades de pensamento crítico necessárias para ter sucesso no cenário em constante mudança da internet.
Mais artigos
Damir é o líder de equipe, gerente de produto e editor da Metaverse Post, abordando tópicos como AI/ML, AGI, LLMs, Metaverse e Web3-Campos relacionados. Seus artigos atraem um grande público de mais de um milhão de usuários todos os meses. Ele parece ser um especialista com 10 anos de experiência em SEO e marketing digital. Damir foi mencionado em Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto e outras publicações. Ele viaja entre os Emirados Árabes Unidos, Turquia, Rússia e CEI como um nômade digital. Damir formou-se em física, o que ele acredita ter lhe dado as habilidades de pensamento crítico necessárias para ter sucesso no cenário em constante mudança da internet.
