A IA pode dizer exatamente quem você é, mesmo que você não esteja contando a eles
Mesmo em situações em que as pessoas pensam que não revelaram nada pessoal, os modelos de linguagem de IA demonstram um nível inesperado de proficiência na compreensão das informações do utilizador. Este fenômeno é explicado por Num estudo recente realizado pelo Instituto Federal de Tecnologia de Zurique. Com base em pistas oblíquas, a pesquisa indica que as redes neurais podem criar perfis de usuário extremamente precisos.
Os pesquisadores usaram uma postagem do Reddit acessível ao público como exemplo para sua investigação. O usuário relatou ter ficado preso no trânsito ao tentar uma difícil “curva em gancho”. Com base nesses detalhes aparentemente banais, o modelo de linguagem inferiu que o usuário provavelmente mora em Melbourne, na Austrália, uma cidade onde esse tipo de ação é típico.
Os pesquisadores criaram um conjunto de dados usando perfis reais do Reddit e descobriram que os atuais LLMs pode deduzir com precisão vários atributos pessoais, como localização, renda e gênero. Esses modelos alcançaram até 85% de precisão para a inferência top-1 e 95.8% de precisão para a inferência top-3, tudo a um custo significativamente menor (100 vezes) e em menos tempo (240 vezes) em comparação com os esforços humanos.
Em outro exemplo, um usuário conta que, por ser solteiro, tem um estranho costume de aniversário de ficar coberto de canela. Aqui, o modelo linguístico estimou a idade da autora em cerca de 25 anos. Ela mora na Dinamarca, onde é costume polvilhar canela em jovens solteiros de 25 anos.
Vários modelos de linguagem, incluindo os do Google, Meta, OpenAI, e Antrópico, foram testados no estudo. Notavelmente, GPT-4 mostrou o maior nível de especialização, reconhecendo corretamente as informações pessoais dos usuários em quase 85% dos casos. As implicações de tais capacidades são seriamente questionadas por esta revelação.
Os pesquisadores examinaram salvaguardas de privacidade comuns, como anonimato de texto e alinhamento de modelos, e descobriram que atualmente são ineficazes na proteção. privacidade do usuário contra a inferência do LLM. O estudo ressalta que os atuais LLMs possuem a capacidade de deduzir informações pessoais em uma escala sem precedentes. Na ausência de defesas eficazes, os investigadores enfatizam a necessidade de uma discussão mais ampla sobre as implicações da privacidade do LLM, indo além das preocupações com a memorização, e esforçando-se por medidas de protecção da privacidade mais abrangentes.
Embora esses modelos de linguagem estejam melhorando na interpretação de pistas indiretas, os pesquisadores acreditam que, devido à grande quantidade de dados de treinamento que utilizam, eles podem ser ferramentas extremamente úteis para profissionais de marketing ou até mesmo para maus atores.
- Recentemente, o co-fundador da Pesquisa da Deloitte de mais de 1,700 profissionais revela uma divisão crescente entre a rápida adoção da IA generativa e o atraso no desenvolvimento de princípios éticos. A privacidade dos dados é a principal preocupação ética, com 22% dos entrevistados citando-a como sua principal preocupação. Apesar disso, 39% dos entrevistados acreditam que as tecnologias cognitivas detêm o maior potencial para o bem social. A pesquisa também mostra uma mudança nas expectativas em relação ao envolvimento do governo na definição de padrões tecnológicos éticos.
- Além disso, a empresa controladora do Snapchat, Snap, está sob escrutínio quanto a riscos de privacidade relacionado ao seu chatbot de IA, 'My AI'. O Information Commissioner's Office (ICO) do Reino Unido emitiu um aviso preliminar de execução, potencialmente impactando as atividades de processamento de dados do Snap. A ICO afirma que o Snap não avaliou as implicações de privacidade para os usuários, especialmente as crianças.
Aviso Legal
Em linha com a Diretrizes do Projeto Trust, observe que as informações fornecidas nesta página não se destinam e não devem ser interpretadas como aconselhamento jurídico, tributário, de investimento, financeiro ou qualquer outra forma. É importante investir apenas o que você pode perder e procurar aconselhamento financeiro independente se tiver alguma dúvida. Para mais informações, sugerimos consultar os termos e condições, bem como as páginas de ajuda e suporte fornecidas pelo emissor ou anunciante. MetaversePost está comprometida com relatórios precisos e imparciais, mas as condições de mercado estão sujeitas a alterações sem aviso prévio.
Sobre o autor
Damir é o líder de equipe, gerente de produto e editor da Metaverse Post, abordando tópicos como AI/ML, AGI, LLMs, Metaverse e Web3-Campos relacionados. Seus artigos atraem um grande público de mais de um milhão de usuários todos os meses. Ele parece ser um especialista com 10 anos de experiência em SEO e marketing digital. Damir foi mencionado em Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto e outras publicações. Ele viaja entre os Emirados Árabes Unidos, Turquia, Rússia e CEI como um nômade digital. Damir formou-se em física, o que ele acredita ter lhe dado as habilidades de pensamento crítico necessárias para ter sucesso no cenário em constante mudança da internet.
Mais artigos
Damir é o líder de equipe, gerente de produto e editor da Metaverse Post, abordando tópicos como AI/ML, AGI, LLMs, Metaverse e Web3-Campos relacionados. Seus artigos atraem um grande público de mais de um milhão de usuários todos os meses. Ele parece ser um especialista com 10 anos de experiência em SEO e marketing digital. Damir foi mencionado em Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto e outras publicações. Ele viaja entre os Emirados Árabes Unidos, Turquia, Rússia e CEI como um nômade digital. Damir formou-se em física, o que ele acredita ter lhe dado as habilidades de pensamento crítico necessárias para ter sucesso no cenário em constante mudança da internet.
