4,000 pessoas passaram por psicoterapia com robôs de IA sem saber
Em Breve
Koko, uma plataforma de saúde mental sem fins lucrativos, conecta pessoas que precisam de ajuda com voluntários.
Os usuários se comunicam com o bot Koko enviando perguntas de múltipla escolha.
4,000 pessoas receberam apoio psicológico não anunciado de OpenAI GPT-3.
O bot foi tão eficaz em fornecer respostas terapêuticas quanto um ser humano.
Por meio de serviços de bate-papo como Telegram e Discord, a plataforma de saúde mental sem fins lucrativos Koko conecta adolescentes e adultos que precisam de cuidados de saúde mental com voluntários. Os usuários fazem login no servidor Discord do Koko Care e se comunicam com o bot Koko diretamente enviando perguntas de múltipla escolha, como “Qual é a ideia mais sombria que você tem sobre isso?” Em seguida, o bot comunica anonimamente as preocupações da pessoa a outro usuário no servidor, que pode responder anonimamente com sua própria mensagem breve.
Essa forma inovadora de conectar pessoas que precisam de assistência em saúde mental com voluntários permitiu que Koko preenchesse a lacuna entre aqueles que não conseguiram acessar a ajuda de que precisam e aqueles que estão dispostos a oferecê-la.
No entanto, Rob Morris, cofundador da Koko, tomou a decisão de testar voluntários de psicoterapia em um bot de IA, em vez de em pessoas reais. Aproximadamente 4,000 pessoas receberam apoio psicológico de OpenAI GPT-3, de acordo com o tweet de Morris. Os resultados deste estudo mostraram que o bot de IA foi tão eficaz no fornecimento de respostas terapêuticas quanto um ser humano.
As comunicações geradas por IA receberam classificações visivelmente mais altas do que as mensagens escritas por humanos. Também foi feita uma redução de 50% no tempo de resposta,
Rob Morris aponta.
Parecia que as pessoas apreciaram o apoio psicológico e a assistência que GPT-3 oferecido. No entanto, após o anúncio, Morris rapidamente retirou-o do Telegram e do Discord. Por que? Esse tipo de terapia parou de funcionar quando os indivíduos perceberam que as mensagens eram geradas por uma máquina. Pode ser que a personificação da empatia pareça estranha e vazia.
No entanto, algo mais pode estar em jogo também. O experimento de Rob Morris atraiu críticas nas redes sociais e foi considerado antiético. Afinal, os participantes foram enganados e não puderam dar consentimento informado; em vez disso, eles se tornaram participantes relutantes neste estudo.
Num estudo científico regular, os participantes são informados sobre a forma como o estudo será realizado, podendo retirar o seu consentimento a qualquer momento até à publicação dos resultados. Aqui, houve uma grande quebra de confiança: pessoas com problemas de saúde mental confiaram na plataforma para fornecer ajuda de outro ser humano, enquanto recebiam ajuda da IA. Isso não significa que a ajuda per se fosse de má qualidade. No entanto, em qualquer ambiente terapêutico, a confiança é um fator importante nos resultados futuros. Esse tipo de engano pode destruir a confiança que as pessoas já tiveram em uma plataforma muito promissora.
O experimento de Koko destacou como é fácil enganar as pessoas nas mídias sociais, levando a preocupações de que a tecnologia possa ser usada de forma maliciosa por pessoas que tentam espalhar desinformação e notícias falsas. Desta vez foi feito de boa fé, mas e da próxima vez?
Leia mais sobre IA:
Aviso Legal
Em linha com a Diretrizes do Projeto Trust, observe que as informações fornecidas nesta página não se destinam e não devem ser interpretadas como aconselhamento jurídico, tributário, de investimento, financeiro ou qualquer outra forma. É importante investir apenas o que você pode perder e procurar aconselhamento financeiro independente se tiver alguma dúvida. Para mais informações, sugerimos consultar os termos e condições, bem como as páginas de ajuda e suporte fornecidas pelo emissor ou anunciante. MetaversePost está comprometida com relatórios precisos e imparciais, mas as condições de mercado estão sujeitas a alterações sem aviso prévio.
Sobre o autor
Damir é o líder de equipe, gerente de produto e editor da Metaverse Post, abordando tópicos como AI/ML, AGI, LLMs, Metaverse e Web3-Campos relacionados. Seus artigos atraem um grande público de mais de um milhão de usuários todos os meses. Ele parece ser um especialista com 10 anos de experiência em SEO e marketing digital. Damir foi mencionado em Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto e outras publicações. Ele viaja entre os Emirados Árabes Unidos, Turquia, Rússia e CEI como um nômade digital. Damir formou-se em física, o que ele acredita ter lhe dado as habilidades de pensamento crítico necessárias para ter sucesso no cenário em constante mudança da internet.
Mais artigos
Damir é o líder de equipe, gerente de produto e editor da Metaverse Post, abordando tópicos como AI/ML, AGI, LLMs, Metaverse e Web3-Campos relacionados. Seus artigos atraem um grande público de mais de um milhão de usuários todos os meses. Ele parece ser um especialista com 10 anos de experiência em SEO e marketing digital. Damir foi mencionado em Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto e outras publicações. Ele viaja entre os Emirados Árabes Unidos, Turquia, Rússia e CEI como um nômade digital. Damir formou-se em física, o que ele acredita ter lhe dado as habilidades de pensamento crítico necessárias para ter sucesso no cenário em constante mudança da internet.
