Pesquisa da Deloitte revela privacidade de dados como principal preocupação ética em IA generativa
Em Breve
A pesquisa sobre o estado de ética e confiança em tecnologia da Deloitte destaca os dilemas éticos que cercam a adoção de IA generativa.
Especialistas empresariais e técnicos relataram uma lacuna crescente entre a rápida integração da IA generativa e o desenvolvimento de diretrizes éticas
Deloitte's A última pesquisa, que abrange insights de mais de 1,700 profissionais técnicos e de negócios, destaca as preocupações éticas das tecnologias emergentes, com foco particular na IA generativa.
A "Estado de Ética e Confiança em TecnologiaAs conclusões do relatório revelam uma divisão crescente entre a rápida adoção da IA generativa e o atraso no desenvolvimento de princípios éticos que orientam a sua utilização.
Embora 74% dos entrevistados confirmem que as suas empresas começaram a testar IA generativa e 65% já a utilizam nas suas organizações, um número surpreendente de 56% não tem certeza ou não tem conhecimento dos padrões éticos da sua empresa relativamente a esta tecnologia.
A privacidade dos dados surge como a principal preocupação ética, com 22% dos entrevistados citando-a como a sua principal preocupação. No entanto, a importância atribuída à privacidade dos dados caiu de 19% no inquérito do ano anterior para apenas 7% este ano.
Apesar da apreensão, 39% dos entrevistados acreditam que as tecnologias cognitivas, incluindo a IA generativa, detêm o maior potencial para o bem social entre todas as tecnologias emergentes. No entanto, 57% consideram as tecnologias cognitivas como tendo o maior potencial para riscos éticos graves, refletindo um aumento substancial em relação aos 41% em 2022.
O estudo revela também que as organizações estão a adaptar-se à automação, retendo e melhorando as competências dos seus colaboradores, contrariando os receios de despedimento. Curiosamente, apenas 7% dos entrevistados listaram o deslocamento do emprego como uma das principais preocupações éticas relacionadas ao uso da IA generativa.
Além disso, a pesquisa indica uma mudança nas expectativas em relação ao envolvimento do governo na definição de padrões tecnológicos éticos. Embora apenas 27% dos entrevistados tenham relatado que suas empresas colaboram com entidades comerciais (abaixo dos 31% do ano passado), 71% acreditam que o governo deveria desempenhar um papel mais significativo na defipadrões éticos, um aumento em relação aos 61% da pesquisa do ano anterior.
À luz dessas descobertas, a prática de Ética de Confiança em Tecnologia da Deloitte pede maior colaboração entre as empresas para identificar riscos e estabelecer governança para tecnologias emergentes. Enfatiza os benefícios potenciais que podem ser obtidos através de esforços coletivos para garantir a adoção ética da IA, contribuindo, em última análise, para um mundo mais equitativo.
A prática Technology Trust Ethics da Deloitte oferece uma estrutura para ajudar as organizações a avaliar e implementar a tomada de decisões éticas no desenvolvimento, operação e governança de tecnologias emergentes.
Desafios éticos na IA generativa
No seu estado nascente e em grande parte não regulamentado, a IA generativa aumenta preocupações éticas. Desde questões de direitos de autor e “alucinações” perturbadoras até preconceitos nos dados de formação, ameaças à segurança cibernética, consequências ambientais e transparência limitada, o panorama ético da IA generativa está repleto de desafios.
As violações de direitos autorais e o uso indevido de dados prejudicaram o desenvolvimento da tecnologia, com algumas empresas de IA utilizando o trabalho e os dados pessoais dos criadores sem consentimento. Além disso, a IA generativa ocasionalmente começa a inventar coisas e se envolve em comportamentos indesejáveis, como gerar conteúdo ofensivo e espalhar informações erradas.
O preconceito nos dados de treinamento acrescenta outra camada de complexidade ética, perpetuando estereótipos e desrespeito. Na cibersegurança, as capacidades semelhantes às humanas da IA generativa apresentam vulnerabilidades, como demonstrado num incidente recente em que uma ferramenta enganou um trabalhador involuntário.
As preocupações ambientais também são importantes, com modelos generativos de IA consumindo grandes quantidades de energia, representando uma ameaça à sustentabilidade. Por último, a transparência limitada sobre a utilização de dados e os processos de formação levanta questões sobre a integridade dos dados e a precisão dos resultados gerados pela IA.
Aviso Legal
Em linha com a Diretrizes do Projeto Trust, observe que as informações fornecidas nesta página não se destinam e não devem ser interpretadas como aconselhamento jurídico, tributário, de investimento, financeiro ou qualquer outra forma. É importante investir apenas o que você pode perder e procurar aconselhamento financeiro independente se tiver alguma dúvida. Para mais informações, sugerimos consultar os termos e condições, bem como as páginas de ajuda e suporte fornecidas pelo emissor ou anunciante. MetaversePost está comprometida com relatórios precisos e imparciais, mas as condições de mercado estão sujeitas a alterações sem aviso prévio.
Sobre o autor
Agne é uma jornalista que cobre as últimas tendências e desenvolvimentos no metaverso, IA e Web3 indústrias para o Metaverse Post. Sua paixão por contar histórias a levou a realizar inúmeras entrevistas com especialistas nessas áreas, sempre buscando descobrir histórias emocionantes e envolventes. Agne é bacharel em literatura e possui ampla experiência em redação sobre uma ampla variedade de tópicos, incluindo viagens, arte e cultura. Ela também foi voluntária como editora da organização de direitos dos animais, onde ajudou a aumentar a conscientização sobre questões de bem-estar animal. Entre em contato com ela [email protegido].
Mais artigos
Agne é uma jornalista que cobre as últimas tendências e desenvolvimentos no metaverso, IA e Web3 indústrias para o Metaverse Post. Sua paixão por contar histórias a levou a realizar inúmeras entrevistas com especialistas nessas áreas, sempre buscando descobrir histórias emocionantes e envolventes. Agne é bacharel em literatura e possui ampla experiência em redação sobre uma ampla variedade de tópicos, incluindo viagens, arte e cultura. Ela também foi voluntária como editora da organização de direitos dos animais, onde ajudou a aumentar a conscientização sobre questões de bem-estar animal. Entre em contato com ela [email protegido].
