Especialistas em IA e figuras públicas alertam sobre o risco de extinção da IA
Em Breve
Especialistas proeminentes em IA e figuras influentes expressam suas opiniões compartilhadas preocupações sobre os riscos associados à IA.
Apesar do progresso significativo na IA, muitos desafios relacionados ao risco de IA permanecem sem solução.
Proeminentes especialistas em IA e figuras públicas emitiram uma declaração alertando que a IA pode representar uma ameaça à sobrevivência da humanidade, comparável ou até maior do que os riscos de pandemias e guerra nuclear. Os 350 signatários argumentam que a IA pode ter consequências imprevistas e catastróficas, como o lançamento de armas autônomas, a interrupção de sistemas sociais e econômicos ou a criação de agentes superinteligentes que podem ser mais espertos e dominar os humanos.
Eles pedem que os formuladores de políticas levem esses riscos a sério e adotem medidas para garantir o desenvolvimento seguro e benéfico da IA. O afirmação é assinado por algumas das principais figuras em pesquisa e desenvolvimento de IA, como OpenAI O CEO Sam Altman, o cofundador do Skype Jaan Tallinn, o CEO da DeepMind Demis Hassabis e o cientista da computação de IA Geoffrey Hinton, bem como personalidades públicas influentes, como o músico Grimes e o podcaster Sam Harris.
Entre os signatários estavam os vencedores do Prêmio Turing de 2018 por suas contribuições ao aprendizado profundo: Geoffrey Hinton e Yoshua Bengio. Eles se juntaram a professores de universidades de prestígio, como Harvard e Tsinghua University, na China, além de Max Tegmark, do MIT.
“Mitigar o risco de extinção da IA deve ser uma prioridade global, juntamente com outros riscos em escala social, como pandemias e guerra nuclear”, disse.
refere a carta publicada pelo CAIS.
O Centro de Segurança de IA (CAIS), uma organização sem fins lucrativos com sede em San Francisco, visa abordar as questões de segurança relacionadas à inteligência artificial. Embora reconhecendo os potenciais benefícios da IA, o CAIS enfatiza a necessidade de desenvolvê-la e utilizá-la com segurança. Apesar dos avanços significativos na IA, vários desafios fundamentais na segurança da IA permanecem sem solução, acredita a empresa. De acordo com seu site, a missão do CAIS é mitigar riscos realizando pesquisas de segurança, promovendo uma comunidade de pesquisadores de segurança de IA e defendendo padrões de segurança.
“Existem muitos “riscos importantes e urgentes da IA”, não apenas o risco de extinção; por exemplo, viés sistêmico, desinformação, uso malicioso, ataques cibernéticos e armamento. Todos esses são riscos importantes que precisam ser abordados. As sociedades podem gerenciar vários riscos ao mesmo tempo; não é “ou/ou” mas “sim/e”. Do ponto de vista da gestão de riscos, assim como seria imprudente priorizar exclusivamente os danos presentes, também seria imprudente ignorá-los”,
Dan Hendrycks, diretor do CAIS escreveu no Twitter.
Em março, mais de 1,100 especialistas em tecnologia assinado uma carta aberta exigindo a suspensão de seis meses do treinamento de sistemas de IA que superam GPT-4. Os legisladores europeus também recentemente aprovou projeto de legislação mais rigoroso, conhecido como AI Act, que regulamenta ferramentas de IA como ChatGPT. A lei inclui requisitos para verificações de segurança, governança de dados e mitigação de riscos para modelos fundamentais de IA e proíbe práticas como técnicas de manipulação e certos usos de biometria.
Leia mais:
- OpenAI revela sua mais recente abordagem para garantir a segurança da IA
- O Google vai anunciar um gerador de texto para avatar para jogadores?
- O CodeWhisperer da Amazon oferece aos desenvolvedores a vantagem de que precisam na arena de IA
- Vitalik Buterin e o diretor do MIRI, Nate Soares, investigam os perigos da IA
Aviso Legal
Em linha com a Diretrizes do Projeto Trust, observe que as informações fornecidas nesta página não se destinam e não devem ser interpretadas como aconselhamento jurídico, tributário, de investimento, financeiro ou qualquer outra forma. É importante investir apenas o que você pode perder e procurar aconselhamento financeiro independente se tiver alguma dúvida. Para mais informações, sugerimos consultar os termos e condições, bem como as páginas de ajuda e suporte fornecidas pelo emissor ou anunciante. MetaversePost está comprometida com relatórios precisos e imparciais, mas as condições de mercado estão sujeitas a alterações sem aviso prévio.
Sobre o autor
Agne é uma jornalista que cobre as últimas tendências e desenvolvimentos no metaverso, IA e Web3 indústrias para o Metaverse Post. Sua paixão por contar histórias a levou a realizar inúmeras entrevistas com especialistas nessas áreas, sempre buscando descobrir histórias emocionantes e envolventes. Agne é bacharel em literatura e possui ampla experiência em redação sobre uma ampla variedade de tópicos, incluindo viagens, arte e cultura. Ela também foi voluntária como editora da organização de direitos dos animais, onde ajudou a aumentar a conscientização sobre questões de bem-estar animal. Entre em contato com ela [email protegido].
Mais artigos
Agne é uma jornalista que cobre as últimas tendências e desenvolvimentos no metaverso, IA e Web3 indústrias para o Metaverse Post. Sua paixão por contar histórias a levou a realizar inúmeras entrevistas com especialistas nessas áreas, sempre buscando descobrir histórias emocionantes e envolventes. Agne é bacharel em literatura e possui ampla experiência em redação sobre uma ampla variedade de tópicos, incluindo viagens, arte e cultura. Ela também foi voluntária como editora da organização de direitos dos animais, onde ajudou a aumentar a conscientização sobre questões de bem-estar animal. Entre em contato com ela [email protegido].
