Dan Hendrycks: Escolhendo entre IA e humanos, a evolução não nos escolherá
Em Breve
A pesquisa de Dan Hendrycks “A seleção natural prefere a inteligência artificial às pessoas” é uma conclusão assustadora.
Ele é um pesquisador experiente e conhecido que publicou dezenas de artigos científicos sobre a avaliação da segurança de sistemas de IA.
A pesquisa de Dan Hendrycks soa como uma sentença de morte para o Homo Sapiens. A conclusão do estudo “Seleção Natural favorece AIs em detrimento de humanos” é realmente assustador. Isso foi escrito não por um visionário popular como Dan Brown, mas por Dan Hendrycks, diretor do California Center for AI Security (CAIS), uma organização sem fins lucrativos especializada em pesquisa e trabalho de campo em segurança de IA.
Dan Hendrycks não é um lunático marginal em pânico com os avanços da IA. Ele é um pesquisador experiente e amplamente respeitado que publicou dezenas de artigos científicos sobre a avaliação da segurança de sistemas de IA - testando o quão bons eles são em codificação, raciocínio, compreensão de leis, etc. Entre outras coisas, ele também é o co-inventor de as Unidades de Erro Linear Gaussiano (GELU).
Jack Clark, co-fundador da ChatGPT A concorrente Anthropic, co-presidente do Índice de IA da Universidade de Stanford, co-presidente da seção de IA e Computação da OCDE e membro do Comitê Consultivo Nacional de IA do governo dos EUA discute a conclusão do estudo de Hendrycks. “As pessoas, por reflexo, querem descartar tal declaração como vindo de algum lunático de olhos arregalados que vive em uma cabana na floresta. Eu gostaria de refutar isso com antecedência. Quando um especialista com experiência não apenas em pesquisa de IA, mas também em avaliando a segurança dos sistemas de IA escreve um artigo argumentando que os futuros sistemas de IA podem agir de forma egoísta e não de acordo com os interesses das pessoas, devemos cuidar disso!
Um resumo do artigo de Hendrycks:
- Se os agentes de IA se tornarem mais inteligente que os humanos, isso pode levar a humanidade a perder o controle de seu futuro.
- Isso tem uma boa chance de acontecer não como resultado de alguma intenção maliciosa especial de pessoas ou máquinas, mas apenas como resultado da aplicabilidade dos princípios evolutivos de desenvolvimento à IA de acordo com a lógica darwiniana.
- Para minimizar o risco disso, as motivações intrínsecas dos agentes de IA precisam ser cuidadosamente projetadas, restrições impostas às suas ações e instituições criadas para encorajar a colaboração da IA.
Ou seja, os pontos mais significativos que Hendrycks faz em seu artigo científico de 43 páginas:
1. Tínhamos medo da chegada do Exterminador do Futuro, mas os fundamentos desses medos estavam errados. Ocorreram dois erros:
a. Antropomorfização da IA com atribuição de nossas motivações a ela, etc. - como ChatGPT mostrou, a IA é uma mente fundamentalmente diferente, com todas as consequências que dela advêm.
b. A ideia de que a IA é uma espécie de entidade única: inteligente ou não muito inteligente, gentil ou não muito gentil, mas, na verdade, essas entidades de IA muito diferentes logo estarão no mundo tanto quanto possível.
2. Há outra falha fundamental em nossas ideias sobre o futuro com IA — esquecemos o mecanismo de desenvolvimento mais importante — a evolução, que impulsiona o desenvolvimento não apenas de bioagentes, mas também de ideias e significados, ferramentas materiais e instituições não materiais.
3. Um ambiente já começou a se formar na Terra, no qual muitas IAs irão se desenvolver e evoluir. Esta evolução seguirá a lógica de Darwin, através da competição de IA entre si, tendo em conta os interesses das suas instituições “mães”: corporações, militares, etc.
4. A lógica da evolução competitiva levará ao mesmo que nos humanos: agentes de IA cada vez mais inteligentes se tornarão cada vez mais egoístas e prontos para atingir objetivos por engano e força, sendo o objetivo principal o poder.
5. A seleção natural dos agentes de IA tende a favorecer as espécies mais egoístas em detrimento das mais altruístas. Os agentes de IA se comportarão de forma egoísta e perseguirão seus próprios interesses com pouca consideração pelos humanos, o que pode levar a riscos catastróficos para a humanidade.
- A petição parar de desenvolver sistemas de IA mais avançados do que GPT-4 polarizou a sociedade. O primeiro grupo acredita que o progresso não pode ser interrompido, enquanto outro acredita que o progresso, e por vezes deveria, ser interrompido. O terceiro grupo não entende como GPT-4 opera em primeiro lugar. Os detalhes mais importantes neste texto são que a IA não tem consciência, vontade ou agência e que pode ser má mesmo sem pessoas mal-intencionadas.
- Geoffrey Hinton é frequentemente chamado de “Padrinho da IA” e é considerado uma figura importante na comunidade de aprendizado profundo. Sua entrevista de 40 minutos de ChatGPT é único porque é fácil de entender e tem uma profundidade de compreensão acessível a poucos. Ele destaca a importância da “revolução intelectual” em curso e a inteligência desumana de ChatGPT, que é baseado em um agente artificialmente inteligente com recursos avançados de comunicação digital.
Leia mais artigos relacionados:
Aviso Legal
Em linha com a Diretrizes do Projeto Trust, observe que as informações fornecidas nesta página não se destinam e não devem ser interpretadas como aconselhamento jurídico, tributário, de investimento, financeiro ou qualquer outra forma. É importante investir apenas o que você pode perder e procurar aconselhamento financeiro independente se tiver alguma dúvida. Para mais informações, sugerimos consultar os termos e condições, bem como as páginas de ajuda e suporte fornecidas pelo emissor ou anunciante. MetaversePost está comprometida com relatórios precisos e imparciais, mas as condições de mercado estão sujeitas a alterações sem aviso prévio.
Sobre o autor
Damir é o líder de equipe, gerente de produto e editor da Metaverse Post, abordando tópicos como AI/ML, AGI, LLMs, Metaverse e Web3-Campos relacionados. Seus artigos atraem um grande público de mais de um milhão de usuários todos os meses. Ele parece ser um especialista com 10 anos de experiência em SEO e marketing digital. Damir foi mencionado em Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto e outras publicações. Ele viaja entre os Emirados Árabes Unidos, Turquia, Rússia e CEI como um nômade digital. Damir formou-se em física, o que ele acredita ter lhe dado as habilidades de pensamento crítico necessárias para ter sucesso no cenário em constante mudança da internet.
Mais artigos
Damir é o líder de equipe, gerente de produto e editor da Metaverse Post, abordando tópicos como AI/ML, AGI, LLMs, Metaverse e Web3-Campos relacionados. Seus artigos atraem um grande público de mais de um milhão de usuários todos os meses. Ele parece ser um especialista com 10 anos de experiência em SEO e marketing digital. Damir foi mencionado em Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto e outras publicações. Ele viaja entre os Emirados Árabes Unidos, Turquia, Rússia e CEI como um nômade digital. Damir formou-se em física, o que ele acredita ter lhe dado as habilidades de pensamento crítico necessárias para ter sucesso no cenário em constante mudança da internet.
