Dario Amodei alerta para a lacuna de governança à medida que os avanços da IA superam as políticas públicas e defende reformas vinculativas nas áreas da segurança e da economia.
Em Breve
O CEO da Anthropic, Dario Amodei, descreve os riscos da IA e propõe uma regulamentação mais rigorosa, salvaguardas econômicas e coordenação global para gerenciar o rápido progresso da IA.
Dario Amodei, CEO da AntrópicoEm um novo ensaio, ele afirmou que a IA está avançando muito mais rápido do que os sistemas políticos conseguem acompanhar e argumentou que os formuladores de políticas devem se adaptar rapidamente à medida que os modelos de vanguarda começam a remodelar a segurança, a economia e as instituições públicas. Ele comparou a diferença de ritmo entre o desenvolvimento da IA e a legislação ao contraste entre os ágeis Hobbits e o lento Barbárvore, dizendo que essa discrepância se tornou cada vez mais urgente à medida que os modelos melhoram em programação, ciência e outras áreas do conhecimento.
O empresário enfatizou que os esforços políticos anteriores se limitavam, em grande parte, a medidas de transparência, controles de exportação e coleta de dados, pois os riscos ainda eram emergentes e incertos. Ele afirmou que o cenário mudou, apontando para as capacidades de modelos de vanguarda que revelaram sérias preocupações com a segurança cibernética e demonstraram que sistemas avançados de IA podem afetar a estabilidade financeira, a infraestrutura crítica e a segurança nacional. Ele argumentou que a próxima etapa das políticas públicas deve ir além da mera divulgação de informações e caminhar rumo a regras vinculativas para modelos de alto risco.
Regulação, perturbação econômica e prioridades políticas emergentes na era da IA.
Em relação à regulamentação e à segurança pública, Dario Amodei propôs uma estrutura semelhante à da supervisão da aviação, com testes obrigatórios por terceiros para modelos avançados antes da implementação. Ele afirmou que modelos acima de um determinado limite computacional devem ser avaliados quanto aos riscos de segurança cibernética, uso indevido de sistemas biológicos, perda de controle e pesquisa automatizada que possa amplificar essas ameaças. Ele também defendeu que os governos devem ter a capacidade de atrasar ou bloquear a implementação caso esses riscos sejam considerados inaceitáveis, exigindo, ao mesmo tempo, práticas de segurança robustas, simulações de intrusão (red teaming) regulares, testes de penetração e comunicação imediata de incidentes por parte dos desenvolvedores de IA.
O ensaio também abordou a disrupção econômica. Amodei afirmou que a inteligência artificial avançada poderia acelerar o crescimento, ao mesmo tempo que deslocaria um grande número de trabalhadores, substituindo o trabalho cognitivo humano mais rapidamente do que as tecnologias anteriores. Ele alertou que isso poderia gerar um mundo de crescimento muito rápido, aliado à desigualdade persistente, dificultando a garantia de que os benefícios sejam amplamente compartilhados. Ele defendeu que as políticas públicas devem se concentrar em mensuração, apoio à força de trabalho, seguro-desemprego, requalificação profissional e, possivelmente, apoio à renda a longo prazo, caso a demanda por mão de obra diminua significativamente.
Em outra seção, o CEO da Anthropic afirmou que a IA poderia acelerar o progresso científico, particularmente na biomedicina, mas que os sistemas regulatórios existentes podem ser lentos demais para lidar com uma onda de inovação assistida por IA. Ele propôs preparar agências de aprovação como o FDA e a EMA para aceitar simulações baseadas em IA, braços de controle sintéticos e outros métodos que poderiam encurtar o desenvolvimento de medicamentos sem comprometer a segurança.
Dario Amodei também alertou que a IA pode aumentar o poder do Estado e criar novos riscos às liberdades civis, incluindo armas autônomas, vigilância em massa e uso indevido da IA pelo governo. Ele defendeu regras de responsabilização mais rigorosas, limites ao uso doméstico de armas totalmente autônomas e proteções de privacidade mais rígidas.
Por fim, ele afirmou que as democracias devem trabalhar juntas em cadeias de suprimentos de IA, padrões de segurança e coordenação econômica, argumentando que a IA está se tornando uma tecnologia estratégica comparável à energia nuclear em sua importância geopolítica.
Aviso Legal
Em linha com a Diretrizes do Projeto Trust, observe que as informações fornecidas nesta página não se destinam e não devem ser interpretadas como aconselhamento jurídico, tributário, de investimento, financeiro ou qualquer outra forma. É importante investir apenas o que você pode perder e procurar aconselhamento financeiro independente se tiver alguma dúvida. Para mais informações, sugerimos consultar os termos e condições, bem como as páginas de ajuda e suporte fornecidas pelo emissor ou anunciante. MetaversePost está comprometida com relatórios precisos e imparciais, mas as condições de mercado estão sujeitas a alterações sem aviso prévio.
Sobre o autor
Alisa, jornalista dedicada do MPost, é especializada em criptomoedas, IA, investimentos e no vasto campo de Web3. Com um olhar atento às tendências e tecnologias emergentes, ela oferece uma cobertura abrangente para informar e envolver os leitores no cenário em constante evolução das finanças digitais.
Mais artigos
Alisa, jornalista dedicada do MPost, é especializada em criptomoedas, IA, investimentos e no vasto campo de Web3. Com um olhar atento às tendências e tecnologias emergentes, ela oferece uma cobertura abrangente para informar e envolver os leitores no cenário em constante evolução das finanças digitais.
