Líderes de IA alertam sobre riscos crescentes e preocupações éticas em avanços rápidos
Numa declaração política recente, figuras proeminentes no campo da IA, incluindo Bengio, Hinton, Russell, Harari e Kahneman, soaram o alarme sobre o rápido progresso e os crescentes riscos sociais associados à IA.
A IA está se desenvolvendo rapidamente. GPT-2 não conseguiam contar de 0 a 100 há quatro anos, mas os modelos modernos podem escrever códigos, criar imagens incríveis e oferecer orientação intelectual. E porque estamos numa corrida, o progresso pode ganhar ainda mais velocidade. Além disso, a IA avança mais rapidamente, por exemplo, auxiliando na programação de novos sistemas e na recolha de dados para a sua formação.
Quando o progresso atingir os níveis humanos, não há razão para pensar que irá abrandar ou parar. Em certas regiões, os sistemas artificiais já superaram os humanos neste aspecto, exibindo recursos como processamento mais rápido velocidades, maiores capacidades de processamento de dados e escalabilidade em grande escala. As empresas possuem os meios financeiros para implementar programas de formação que excedem em muito o limite atual.
Os autores acham que há uma boa chance de que surja um melhor generalista de IA nos próximos dez anos ou mais, superando as capacidades humanas em muitos domínios importantes.
O que acontecerá a seguir? Todas as vidas podem ser melhoradas se forem adequadamente geridas e distribuídas. A opção mal escolhida acarreta riscos significativos para os quais estamos mal preparados. Em vez de serem atribuídos à segurança e à prevenção de danos, recursos significativos estão a ser utilizados para construir sistemas de IA cada vez mais potentes. Isto precisa mudar; buscar habilidades por si só é insuficiente. E esse processo está demorando mais do que o esperado. Precisamos de planear riscos mais elevados antes que estes surjam, antecipando a escalada das ameaças actuais e o aparecimento de novas. Não temos o mesmo tempo para a IA, pois leva décadas para ser aceita em relação à mudança climática.
Existem numerosos riscos a nível social, incluindo um aumento da injustiça, uma deterioração da estabilidade e uma deterioração da percepção comum da realidade. Aqui, terroristas e criminosos estão envolvidos em atividades extensas. A IA poderia concentrar-se nas mãos de um pequeno número de intervenientes, levando ao aumento da desigualdade global, facilitando a guerra automatizada, a manipulação em massa adaptada a cada indivíduo e a vigilância omnipresente.
como autônomo A IA se torna mais sofisticada e é capaz de planejar, agir no mundo e atingir os seus objectivos, estes riscos só aumentarão. Estes objectivos podem não ser do nosso interesse e, no caso de maus actores, podem até ser prejudiciais. Atualmente não está claro como resolver o problema do alinhamento da IA, que envolve combinar o comportamento da IA com nossos objetivos intrincados. Além disso, é muito simples ignorar as precauções de segurança ao correr com a intenção de vencer.
O software comum é difícil de controlar pelos humanos, muito menos os sistemas sofisticados de IA que estão se tornando cada vez mais adeptos da engenharia social, do hacking, do engano e do planejamento estratégico. Isso é algo que os sistemas autônomos de IA podem aprender com as pessoas ou criar por conta própria.
Estes sistemas têm a capacidade de construir coligações com indivíduos e outros sistemas, conquistar a confiança, garantir financiamento e influenciar os decisores. Como um worm, eles são capazes de se auto-replicar em toda a rede. Grandes quantidades de código já foram escritas com a ajuda de assistentes de IA; no futuro, os sistemas poderão incorporar explorações em vários sistemas cruciais. Os sistemas de IA têm a capacidade de usar ou ameaçar armas biológicas ou autónomas em combate aberto. Esta é apenas uma continuação de os movimentos atuais em direção à pesquisa biológica, à inteligência artificial e à automação da guerra. As pessoas podem achar muito desafiador intervir e resistir.
Em muitos casos, estamos dispostos a dar-lhes as rédeas sem que tenham que pedir. Muitos indivíduos e empresas estão dispostos a implementar esses sistemas num ambiente competitivo, temendo que fiquem para trás em relação à concorrência.
O documento completo pode ser encontrado SUA PARTICIPAÇÃO FAZ A DIFERENÇA.
Aviso Legal
Em linha com a Diretrizes do Projeto Trust, observe que as informações fornecidas nesta página não se destinam e não devem ser interpretadas como aconselhamento jurídico, tributário, de investimento, financeiro ou qualquer outra forma. É importante investir apenas o que você pode perder e procurar aconselhamento financeiro independente se tiver alguma dúvida. Para mais informações, sugerimos consultar os termos e condições, bem como as páginas de ajuda e suporte fornecidas pelo emissor ou anunciante. MetaversePost está comprometida com relatórios precisos e imparciais, mas as condições de mercado estão sujeitas a alterações sem aviso prévio.
Sobre o autor
Damir é o líder de equipe, gerente de produto e editor da Metaverse Post, abordando tópicos como AI/ML, AGI, LLMs, Metaverse e Web3-Campos relacionados. Seus artigos atraem um grande público de mais de um milhão de usuários todos os meses. Ele parece ser um especialista com 10 anos de experiência em SEO e marketing digital. Damir foi mencionado em Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto e outras publicações. Ele viaja entre os Emirados Árabes Unidos, Turquia, Rússia e CEI como um nômade digital. Damir formou-se em física, o que ele acredita ter lhe dado as habilidades de pensamento crítico necessárias para ter sucesso no cenário em constante mudança da internet.
Mais artigos
Damir é o líder de equipe, gerente de produto e editor da Metaverse Post, abordando tópicos como AI/ML, AGI, LLMs, Metaverse e Web3-Campos relacionados. Seus artigos atraem um grande público de mais de um milhão de usuários todos os meses. Ele parece ser um especialista com 10 anos de experiência em SEO e marketing digital. Damir foi mencionado em Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto e outras publicações. Ele viaja entre os Emirados Árabes Unidos, Turquia, Rússia e CEI como um nômade digital. Damir formou-se em física, o que ele acredita ter lhe dado as habilidades de pensamento crítico necessárias para ter sucesso no cenário em constante mudança da internet.
