Especialistas em tecnologia assinam carta aberta pedindo pausa temporária no treinamento de sistemas de IA mais avançados do que GPT-4
Em Breve
Mais de 1100 signatários assinaram a carta aberta pedindo uma pausa nos gigantescos experimentos de IA.
Os signatários incluem Elon Musk, Steve Wozniak e Emad Mostaque, entre outros.
A carta aberta levantou preocupações sobre distorções de informação por parte da IA, automação de trabalho e o risco da IA para a civilização humana.
Mais de 1,100 signatários, incluindo os principais especialistas em tecnologia, assinaram um acordo carta aberta pedindo uma pausa de seis meses no treinamento de sistemas de IA mais avançados do que GPT-4.
A carta foi escrita pelo Future of Life Institute, uma organização sem fins lucrativos que trabalha para reduzir os riscos catastróficos e existenciais globais que a humanidade enfrenta, particularmente o risco existencial da inteligência artificial avançada.
Citando os amplamente endossados Princípios de IA de Asilomar, que afirmam que “A IA avançada pode representar uma mudança profunda na história da vida na Terra e deve ser planejada e gerenciada com cuidados e recursos proporcionais”, a carta diz que o nível de planejamento e gestão não está acontecendo.
A carta prossegue afirmando que os laboratórios de IA estão numa corrida “descontrolada” para desenvolver uma inteligência artificial cada vez mais poderosa que ninguém consegue compreender, prever ou controlar de forma fiável. Como os sistemas contemporâneos de IA como GPT-4 pode competir com humanos em tarefas gerais, a carta levanta preocupações sobre vieses de informação por IA, automação de trabalho e o risco de perder o controle da civilização humana.
“Apelamos a todos os laboratórios de IA para interromperem imediatamente por pelo menos 6 meses o treinamento de sistemas de IA mais poderosos do que GPT-4. Esta pausa deve ser pública e verificável e incluir todos os principais intervenientes. Se tal pausa não puder ser decretada rapidamente, os governos devem intervir e instituir uma moratória”,
os estados da carta.
A carta implora aos laboratórios de IA e especialistas em tecnologia que usem o período de pausa para desenvolver e implementar protocolos de segurança para design e desenvolvimento avançados de IA que são rigorosamente auditados e supervisionados por especialistas externos independentes.
No entanto, o jornalista americano Jeff Jarvis criticou a carta, dizendo que é um “espécime principal de pânico moral”.
Algumas das principais mentes em tecnologia e aprendizado de máquina que assinaram a carta ao lado de cientistas de pesquisa da DeepMind e vários professores universitários de todo o mundo incluem:
- Yoshua Bengio, University of Montréal, Turing Laureate pelo desenvolvimento de deep learning, chefe do Montreal Institute for Learning Algorithms
- Stuart Russell, Berkeley, professor de Ciência da Computação, diretor do Centro de Sistemas Inteligentes e co-autor do livro padrão “Inteligência Artificial: uma Abordagem Moderna”
- Elon Musk, CEO da SpaceX, Tesla e Twitter
- Emad Mostaque, CEO, Stability AI
- Jaan Tallinn, co-fundador do Skype, Centro para o Estudo do Risco Existencial, Future of Life Institute
- Gary Marcus, Universidade de Nova York, pesquisador de IA, professor emérito
- Marc Rotenberg, Centro de IA e Política Digital (CAIDP), Presidente
Em um artigo do carta recente, Rotenberg escreveu que o CAIDP apresentará uma reclamação à Federal Trade Commission, pedindo uma investigação sobre Open AI e ChatGPT, bem como a proibição de novas liberações comerciais do produto até que as salvaguardas sejam estabelecidas.
OpenAI O CEO Sam Altman tem admitiu que “também precisamos de tempo suficiente para nossas instituições descobrirem o que fazer” e que a sociedade não está longe de ferramentas de IA generativas “potencialmente assustadoras”.
“Estamos pedindo à FTC que “aperte o botão de pausa” para que haja uma oportunidade para nossas instituições, nossas leis e nossa sociedade se atualizarem. Precisamos afirmar a agência sobre as tecnologias que criamos antes de perdermos o controle”, afirma a carta do CAIDP.
Em outros lugares, legisladores da UE pretendem assinar um acordo com os países da UE até o final do ano para implementar as regras da IA, embora possa encontrar um gargalo à medida que os debates sobre como a IA deve ser governada se intensificam.
Leia mais:
Aviso Legal
Em linha com a Diretrizes do Projeto Trust, observe que as informações fornecidas nesta página não se destinam e não devem ser interpretadas como aconselhamento jurídico, tributário, de investimento, financeiro ou qualquer outra forma. É importante investir apenas o que você pode perder e procurar aconselhamento financeiro independente se tiver alguma dúvida. Para mais informações, sugerimos consultar os termos e condições, bem como as páginas de ajuda e suporte fornecidas pelo emissor ou anunciante. MetaversePost está comprometida com relatórios precisos e imparciais, mas as condições de mercado estão sujeitas a alterações sem aviso prévio.
Sobre o autor
Cindy é jornalista da Metaverse Post, abordando temas relacionados web3, NFT, metaverso e IA, com foco em entrevistas com Web3 players da indústria. Ela conversou com mais de 30 executivos de nível C e continua aumentando, trazendo seus valiosos insights aos leitores. Originária de Cingapura, Cindy agora mora em Tbilisi, na Geórgia. Ela é bacharel em Estudos de Comunicação e Mídia pela University of South Australia e tem uma década de experiência em jornalismo e redação. Entre em contato com ela através [email protegido] com arremessos de imprensa, anúncios e oportunidades de entrevista.
Mais artigos
Cindy é jornalista da Metaverse Post, abordando temas relacionados web3, NFT, metaverso e IA, com foco em entrevistas com Web3 players da indústria. Ela conversou com mais de 30 executivos de nível C e continua aumentando, trazendo seus valiosos insights aos leitores. Originária de Cingapura, Cindy agora mora em Tbilisi, na Geórgia. Ela é bacharel em Estudos de Comunicação e Mídia pela University of South Australia e tem uma década de experiência em jornalismo e redação. Entre em contato com ela através [email protegido] com arremessos de imprensa, anúncios e oportunidades de entrevista.
