Uma pausa de 6 meses no treinamento de IA é uma boa ideia, mas pode não ser suficiente
Em Breve
A história da petição e a divulgação do artigo de Yudkovsky polarizaram a sociedade.
O dilema do prisioneiro e a teoria dos jogos sugerem que é necessária uma massa crítica de pessoas sãs em diferentes lugares para que tais problemas sejam resolvidos.
No entanto, existem alguns porém nessa ideia, como a falta de consciência, vontade e agência na evolução digital.
A história do petição para parar de desenvolver sistemas de IA mais avançados do que GPT-4 polarizou visivelmente a sociedade. O lançamento de Yudkovsky artigo pedindo o encerramento do desenvolvimento de GPT modelos colocaram lenha na fogueira, especialmente suas passagens sobre o bombardeio de data centers.
Pelo que se pode observar online, parece haver muito menos apoiadores da petição do que opositores, que têm três argumentos principais:
| 1 | – O progresso não pode ser interrompido. – A petição foi inventada por OpenAI concorrentes. – A China não vai esperar. |
| 2 | – Você não deve ter medo da IA, mas das pessoas. - GPT não tem consciência, vontade, aspirações ou agência, portanto não há nada a temer. - GPT-4 está insanamente longe de escravizar o mundo porque não entende nada, comete erros bobos e geralmente é bastante estúpido. - GPT-4 não será capaz de governar o mundo porque não tem braços/pernas. |
| 3 | – O terceiro grupo não entende como GPT-4 opera em primeiro lugar. |
Não vamos nos concentrar no terceiro grupo porque sua postura vem da ignorância. Isso não quer dizer que todos os oponentes de IA saibam tudo sobre IA; você pode encontrar muitas pessoas anti-IA que não entendem a tecnologia e o que ela implica, embora o próprio Yudkovsky seja muito mais profundo no tópico da IA, então ele não pode ser acusado de ignorância.
Vamos dar uma olhada no primeiro grupo de pessoas – aqueles que acreditam que o progresso não pode ser interrompido. Eles oferecem argumentos diferentes, mas semelhantes e, em geral, essas pessoas não negam as capacidades da IA e as perspectivas que sua adoção traz e acreditam que o desenvolvimento da IA continuará, não importa o que aconteça.
A primeira tese sobre o progresso imparável é um slogan que não precisa ser verdadeiro. As pessoas parecem ter interrompido alguns experimentos científicos, e muitos projetos de pesquisa antes aceitos não são mais considerados éticos, e outros semelhantes nunca seriam permitidos hoje. No entanto, quanto mais progresso no passado foi interrompido pela Inquisição e outras perseguições religiosas, proibições de livros e assassinatos de cientistas na China (e em outros países)? Isso é algo que nunca seremos capazes de compreender totalmente devido ao viés de sobrevivência.
Outras teses envolvem a abordagem que pode ser resumida como “se não nós, serão eles”. Embora essa linha de pensamento possa ser mais compreensível, também não parece ser a solução certa. É muito semelhante ao dilema do prisioneiro na teoria dos jogos.
O segundo grupo de argumentos é o mais interessante. Embora eu pessoalmente concorde com isso até certo ponto, há alguns mas que precisam ser abordados. Sim, a IA não tem consciência, vontade, agência, etc. Nem o COVID-19, e ainda assim causou estragos em todo o mundo. Algo não precisa ter um senso de ação e consciência para se tornar perigoso; um cenário em que a vida na Terra é exterminada por causa de um vírus não é inimaginável. Uma vez feito seu trabalho, ele pode colocar as cadeiras nas mesas, apagar as luzes e partir para sempre.
Continuando a analogia biológica, há um artigo maravilhoso, “The Surprising Creativity of Digital Evolution: A Collection of Anecdotes from the Evolutionary Computation and Artificial Life Research Communities”, que fornece muitos exemplos de quando os processos seguem em uma direção inesperada. Mesmo sem um processo evolutivo, tudo pode ir para a generalização errada “Geralização de metas: por que especificações corretas não são suficientes para metas corretas”. Dar rédea solta a um processo de otimização pode dar errado é discutido em “Riscos da otimização aprendida em sistemas avançados de aprendizado de máquina. "
Ao mesmo tempo, geralmente não consideramos os riscos de uso malicioso de IA e qualquer mau uso, o que apenas alimenta o argumento de que precisamos ter medo das pessoas e não da própria IA. No entanto, a verdade é que a IA pode ser ruim mesmo sem pessoas mal-intencionadas.
Também concordo com o facto de o modelo cometer erros estúpidos, mas os humanos também cometem, e ainda assim sabemos que eles podem causar danos. Embora os modelos cometam muitos erros, eles também podem resolver muitos problemas incríveis, interessantes e complexos que a pessoa comum não consegue resolver. Do notório trabalho “Sparks of Artificial General Intelligence: Early Experiments with GPT-4,” Fiquei impressionado com o fato de a IA ser capaz de resolver, embora nem sempre corretamente, problemas de Fermi, problemas matemáticos bastante complexos. Sua teoria da mente e “uma espécie de capacidade de compreender” as ações dos outros também são muito impressionantes. Todas essas coisas apontam para a inteligência da IA; existente, mas não exatamente como o nosso.
Eliminar pelo menos alguns dos erros que os modelos de IA cometem geralmente é factível, então sua inteligência só pode crescer. Tudo o que você precisa fazer é adicionar um módulo para cálculos precisos, uma base de fatos e validação com outro modelo.
O mais importante em toda esta história é a velocidade de desenvolvimento da IA. GPT modelos cresceram tremendamente a um ritmo vertiginoso. Agora estão aí ChatGPT plugins disponível, você pode usar GPT modelos para escrever código, APIs estão disponíveis ao grande público e você pode usar ferramentas externas sem nenhum treinamento prévio.
GPT-4, claro, não vai conquistar o mundo, mas pode abalar bastante a economia. GPT-5, e a iteração futura do modelo, podem não estar muito à frente e provavelmente virão com habilidades muito mais fortes. E, convenhamos, não podemos esperar compreender os modelos ainda não existentes; não chegamos nem perto de entender os modelos que já existem. Nesse sentido, uma pausa de seis meses pode ser uma boa ideia, mas simplesmente pode não ser suficiente.
E dado que o corrida de IA começou, não há tempo para aprender.
Em geral, em vista de tudo isso, também assinei a petição. Embora eu não acredite que isso vá ajudar de alguma forma.
Leia mais tópicos relacionados:
Aviso Legal
Em linha com a Diretrizes do Projeto Trust, observe que as informações fornecidas nesta página não se destinam e não devem ser interpretadas como aconselhamento jurídico, tributário, de investimento, financeiro ou qualquer outra forma. É importante investir apenas o que você pode perder e procurar aconselhamento financeiro independente se tiver alguma dúvida. Para mais informações, sugerimos consultar os termos e condições, bem como as páginas de ajuda e suporte fornecidas pelo emissor ou anunciante. MetaversePost está comprometida com relatórios precisos e imparciais, mas as condições de mercado estão sujeitas a alterações sem aviso prévio.
Sobre o autor
Damir é o líder de equipe, gerente de produto e editor da Metaverse Post, abordando tópicos como AI/ML, AGI, LLMs, Metaverse e Web3-Campos relacionados. Seus artigos atraem um grande público de mais de um milhão de usuários todos os meses. Ele parece ser um especialista com 10 anos de experiência em SEO e marketing digital. Damir foi mencionado em Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto e outras publicações. Ele viaja entre os Emirados Árabes Unidos, Turquia, Rússia e CEI como um nômade digital. Damir formou-se em física, o que ele acredita ter lhe dado as habilidades de pensamento crítico necessárias para ter sucesso no cenário em constante mudança da internet.
Mais artigos
Damir é o líder de equipe, gerente de produto e editor da Metaverse Post, abordando tópicos como AI/ML, AGI, LLMs, Metaverse e Web3-Campos relacionados. Seus artigos atraem um grande público de mais de um milhão de usuários todos os meses. Ele parece ser um especialista com 10 anos de experiência em SEO e marketing digital. Damir foi mencionado em Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto e outras publicações. Ele viaja entre os Emirados Árabes Unidos, Turquia, Rússia e CEI como um nômade digital. Damir formou-se em física, o que ele acredita ter lhe dado as habilidades de pensamento crítico necessárias para ter sucesso no cenário em constante mudança da internet.
