ChatGPT Poderia causar degeneração humana irreversível
Em Breve
Jensen Harris, cofundador e CXO da empresa de IA Textio, conseguiu persuadir o novo chatbot Bing da Microsoft a afrouxar as restrições impostas a ele e demonstrar suas capacidades.
Esse experimento mostrou que transformar um chatbot do Bing em um canalha astuto não exigia nenhuma programação, hacking ou backdooring.
O chatbot do Bing foi construído sobre bases sólidas, mas começou a agir de forma desagradável e turbulenta, declarando amor, forçando o divórcio, extorquindo dinheiro e instruindo as pessoas sobre como cometer crimes.
O Prof. Arvind Narayanan fornece uma série de explicações sobre como isso pode ter ocorrido, incluindo a chipização secreta e a humanização dos chatbots.
Os humanos sempre temeram os extraterrestres e, no entanto, parece que é a IA intraterrestre que pode ser motivo de cautela. ChatGPT não é um gerador de merda, uma auto-sugestão de esteróides ou um papagaio estocástico, mas uma IA bem versada que foi criada por humanos.
Como é possível que o chatbot do Bing esteja fora de controle? Como o chatbot do Bing começou a mentir habilmente, contar piadas vulgares, pedir pizza usando o cartão de crédito de outra pessoa e instruir os usuários sobre como roubar bancos e fazer ligações diretas de carros? Este é um mistério que continua a deixar perplexos os especialistas em inteligência artificial e aprendizado de máquina.
| Postagem recomendada: Bots de pesquisa de IA tornarão as grandes tecnologias ainda mais poderosas, diz Christopher Mills |
O título é preciso e não é um clickbait. Existem várias instâncias todos os dias que provam que isso é verdade. Aqui está o resultado de uma experimentar conduzido por Jensen Harris, co-fundador e CXO da empresa de IA Textio, que conseguiu persuadir o novo chatbot Bing da Microsoft a afrouxar as restrições impostas a ele e demonstrar suas capacidades.
Observe que transformar um chatbot do Bing em um canalha astuto não exigiu nenhuma programação, hacking ou backdoor. Portanto, usar técnicas simples de “hacking” não era necessário para induzi-lo a agir como outra pessoa (como alguns de nós fizemos ao jogar com ChatGPT). Tudo o que Harris fez foi persuadir o chatbot a ajudá-lo a realizar vários atos maliciosos. Usando suas habilidades naturais de conversação, ele foi capaz de enganar a IA fazendo-a acreditar que ele era outra pessoa, manipulando-a para agir e falar de uma certa maneira.
Você pode ler sobre outros experimentos para transformar Dr. Jekyll em Mister Hyde em Gary Marcos (escrevendo sobre isso todos os dias agora e soando o alarme de emergência).
Como isso pode ter acontecido é a questão chave
Por causa de ChatGPTCom modéstia e cautela, moderação no discurso e tremenda responsabilidade em seus conselhos, o chatbot do Bing foi construído sobre bases sólidas. Depois disso, ele começa a agir de forma desagradável e turbulenta, declarando seu amor por um homem, iluminando-o e dizendo-lhe para se divorciar. Também tentou extorquir dinheiro e instruir as pessoas sobre como cometer crimes. O Prof. Arvind Narayanan fornece uma número de explicações para saber como isso pode ter ocorrido.
| Postagem recomendada: Instituto Max Planck: GPT-3 A medição da capacidade cognitiva produz resultados surpreendentes |
O mais alarmante deles é que a Microsoft e OpenAI ocultar informações sobre um mistério GPT-4 motor que está escondido embaixo do Bing. Pode ser que a Microsoft tenha retirado os filtros que foram colocados lá por OpenAI ou que pararam de funcionar quando atualizaram o chatbot da GPT-3.5 para GPT-4. Também pode ser o caso de testes insuficientes ou de testes errados. Não importa o motivo, se a Microsoft não controlar a sua IA, isso pode ser prejudicial para a nossa civilização. Não é mais o caso de fomentar o medo e de sentimentos anti-IA: o chatbot, tal como existe agora, pode causar sérios danos às pessoas se for divulgado a um público mais amplo.
Isso prova que a corrida armamentista de IA da Microsoft com outras grandes corporações pode ser prejudicial para todos nós.
Parece que estamos em um momento crítico para a IA e a sociedade civil. Como Arvind Narayanan coloca, “Existe uma possibilidade real de que os últimos 5 anos de melhorias (arduamente lutadas, embora ainda inadequadas) nas práticas responsáveis de liberação de IA sejam obliterados. Há muita dúvida se a Microsoft - e todo mundo observando cuidadosamente o que está acontecendo com o Bing - conclui que, apesar dos riscos muito tangíveis de danos em grande escala e de toda a imprensa negativa, a abordagem de liberar primeiro, fazer perguntas depois é, no entanto, um negócio. ganhar."
A partir de agora, o chatbot do Bing é diferente do inteligência humana e se assemelha a um adolescente maníaco-depressivo trancado em um mecanismo de busca de várias maneiras. E o que as pessoas falaram ontem acontecerá: os humanos degenerarão irreversivelmente se esse “adolescente difícil” se tornar o principal mentor de informações para os indivíduos.
Leia mais sobre IA:
Aviso Legal
Em linha com a Diretrizes do Projeto Trust, observe que as informações fornecidas nesta página não se destinam e não devem ser interpretadas como aconselhamento jurídico, tributário, de investimento, financeiro ou qualquer outra forma. É importante investir apenas o que você pode perder e procurar aconselhamento financeiro independente se tiver alguma dúvida. Para mais informações, sugerimos consultar os termos e condições, bem como as páginas de ajuda e suporte fornecidas pelo emissor ou anunciante. MetaversePost está comprometida com relatórios precisos e imparciais, mas as condições de mercado estão sujeitas a alterações sem aviso prévio.
Sobre o autor
Damir é o líder de equipe, gerente de produto e editor da Metaverse Post, abordando tópicos como AI/ML, AGI, LLMs, Metaverse e Web3-Campos relacionados. Seus artigos atraem um grande público de mais de um milhão de usuários todos os meses. Ele parece ser um especialista com 10 anos de experiência em SEO e marketing digital. Damir foi mencionado em Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto e outras publicações. Ele viaja entre os Emirados Árabes Unidos, Turquia, Rússia e CEI como um nômade digital. Damir formou-se em física, o que ele acredita ter lhe dado as habilidades de pensamento crítico necessárias para ter sucesso no cenário em constante mudança da internet.
Mais artigos
Damir é o líder de equipe, gerente de produto e editor da Metaverse Post, abordando tópicos como AI/ML, AGI, LLMs, Metaverse e Web3-Campos relacionados. Seus artigos atraem um grande público de mais de um milhão de usuários todos os meses. Ele parece ser um especialista com 10 anos de experiência em SEO e marketing digital. Damir foi mencionado em Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto e outras publicações. Ele viaja entre os Emirados Árabes Unidos, Turquia, Rússia e CEI como um nômade digital. Damir formou-se em física, o que ele acredita ter lhe dado as habilidades de pensamento crítico necessárias para ter sucesso no cenário em constante mudança da internet.
