OpenAI Desenvolve Jailbreak GAN para neutralizar hackers de prompt, dizem rumores
Em Breve
OpenAI está desenvolvendo um novo sistema baseado em inteligência artificial para proteção contra “hackers imediatos” com um processo de várias etapas estratégia de jailbreak.
O Jailbreak GAN tem o potencial de detectar e combater ameaças antes que se tornem um problema sério e pode ser usado para formar sistemas de segurança eficazes.
OpenAI está realizando um novo projeto que pode revolucionar o mundo da segurança de dados. A empresa de pesquisa e desenvolvimento está desenvolvendo um novo sistema baseado em inteligência artificial para proteção contra “hackers imediatos” – hackers que usam mineração de dados e outros métodos para explorar os pontos fracos de vários sistemas online, como ChatGPT. Apelidado de “Jailbreak GAN”, o sistema utiliza uma rede adversária generativa (GAN) para gerar novas contramedidas para possíveis ataques.
GANs são uma forma de técnica de inteligência artificial que coloca duas redes uma contra a outra: um “gerador” que cria dados que o “discriminador” tenta identificar. Por meio dessa competição, os GANs são capazes de simular ambientes incrivelmente complexos que podem ser usados para estudar uma ampla gama de fenômenos.
No caso do Jailbreak GAN, o discriminador usa uma variedade de técnicas para detectar tentativas de hacking e lançar contramedidas. O gerador treina em vários conjuntos de dados, chats, bancos de dados e logs de nuvem diferentes, para desenvolver uma variedade de contramedidas para enganar alerta potencial hackers.
A equipe da OpenAI está tentando quebrar o desafio de hacking imediato com um multi-passo estratégia de jailbreak. Essa abordagem usa uma combinação de processamento de linguagem natural, algoritmos de aprendizado de máquina e técnicas de aprendizado por reforço para identificar possíveis vulnerabilidades e desenvolver soluções proativas. O componente GAN é então responsável por avaliar as contramedidas e atualizá-las continuamente a cada novo ataque.
Jailbreak GAN tem o potencial de detectar ameaças existentes e futuras antes que se tornem problemas sérios. À medida que a tecnologia amadurece, ela pode ser usada para formar a base de sistemas de segurança eficazes em sistemas online, semelhantes a antivírus ou outro software de proteção.
A equipe ainda não revelou que testou com sucesso a capacidade do sistema de detectar e combater tentativas específicas de hacking e está atualmente explorando maneiras de implantá-lo na natureza. Também é desconhecido se OpenAI está colaborando com empresas de segurança e parceiros corporativos para implantar o sistema GAN jailbreak em um ambiente seguro.
Recentemente, pesquisadores da Universidade de Ciência e Tecnologia de Hong Kong publicaram um artigo, “Ataques de privacidade com jailbreak em várias etapas ChatGPT”, no qual descreviam sistematicamente todos os ataques possíveis. E isso não é apenas uma banalidade modo DAN mas também um modo de desenvolvedor: maneiras de deduzir um modelo através de uma cadeia de raciocínio, etc.
- Dois meses atrás, os usuários do Reddit prompts de jailbreak compartilhados para desbloquear ChatGPT Modo de desenvolvedor e ativação 100% completa featured evitação de filtros.
Leia mais sobre IA:
Aviso Legal
Em linha com a Diretrizes do Projeto Trust, observe que as informações fornecidas nesta página não se destinam e não devem ser interpretadas como aconselhamento jurídico, tributário, de investimento, financeiro ou qualquer outra forma. É importante investir apenas o que você pode perder e procurar aconselhamento financeiro independente se tiver alguma dúvida. Para mais informações, sugerimos consultar os termos e condições, bem como as páginas de ajuda e suporte fornecidas pelo emissor ou anunciante. MetaversePost está comprometida com relatórios precisos e imparciais, mas as condições de mercado estão sujeitas a alterações sem aviso prévio.
Sobre o autor
Damir é o líder de equipe, gerente de produto e editor da Metaverse Post, abordando tópicos como AI/ML, AGI, LLMs, Metaverse e Web3-Campos relacionados. Seus artigos atraem um grande público de mais de um milhão de usuários todos os meses. Ele parece ser um especialista com 10 anos de experiência em SEO e marketing digital. Damir foi mencionado em Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto e outras publicações. Ele viaja entre os Emirados Árabes Unidos, Turquia, Rússia e CEI como um nômade digital. Damir formou-se em física, o que ele acredita ter lhe dado as habilidades de pensamento crítico necessárias para ter sucesso no cenário em constante mudança da internet.
Mais artigos
Damir é o líder de equipe, gerente de produto e editor da Metaverse Post, abordando tópicos como AI/ML, AGI, LLMs, Metaverse e Web3-Campos relacionados. Seus artigos atraem um grande público de mais de um milhão de usuários todos os meses. Ele parece ser um especialista com 10 anos de experiência em SEO e marketing digital. Damir foi mencionado em Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto e outras publicações. Ele viaja entre os Emirados Árabes Unidos, Turquia, Rússia e CEI como um nômade digital. Damir formou-se em física, o que ele acredita ter lhe dado as habilidades de pensamento crítico necessárias para ter sucesso no cenário em constante mudança da internet.
