OpenAI revela sua mais recente abordagem para garantir a segurança da IA
Em Breve
OpenAI lançou uma postagem no blog descrevendo sua abordagem aprimorada em relação à segurança após preocupações recentes em relação à segurança, privacidade e investigações.
A empresa se compromete a realizar testes rigorosos, contratar especialistas externos para obter feedback e trabalhar com os governos para determinar o melhor abordagem para regulamentos de IA.
Depois de enfrentar preocupações relacionadas à segurança e privacidade e seguir investigações recentes em alguns países europeus, OpenAI tem liberado uma postagem no blog descrevendo a abordagem aprimorada da empresa em relação à segurança.
OpenAI compromete-se a realizar testes rigorosos, contratar especialistas externos para obter feedback antes de lançar qualquer novo sistema e trabalhar com os governos para determinar a melhor abordagem para as regulamentações de IA.
Anteriormente a empresa passou mais de seis meses trabalhando na segurança e no alinhamento de seu modelo mais recente GPT-4, antes de divulgá-lo publicamente. Para garantir a segurança do seu mais novo modelo de linguagem, GPT-4, OpenAI contratado uma equipe de mais de 50 especialistas: especialistas em segurança, ética e políticas de IA, incluindo pesquisadores e engenheiros.
“Crucialmente, acreditamos que a sociedade deve ter tempo para se atualizar e se ajustar a uma IA cada vez mais capaz, e que todos os afetados por essa tecnologia devem ter uma opinião significativa sobre como a IA se desenvolve ainda mais”, disse.
OpenAI escrevi.
OpenAIFoco na segurança e privacidade das crianças
Itália banida ChatGPT, citando OpenAIA não verificação da idade dos seus utilizadores, apesar de ser destinada a indivíduos com 13 anos ou mais, é um dos motivos. Um foco crítico dos esforços de segurança da empresa mudou para a proteção das crianças através da implementação de opções de verificação de idade, que OpenAI está explorando agora, especialmente porque as ferramentas de IA são destinadas a indivíduos com 18 anos ou mais ou 13 anos ou mais com aprovação dos pais.
A empresa proíbe estritamente a geração de conteúdo de ódio, assédio, violência ou adulto, e GPT-4 já tem uma probabilidade 82% menor de responder a solicitações de conteúdo não permitido em comparação com GPT-3. 5.
OpenAI estabeleceu um sistema robusto para monitorar abusos e espera fazer GPT-4 disponível para mais pessoas ao longo do tempo. A empresa trabalha com desenvolvedores em mitigações de segurança personalizadas, como a organização sem fins lucrativos Khan Academy, e está trabalhando em recursos que permitam padrões mais rígidos para resultados de modelos.
Melhorar a privacidade é outro aspecto da segurança OpenAI está se concentrando, especialmente depois da recente violação de dados. Os grandes modelos de linguagem da empresa de IA são treinados em uma enorme quantidade de texto que inclui conteúdo disponível ao público, conteúdo licenciado e conteúdo gerado por revisores humanos; ele usa dados para tornar os modelos de IA mais úteis para as pessoas.
OpenAI está tomando medidas para proteger a privacidade dos indivíduos, removendo informações pessoais de seus dados de treinamento, ajustando modelos para rejeitar solicitações de informações pessoais e excluindo informações pessoais de seus sistemas mediante solicitação. Isso reduz a chance de os modelos de IA gerarem respostas que incluam informações pessoais.
OpenAIabordagem de abordar as questões de segurança da IA é pesquisar mitigações eficazes e técnicas de alinhamento e teste-as contra o abuso do mundo real. Também se compromete a ser cada vez mais cauteloso na criação e implantação de modelos mais capazes e aprimorar as precauções de segurança. A governança eficaz do desenvolvimento e implantação da IA é essencial para garantir a segurança, o que requer inovação técnica e institucional.
Leia mais:
Aviso Legal
Em linha com a Diretrizes do Projeto Trust, observe que as informações fornecidas nesta página não se destinam e não devem ser interpretadas como aconselhamento jurídico, tributário, de investimento, financeiro ou qualquer outra forma. É importante investir apenas o que você pode perder e procurar aconselhamento financeiro independente se tiver alguma dúvida. Para mais informações, sugerimos consultar os termos e condições, bem como as páginas de ajuda e suporte fornecidas pelo emissor ou anunciante. MetaversePost está comprometida com relatórios precisos e imparciais, mas as condições de mercado estão sujeitas a alterações sem aviso prévio.
Sobre o autor
Agne é uma jornalista que cobre as últimas tendências e desenvolvimentos no metaverso, IA e Web3 indústrias para o Metaverse Post. Sua paixão por contar histórias a levou a realizar inúmeras entrevistas com especialistas nessas áreas, sempre buscando descobrir histórias emocionantes e envolventes. Agne é bacharel em literatura e possui ampla experiência em redação sobre uma ampla variedade de tópicos, incluindo viagens, arte e cultura. Ela também foi voluntária como editora da organização de direitos dos animais, onde ajudou a aumentar a conscientização sobre questões de bem-estar animal. Entre em contato com ela [email protegido].
Mais artigos
Agne é uma jornalista que cobre as últimas tendências e desenvolvimentos no metaverso, IA e Web3 indústrias para o Metaverse Post. Sua paixão por contar histórias a levou a realizar inúmeras entrevistas com especialistas nessas áreas, sempre buscando descobrir histórias emocionantes e envolventes. Agne é bacharel em literatura e possui ampla experiência em redação sobre uma ampla variedade de tópicos, incluindo viagens, arte e cultura. Ela também foi voluntária como editora da organização de direitos dos animais, onde ajudou a aumentar a conscientização sobre questões de bem-estar animal. Entre em contato com ela [email protegido].
