AI Black Box: o que é e como funciona
Em Breve
Caixas pretas de IA são sistemas que operam sem o conhecimento do usuário, como o aprendizado de máquina, que é composto por um algoritmo, dados de treinamento e um modelo.
As caixas pretas são importantes para a segurança do software, pois podem ser usadas para fazer engenharia reversa de software e descobrir falhas a serem exploradas, e podem ser usadas por testadores de software e hackers para encontrar pontos fracos.
Para muitos, o termo “caixa preta” refere-se a dispositivos de gravação em aviões que são valiosos para exames post-mortem se o impensável acontecer. Para outros, é um pequeno teatro minimamente mobiliado. No entanto, as caixas pretas também são vitais para a inteligência artificial.
caixas pretas de IA são sistemas que operam sem o conhecimento do usuário. Você pode alimentá-los com entrada e obter saída, mas não pode examinar o código do sistema ou a lógica usada para gerar a saída.
Aprendizado de máquinas é o tipo dominante de inteligência artificial. Ele compreende um algoritmo ou um conjunto de algoritmos, dados de treinamento e um modelo.
- Um algoritmo é uma sequência de procedimentos. Depois de treinado, um algoritmo é capaz de reconhecer padrões conhecidos.
- O treinamento dados, é o conjunto de dados usado para treinar o modelo de IA.
- Um algoritmo de aprendizado de máquina é, em essência, um procedimento projetado para aprender com um grande número de exemplos e produzir um modelo de aprendizado de máquina. Um modelo de aprendizado de máquina é o que as pessoas usam depois de criado.
Um algoritmo de reconhecimento de imagem pode ser programado para descobrir tendências de imagem, e os dados de treinamento podem representar fotos de cães. Você alimentaria uma imagem como entrada e obteria como saída se e onde na imagem um conjunto de pixels parece representar um cachorro.
Como os algoritmos de aprendizado de máquina são conhecidos publicamente, ocultar caixas pretas é menos eficaz. Como os engenheiros de IA frequentemente escondem sua propriedade intelectual em caixas pretas, eles geralmente colocam o modelo em uma. Outra forma de os desenvolvedores de software dissimular data é obscurecendo os dados que são usados para treinar o modelo – em outras palavras, colocando os dados de treinamento em uma caixa preta.
É difícil entender como funcionam os algoritmos de caixa preta, mas isso não é exatamente preto no branco.
Uma caixa de vidro refere-se a um sistema cujos algoritmos, dados de treinamento e modelos são acessíveis publicamente, enquanto uma caixa preta se refere a um sistema cujos algoritmos, dados de treinamento e modelos estão ocultos. O termo caixa preta é frequentemente usado quando os pesquisadores descrevem até mesmo esses aspectos de um sistema de IA como pretos.
Há uma escassez de conhecimento sobre como os algoritmos de aprendizado de máquina, particularmente algoritmos de aprendizagem profunda, função. Os pesquisadores estão desenvolvendo algoritmos que, embora não sejam necessariamente caixas de vidro, podem ser melhor compreendidos por humanos.
Por que as caixas pretas de IA são importantes?
Nem sempre é uma boa ideia confiar em algoritmos e modelos de aprendizado de máquina de caixa preta. E se um modelo de aprendizado de máquina que determina se você se qualifica para um empréstimo comercial de um banco o recusar? Você gostaria de saber para poder recorrer melhor da decisão ou mudar sua situação para aumentar suas chances de conseguir um empréstimo na próxima vez.
Manter o software em uma caixa preta foi pensado para impedir que hackers o examinem e, portanto, torná-lo seguro. No entanto, os hackers podem Engenharia reversa software – ou seja, estudar de perto como um pedaço de software funciona – e descobrir falhas para explorar. As caixas pretas também têm implicações importantes para a segurança do sistema de software.
É possível para testadores de software e hackers bem-intencionados olhar dentro de uma caixa de vidro usada para testar software para encontrar pontos fracos, reduzindo assim os ataques cibernéticos.
Leia mais artigos relacionados:
- NFT Caixas misteriosas: o que são e onde comprar
- 15+ melhores cursos de IA para aprender em 2023: gratuitos e pagos
- 15 topo GPT-4 e GPT-3 Chatbots: converse com IA, faça perguntas
Aviso Legal
Em linha com a Diretrizes do Projeto Trust, observe que as informações fornecidas nesta página não se destinam e não devem ser interpretadas como aconselhamento jurídico, tributário, de investimento, financeiro ou qualquer outra forma. É importante investir apenas o que você pode perder e procurar aconselhamento financeiro independente se tiver alguma dúvida. Para mais informações, sugerimos consultar os termos e condições, bem como as páginas de ajuda e suporte fornecidas pelo emissor ou anunciante. MetaversePost está comprometida com relatórios precisos e imparciais, mas as condições de mercado estão sujeitas a alterações sem aviso prévio.
Sobre o autor
Damir é o líder de equipe, gerente de produto e editor da Metaverse Post, abordando tópicos como AI/ML, AGI, LLMs, Metaverse e Web3-Campos relacionados. Seus artigos atraem um grande público de mais de um milhão de usuários todos os meses. Ele parece ser um especialista com 10 anos de experiência em SEO e marketing digital. Damir foi mencionado em Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto e outras publicações. Ele viaja entre os Emirados Árabes Unidos, Turquia, Rússia e CEI como um nômade digital. Damir formou-se em física, o que ele acredita ter lhe dado as habilidades de pensamento crítico necessárias para ter sucesso no cenário em constante mudança da internet.
Mais artigos
Damir é o líder de equipe, gerente de produto e editor da Metaverse Post, abordando tópicos como AI/ML, AGI, LLMs, Metaverse e Web3-Campos relacionados. Seus artigos atraem um grande público de mais de um milhão de usuários todos os meses. Ele parece ser um especialista com 10 anos de experiência em SEO e marketing digital. Damir foi mencionado em Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto e outras publicações. Ele viaja entre os Emirados Árabes Unidos, Turquia, Rússia e CEI como um nômade digital. Damir formou-se em física, o que ele acredita ter lhe dado as habilidades de pensamento crítico necessárias para ter sucesso no cenário em constante mudança da internet.
