Estudo de Stanford revela alarmante falta de transparência nos modelos da AI Foundation
Em Breve
Os pesquisadores de Stanford descobriram o declínio da transparência nos modelos básicos de IA e pedem a divulgação de dados.
Entre os 10 modelos avaliados, LLaMA 2 foi considerado o mais transparente com uma pontuação de 54%, seguido por GPT-4 com uma pontuação de transparência de 48%. O Titan da Amazon obteve a pontuação mais baixa, com apenas 12% de transparência.
Pesquisadores da Universidade de Stanford revelou um relatório, o Foundation Model Transparency Index, que avalia a transparência dos modelos básicos de IA criados por empresas como OpenAI e Google.
O estudo levanta preocupações sobre o declínio da transparência e destaca a necessidade de as empresas divulgarem informações sobre fontes de dados e trabalho humano na formação de modelos, enfatizando os riscos potenciais de opacidade na indústria da IA.
“Está claro nos últimos três anos que a transparência está em declínio enquanto a capacidade está a disparar. Consideramos isso altamente problemático porque vimos em outras áreas, como a mídia social, que quando a transparência diminui, coisas ruins podem acontecer como resultado”, disse o professor de Stanford, Percy Liang, que trabalhou no Foundation Model Transparency Index.
Os modelos básicos, que são fundamentais na IA generativa e nos avanços da automação, foram mal classificados no Índice de Transparência do Modelo Básico, mesmo com o modelo mais transparente, o Meta's Llama 2, marcando apenas 54 em 100.
O modelo com classificação mais baixa foi o Titan da Amazon, com apenas 12 em 100. OpenAI'S GPT-4 o modelo pontuou 48 em 100. Enquanto isso, o PaLM 2 foi avaliado com 40.
Os autores do relatório esperam que este estudo sirva como um catalisador para uma maior transparência no campo da IA e funcione como um ponto de referência fundamental para os governos à medida que enfrentam os desafios regulamentares desta tecnologia florescente.
A União Europeia recentemente fez progressos no sentido de promulgar o primeiro conjunto abrangente de regulamentos para IA do mundo com a “Lei de Inteligência Artificial”. De acordo com as regras propostas, as ferramentas de IA serão categorizadas pelos seus níveis de risco, abordando preocupações sobre vigilância biométrica, disseminação de informações enganosas e linguagem discriminatória. Empresas na UE que utilizam ferramentas generativas de IA como ChatGPT devem divulgar qualquer material protegido por direitos autorais utilizado em seu desenvolvimento, promovendo a transparência.
Aviso Legal
Em linha com a Diretrizes do Projeto Trust, observe que as informações fornecidas nesta página não se destinam e não devem ser interpretadas como aconselhamento jurídico, tributário, de investimento, financeiro ou qualquer outra forma. É importante investir apenas o que você pode perder e procurar aconselhamento financeiro independente se tiver alguma dúvida. Para mais informações, sugerimos consultar os termos e condições, bem como as páginas de ajuda e suporte fornecidas pelo emissor ou anunciante. MetaversePost está comprometida com relatórios precisos e imparciais, mas as condições de mercado estão sujeitas a alterações sem aviso prévio.
Sobre o autor
Agne é uma jornalista que cobre as últimas tendências e desenvolvimentos no metaverso, IA e Web3 indústrias para o Metaverse Post. Sua paixão por contar histórias a levou a realizar inúmeras entrevistas com especialistas nessas áreas, sempre buscando descobrir histórias emocionantes e envolventes. Agne é bacharel em literatura e possui ampla experiência em redação sobre uma ampla variedade de tópicos, incluindo viagens, arte e cultura. Ela também foi voluntária como editora da organização de direitos dos animais, onde ajudou a aumentar a conscientização sobre questões de bem-estar animal. Entre em contato com ela [email protegido].
Mais artigos
Agne é uma jornalista que cobre as últimas tendências e desenvolvimentos no metaverso, IA e Web3 indústrias para o Metaverse Post. Sua paixão por contar histórias a levou a realizar inúmeras entrevistas com especialistas nessas áreas, sempre buscando descobrir histórias emocionantes e envolventes. Agne é bacharel em literatura e possui ampla experiência em redação sobre uma ampla variedade de tópicos, incluindo viagens, arte e cultura. Ela também foi voluntária como editora da organização de direitos dos animais, onde ajudou a aumentar a conscientização sobre questões de bem-estar animal. Entre em contato com ela [email protegido].
