Sber proíbe modelo de IA Kandinsky da geração de conteúdo em meio a escrutínio jurídico
Em Breve
O Sberbank restringiu seu modelo de IA, Kandinsky, de criar símbolos de estado depois que os deputados solicitaram o Ministério Público.
German Gref, presidente da Sberbank, anunciou no fórum Finopolis 2023 que Sber revisou as operações de seu modelo de IA Kandinsky 2.1. A empresa respondeu rapidamente depois que deputados da Duma consideraram inadequada uma imagem gerada pela IA, o que levou o Ministério Público a convocar os funcionários da empresa.
O banco Sber respondeu às alegações de zombaria em relação à bandeira russa descontinuando a capacidade da IA de gerar quaisquer símbolos de estado. Gref enfatizou as medidas imediatas tomadas para respeitar os símbolos nacionais, afirmando a Modelo de IA agora produziria apenas prédefiimagens precisadas.
Um alerta para a clemência no desenvolvimento de IA
Gref observou que ao ajustar as configurações de segurança da IA, As capacidades criativas de Kandinsky diminuiu 12%. Ele ressaltou a necessidade de as autoridades serem rigorosas ao permitir que crianças gerem conteúdo por meio de IA. O banco não enfrentou consequências legais após a investigação.
Sergei Mironov, da Duma Estatal, já havia solicitado um exame da IA do Sberbank para verificar a conformidade com as leis russas. As suas preocupações estavam enraizadas nas respostas da IA às solicitações relacionadas com a Rússia, que ele acreditava que poderiam manchar a imagem da nação, ao mesmo tempo que eram favoráveis a outros países.
O caso da IA de Sber não é único. Restrições de conteúdo semelhantes são observadas em outras redes neurais como GPT-Chat, com filtros integrados para evitar saídas potencialmente controversas. Diferentes países podem ter vários gatilhos para tal censura.
Equilibrando censura e criatividade na IA
O debate sobre a regulamentação e a criatividade da IA vai além de Kandinsky. Alguns participantes da indústria defendem uma censura razoável, enquanto outros, como Elon Musk com seu Grok rede neural, defende uma abordagem livre de censura.
Alexander Vedyakhin, da Sber, apelou ao desenvolvimento de tecnologias de IA em linha com os padrões éticos atuais, um sentimento ecoado pelos principais desenvolvedores de tecnologia e bancos da Rússia.
Os especialistas presentes no fórum discutiram o papel da IA na sociedade. Embora a IA possa substituir certas funções humanas, não pode substituir totalmente a actividade humana. Os neurocientistas recomendam considerar o desenvolvimento da IA em termos da sua distinção da consciência humana e reconhecem que atribuir qualidades humanas à fala da IA não significa que esta possua consciência.
Aviso Legal
Em linha com a Diretrizes do Projeto Trust, observe que as informações fornecidas nesta página não se destinam e não devem ser interpretadas como aconselhamento jurídico, tributário, de investimento, financeiro ou qualquer outra forma. É importante investir apenas o que você pode perder e procurar aconselhamento financeiro independente se tiver alguma dúvida. Para mais informações, sugerimos consultar os termos e condições, bem como as páginas de ajuda e suporte fornecidas pelo emissor ou anunciante. MetaversePost está comprometida com relatórios precisos e imparciais, mas as condições de mercado estão sujeitas a alterações sem aviso prévio.
Sobre o autor
Nik é um talentoso analista e escritor da Metaverse Post, especializada em fornecer insights de ponta no mundo acelerado da tecnologia, com ênfase particular em AI/ML, XR, VR, análise on-chain e desenvolvimento de blockchain. Seus artigos envolvem e informam um público diversificado, ajudando-o a ficar à frente da curva tecnológica. Mestre em Economia e Gestão, Nik possui uma sólida compreensão das nuances do mundo dos negócios e sua intersecção com as tecnologias emergentes.
Mais artigos
Nik é um talentoso analista e escritor da Metaverse Post, especializada em fornecer insights de ponta no mundo acelerado da tecnologia, com ênfase particular em AI/ML, XR, VR, análise on-chain e desenvolvimento de blockchain. Seus artigos envolvem e informam um público diversificado, ajudando-o a ficar à frente da curva tecnológica. Mestre em Economia e Gestão, Nik possui uma sólida compreensão das nuances do mundo dos negócios e sua intersecção com as tecnologias emergentes.
