Sber prohíbe al modelo de inteligencia artificial Kandinsky generar contenido en medio de un escrutinio legal
En Resumen
Sberbank ha restringido la creación de símbolos estatales por su modelo de IA Kandinsky después de que los diputados solicitaron a la fiscalía.
German Gref, presidente de Sberbank, anunció en el foro Finopolis 2023 que Sber ha revisado las operaciones de su modelo de IA Kandinsky 2.1. La empresa reaccionó rápidamente después de que los diputados de la Duma estatal consideraran inapropiada una imagen generada por la IA, lo que llevó a la fiscalía a citar a los empleados de la empresa.
El banco Sber respondió a las acusaciones de burla hacia la bandera rusa interrumpiendo la capacidad de la IA para generar símbolos estatales. Gref enfatizó las acciones inmediatas tomadas para respetar los símbolos nacionales, afirmando que Modelo de IA ahora solo produciría predefiimágenes ned.
Una llamada de atención para la indulgencia en el desarrollo de la IA
Gref señaló que mientras ajustaba la configuración de seguridad de la IA, Las capacidades creativas de Kandinsky. disminuyó en un 12%. Subrayó la necesidad de que las autoridades sean estrictas a la hora de permitir que los niños generen contenidos a través de la IA. El banco no enfrentó consecuencias legales tras la investigación.
Sergei Mironov, de la Duma Estatal, había solicitado previamente un examen de la IA de Sberbank para comprobar su cumplimiento con las leyes rusas. Sus preocupaciones se basaban en las respuestas de la IA a solicitudes relacionadas con Rusia, que creía que podrían empañar la imagen de la nación y al mismo tiempo ser favorables hacia otros países.
El caso de la IA de Sber no es único. Se observan restricciones de contenido similares en otras redes neuronales como GPT-Chat, con filtros integrados para evitar salidas potencialmente controvertidas. Los diferentes países pueden tener distintos factores desencadenantes de dicha censura.
Equilibrando la censura y la creatividad en la IA
El debate sobre la regulación y la creatividad de la IA se extiende más allá de Kandinsky. Algunos actores de la industria abogan por una censura razonable, mientras que otros, como Elon Musk con su Grok red neuronal, aboga por un enfoque libre de censura.
Alexander Vedyakhin, de Sber, instó al desarrollo de tecnologías de inteligencia artificial de acuerdo con los estándares éticos actuales, un sentimiento del que se hicieron eco los principales desarrolladores de tecnología y bancos de Rusia.
Los expertos en el foro discutieron el papel de la IA en la sociedad. Si bien la IA podría reemplazar ciertas funciones humanas, no puede sustituir por completo la actividad humana. Los neurocientíficos recomiendan considerar el desarrollo de la IA en términos de su distinción de la conciencia humana y reconocen que atribuir cualidades humanas al habla de la IA no significa que posea conciencia.
Observación
En línea con la Directrices del Proyecto Confianza, tenga en cuenta que la información proporcionada en esta página no pretende ser ni debe interpretarse como asesoramiento legal, fiscal, de inversión, financiero o de cualquier otro tipo. Es importante invertir sólo lo que pueda permitirse perder y buscar asesoramiento financiero independiente si tiene alguna duda. Para mayor información sugerimos consultar los términos y condiciones así como las páginas de ayuda y soporte proporcionadas por el emisor o anunciante. MetaversePost se compromete a brindar informes precisos e imparciales, pero las condiciones del mercado están sujetas a cambios sin previo aviso.
Sobre el Autor
Nik es un consumado analista y escritor en Metaverse Post, que se especializa en brindar información de vanguardia sobre el vertiginoso mundo de la tecnología, con un énfasis particular en AI/ML, XR, VR, análisis en cadena y desarrollo de blockchain. Sus artículos atraen e informan a una audiencia diversa, ayudándoles a mantenerse a la vanguardia de la tecnología. Con una Maestría en Economía y Administración, Nik tiene una comprensión sólida de los matices del mundo de los negocios y su intersección con las tecnologías emergentes.
Más artículos
Nik es un consumado analista y escritor en Metaverse Post, que se especializa en brindar información de vanguardia sobre el vertiginoso mundo de la tecnología, con un énfasis particular en AI/ML, XR, VR, análisis en cadena y desarrollo de blockchain. Sus artículos atraen e informan a una audiencia diversa, ayudándoles a mantenerse a la vanguardia de la tecnología. Con una Maestría en Economía y Administración, Nik tiene una comprensión sólida de los matices del mundo de los negocios y su intersección con las tecnologías emergentes.
