AI Black Box: qué es y cómo funciona
En Resumen
Las cajas negras de IA son sistemas que operan sin el conocimiento del usuario, como el aprendizaje automático, que se compone de un algoritmo, datos de entrenamiento y un modelo.
Las cajas negras son importantes para la seguridad del software, ya que pueden usarse para aplicar ingeniería inversa al software y descubrir fallas para explotar, y pueden ser utilizadas por probadores de software y piratas informáticos para encontrar debilidades.
Para muchos, el término "caja negra" se refiere a dispositivos de grabación en aviones que son valiosos para exámenes post mortem si sucede lo impensable. Para otros, es un teatro pequeño y mínimamente amueblado. Sin embargo, las cajas negras también son vitales para la inteligencia artificial.
Cajas negras de IA son sistemas que operan sin el conocimiento del usuario. Puede alimentarlos con entradas y obtener salidas, pero no puede examinar el código del sistema o la lógica utilizada para generar la salida.
Aprendizaje automático es el tipo dominante de inteligencia artificial. Comprende un algoritmo o un conjunto de algoritmos, datos de entrenamiento y un modelo.
- Un algoritmo es una secuencia de procedimientos. Después de ser entrenado, un algoritmo puede reconocer patrones conocidos.
- El entrenamiento datos es el conjunto de datos utilizado para entrenar el modelo de IA.
- Un algoritmo de aprendizaje automático es, en esencia, un procedimiento diseñado para aprender de una gran cantidad de ejemplos y producir un modelo de aprendizaje automático. Un modelo de aprendizaje automático es lo que la gente usa una vez que se ha creado.
Se podría programar un algoritmo de reconocimiento de imágenes para descubrir tendencias de imágenes, y los datos de entrenamiento podrían representar fotos de perros. Le daría una imagen como entrada y la obtendría como salida si y en qué parte de la imagen aparece un conjunto de píxeles para representar un perro.
Dado que los algoritmos de aprendizaje automático son de conocimiento público, ocultar las cajas negras es menos efectivo. Dado que los ingenieros de IA suelen ocultar su propiedad intelectual en cajas negras, normalmente colocan el modelo en una. Otra forma en que los desarrolladores de software ocultar data es oscureciendo los datos que se utilizan para entrenar el modelo; en otras palabras, poniendo los datos de entrenamiento en una caja negra.
Es difícil entender cómo funcionan los algoritmos de caja negra, pero eso no es del todo blanco o negro.
Una caja de cristal se refiere a un sistema cuyos algoritmos, datos de entrenamiento y modelos son de acceso público, mientras que una caja negra se refiere a un sistema cuyos algoritmos, datos de entrenamiento y modelos están ocultos. El término caja negra se usa a menudo cuando los investigadores describen incluso estos aspectos de un sistema de IA como negros.
Existe una escasez de conocimientos sobre cómo los algoritmos de aprendizaje automático, en particular algoritmos de aprendizaje profundo, función. Los investigadores están desarrollando algoritmos que, si bien no son necesariamente cajas de vidrio, pueden ser mejor entendidos por humanos.
¿Por qué son importantes las cajas negras de IA?
No siempre es una buena idea confiar en los algoritmos y modelos de aprendizaje automático de caja negra. ¿Qué sucede si un modelo de aprendizaje automático que determina si califica para un préstamo comercial de un banco lo rechaza? Le gustaría saber para poder apelar mejor la decisión o cambiar su situación para aumentar sus posibilidades de obtener un préstamo la próxima vez.
Se ha pensado que mantener el software en una caja negra evita que los piratas informáticos lo examinen y, por lo tanto, lo vuelve seguro. Sin embargo, los piratas informáticos pueden Ingeniería inversa software, es decir, estudiar de cerca cómo funciona una pieza de software, y descubrir fallas para explotar. Las cajas negras también tienen implicaciones importantes para la seguridad del sistema de software.
Es posible que los probadores de software y los piratas informáticos bien intencionados miren dentro de una caja de vidrio utilizada para probar el software para encontrar debilidades, reduciendo así los ataques cibernéticos.
Leer más artículos relacionados:
- NFT Cajas misteriosas: qué son y dónde comprar
- Más de 15 mejores cursos de IA para aprender en 2023: gratuitos y de pago
- Top 15 GPT-4 y GPT-3 Chatbots: hable con IA, haga preguntas
Observación
En línea con la Directrices del Proyecto Confianza, tenga en cuenta que la información proporcionada en esta página no pretende ser ni debe interpretarse como asesoramiento legal, fiscal, de inversión, financiero o de cualquier otro tipo. Es importante invertir sólo lo que pueda permitirse perder y buscar asesoramiento financiero independiente si tiene alguna duda. Para mayor información sugerimos consultar los términos y condiciones así como las páginas de ayuda y soporte proporcionadas por el emisor o anunciante. MetaversePost se compromete a brindar informes precisos e imparciales, pero las condiciones del mercado están sujetas a cambios sin previo aviso.
Sobre el Autor
Damir es el líder del equipo, gerente de producto y editor en Metaverse Post, que cubre temas como AI/ML, AGI, LLM, Metaverse y Web3-campos relacionados. Sus artículos atraen una audiencia masiva de más de un millón de usuarios cada mes. Parece ser un experto con 10 años de experiencia en SEO y marketing digital. Damir ha sido mencionado en Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto y otras publicaciones. Viaja entre los Emiratos Árabes Unidos, Turquía, Rusia y la CEI como nómada digital. Damir obtuvo una licenciatura en física, que él cree que le ha dado las habilidades de pensamiento crítico necesarias para tener éxito en el panorama siempre cambiante de Internet.
Más artículos
Damir es el líder del equipo, gerente de producto y editor en Metaverse Post, que cubre temas como AI/ML, AGI, LLM, Metaverse y Web3-campos relacionados. Sus artículos atraen una audiencia masiva de más de un millón de usuarios cada mes. Parece ser un experto con 10 años de experiencia en SEO y marketing digital. Damir ha sido mencionado en Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto y otras publicaciones. Viaja entre los Emiratos Árabes Unidos, Turquía, Rusia y la CEI como nómada digital. Damir obtuvo una licenciatura en física, que él cree que le ha dado las habilidades de pensamiento crítico necesarias para tener éxito en el panorama siempre cambiante de Internet.
