Deci y Qualcomm se asocian para democratizar la IA generativa en todas las industrias
En Resumen
Deci anunció una colaboración con Qualcomm Technologies para desarrollar modelos avanzados de IA generativa para Qualcomm Cloud AI 100.
La empresa de soluciones de inteligencia artificial Deci anunció una colaboración con Qualcomm Technologies para desarrollar avanzadas IA generativa modelos para Qualcomm Cloud AI 100. La colaboración tiene como objetivo hacer que la IA sea más accesible para una gama más amplia de aplicaciones y democratizar el poder de la IA generativa para los desarrolladores.
Al adaptar los modelos específicamente para la solución Qualcomm Cloud AI 100, las empresas pretenden desbloquear el procesamiento de IA rentable y en tiempo real. Cloud AI 100 es la solución de Qualcomm diseñada para optimizar el rendimiento de la inferencia generativa de IA, que incluye grandes modelos de lenguaje (LLM).
"Algunos de los principales desafíos en el panorama actual de la IA generativa se relacionan con la disponibilidad de potencia informática para el procesamiento de estos enormes modelos y el enorme costo de ejecutarlos", dijo Yonatan Geifman, director ejecutivo y cofundador de Deci. Metaverse Post. "Al aprovechar los modelos de Deci, los usuarios de Qualcomm pueden aprovechar al máximo su inversión en hardware con modelos que garantizan la máxima utilización del hardware y al mismo tiempo ofrecen alta velocidad y precisión".
Deci trabajará con Qualcomm Technologies para lanzar dos modelos, a saber, DeciCoder-6B y DeciDiffusion 2.0.
Según el anuncio, DeciCoder-6B es un modelo de 6 mil millones de parámetros para la generación de código que admite ocho lenguajes de programación y supera a los modelos establecidos manteniendo la memoria y la eficiencia computacional.
Por otro lado, DeciDiffusion 2.0 es un modelo de difusión de texto a imagen de 732 millones de parámetros, que establece nuevos estándares al ofrecer imágenes de alta calidad con mayor velocidad y eficiencia.
Lo que distingue a los modelos de IA de Deci
Cuando usas LLM En aplicaciones del mundo real, es crucial organizar eficientemente los datos en los servidores que hacen predicciones. El objetivo principal es gestionar tantas solicitudes de usuarios al mismo tiempo como sea posible. Encontrar el equilibrio adecuado entre la cantidad de datos procesados a la vez (tamaño de lote) y el tiempo que lleva obtener una respuesta (latencia) depende de dos cosas clave: el diseño del modelo y las capacidades del hardware utilizado para hacer predicciones.
“DeciCoder-6B tiene un recuento de parámetros menor que sus contrapartes, lo que resulta en una huella de memoria reducida y libera 2 GB adicionales de memoria en comparación con los modelos CodeGen 2.5 7B y 7 mil millones de parámetros. El modelo destaca en memoria y eficiencia computacional, lo que permite un escalamiento efectivo del procesamiento por lotes sin un consumo sustancial de memoria ni aumentos notables en la latencia”, dijo el director ejecutivo de Deci, Yonatan Geifman.
Explicó además: “DeciDiffusion 2.0 ofrece imágenes de alta calidad en un 40% menos de iteraciones y emplea un componente U-Net más pequeño y más rápido en comparación con Stable Diffusion 1.5. Puede producir imágenes de alta calidad con menos tiempos de difusión durante el proceso de inferencia”.
El modelo reduce efectivamente la cantidad de pasos necesarios para generar una imagen de calidad de 16 a solo 10.
La tecnología de búsqueda de arquitectura neuronal de Deci (AutoNAC) ha desempeñado un papel crucial en la eficiencia y escalabilidad de los modelos. Él automatiza el proceso de búsqueda de una manera eficiente desde el punto de vista informático, lo que lo diferencia de los métodos tradicionales. Esta tecnología permitió a Deci lanzar una serie de modelos de última generación en un corto período de tiempo, con un menor gasto en informática para capacitación en comparación con otros grandes desarrolladores de modelos de lenguaje.
DeciCoder-6B: Precisión adaptada para la excelencia industrial
La capacidad del DeciCoder-6B para admitir ocho lenguajes de programación lo posiciona como un modelo de referencia para una amplia gama de aplicaciones. Geifman compartió algunas de las diversas formas en que se puede aprovechar el modelo.
“En el campo del desarrollo de software, puede ayudar en la generación y finalización del código, reduciendo significativamente el tiempo de desarrollo y mejorando la productividad. Además, DeciCoder-6B se puede utilizar para enseñar programación, atendiendo a una variedad de lenguajes y niveles de dificultad. Los estudiantes pueden usarlo para verificar su trabajo y como manual de soluciones”, dijo Geifman de Deci. Metaverse Post.
"Además, en el campo de la ciberseguridad, el modelo se puede ajustar para ayudar a escribir y analizar scripts para el escaneo de vulnerabilidades, con la capacidad de automatizar controles de seguridad en varios entornos de programación", añadió.
La colaboración entre Deci y Qualcomm Technologies marca un paso significativo hacia la democratización del poder de la IA generativa. Con modelos optimizados, tecnología eficiente y un compromiso con la apertura, la asociación tiene como objetivo capacitar a los desarrolladores y las industrias de todo el mundo con soluciones de IA accesibles y rentables.
Observación
En línea con la Directrices del Proyecto Confianza, tenga en cuenta que la información proporcionada en esta página no pretende ser ni debe interpretarse como asesoramiento legal, fiscal, de inversión, financiero o de cualquier otro tipo. Es importante invertir sólo lo que pueda permitirse perder y buscar asesoramiento financiero independiente si tiene alguna duda. Para mayor información sugerimos consultar los términos y condiciones así como las páginas de ayuda y soporte proporcionadas por el emisor o anunciante. MetaversePost se compromete a brindar informes precisos e imparciales, pero las condiciones del mercado están sujetas a cambios sin previo aviso.
Sobre el Autor
Kumar es un periodista tecnológico experimentado con especialización en las intersecciones dinámicas de AI/ML, tecnología de marketing y campos emergentes como cripto, blockchain y NFTs. Con más de 3 años de experiencia en la industria, Kumar ha establecido una trayectoria comprobada en la elaboración de narrativas convincentes, la realización de entrevistas interesantes y la entrega de conocimientos integrales. La experiencia de Kumar radica en la producción de contenido de alto impacto, incluidos artículos, informes y publicaciones de investigación para plataformas industriales destacadas. Con un conjunto de habilidades único que combina conocimiento técnico y narración, Kumar se destaca en comunicar conceptos tecnológicos complejos a audiencias diversas de una manera clara y atractiva.
Más artículos
Kumar es un periodista tecnológico experimentado con especialización en las intersecciones dinámicas de AI/ML, tecnología de marketing y campos emergentes como cripto, blockchain y NFTs. Con más de 3 años de experiencia en la industria, Kumar ha establecido una trayectoria comprobada en la elaboración de narrativas convincentes, la realización de entrevistas interesantes y la entrega de conocimientos integrales. La experiencia de Kumar radica en la producción de contenido de alto impacto, incluidos artículos, informes y publicaciones de investigación para plataformas industriales destacadas. Con un conjunto de habilidades único que combina conocimiento técnico y narración, Kumar se destaca en comunicar conceptos tecnológicos complejos a audiencias diversas de una manera clara y atractiva.
