"La industria tecnológica avanzará hacia una menor dependencia de las GPU en 2024", afirma Greg Osuri, director ejecutivo de Akash Network
En Resumen
Greg Osuri, director ejecutivo de Overclock Labs y Akash Network, afirma que la adopción de GPU de menor tamaño remodelará el panorama tecnológico en 2024 y desbloqueará efectos dominó.
Mientras los principales actores de la industria tecnológica continúan dominando el mercado con potentes GPU, un cambio notable hacia menos chips potentes se prevé para 2024. Se espera que la medida, impulsada por la necesidad de alternativas, remodele el panorama, permitiendo que las empresas más pequeñas y las nuevas empresas contribuyan significativamente al actual auge de la IA.
La demanda de computación de alto rendimiento, especialmente para entrenar modelos de lenguaje grandes, ha superado las capacidades de los proveedores tradicionales como AWS, Microsoft Azure y Google Cloud. A las empresas más pequeñas les resulta difícil permitirse y reservar estos recursos de alto rendimiento, lo que genera un interés creciente en las redes distribuidas y sin permisos.
En una conversación con Metaverse Post — Greg Osuri, director ejecutivo de Overclock Labs y Red Akash, arrojan luz sobre los factores impulsores y las posibles implicaciones detrás de esta tendencia transformadora.
La plataforma descentralizada en la nube Akash Network anunció recientemente una importante actualización a la nube con Mainnet 8. La nueva actualización introdujo mejoras clave que tienen como objetivo simplificar acceso a la GPU y mejorar la experiencia de implementación.
Greg Osuri identifica la optimización de los requisitos del conjunto de datos como un elemento clave para adoptar GPU de menor tamaño.
La Adaptación de Bajo Rango (LoRA) surge como una técnica crucial en este cambio. Esta modificación estratégica se centra en pesos críticos, reduce la cantidad de parámetros necesarios y preserva el conocimiento original previamente entrenado en el modelo.
"Aquellos que busquen alternativas en medio de la escasez de GPU progresarán utilizando requisitos de conjuntos de datos menos intensivos, implementando técnicas más eficientes como la Adaptación de bajo rango (LoRA) para entrenar modelos de lenguaje y distribuyendo cargas de trabajo de manera paralela", dijo Greg Osuri de Akash Network. Metaverse Post. “Esto implica implementar grupos de chips de nivel inferior para realizar tareas equivalentes a una cantidad menor de A100 y H100s. Surgirá una nueva era de la computación en la nube, en la que el poder estará descentralizado y no en manos de unos pocos”.
Dice que paralelizar cargas de trabajo a través de grupos de chips menores es otra estrategia. En comparación con el uso tradicional de GPU, los clústeres ofrecen mejor escalabilidad, rentabilidad y capacidades de carga de trabajo distribuida. Sin embargo, los desafíos incluyen latencia en la transferencia de datos, problemas de sincronización, límites de escalabilidad y costos de comunicación.
“Cuanto más grandes sean los datos, más caros y difíciles serán los costos de comunicación entre máquinas no colocadas, por lo que probablemente se necesitarán métodos/técnicas más eficientes para superar las costosas y desafiantes barreras de comunicación. Se necesita una combinación de hardware y software para una implementación exitosa”, afirmó Greg Osuri.
El auge de las redes distribuidas y sin permisos se está convirtiendo en un facilitador crucial, que permite a las organizaciones aprovechar el potencial de las GPU de menor tamaño y aumentar la utilización general de los chips.
"Para lograr la optimización, las organizaciones deben considerar tamaños de lotes más pequeños que requieran menos memoria de GPU, entrenar en un subconjunto de datos para depurar, utilizar modelos previamente entrenados ya que requieren menos recursos computacionales y distribuir la capacitación entre múltiples GPU", explicó Greg Osuri. "Esto permite a las empresas más pequeñas y a las nuevas empresas innovar y hacer contribuciones reales al auge de la IA sin depender completamente de las GPU más potentes".
Las redes distribuidas pueden reforzar el panorama tecnológico
Greg Osuri, de Akash Network, prevé que la adopción de GPU de menor tamaño fomentará un entorno más diverso y competitivo, mitigando las preocupaciones relacionadas con los gigantes tecnológicos que dominan el mercado. Panorama de la IA. Dice que este enfoque proporciona una solución rentable y prioritaria para los desarrolladores para acceder a una amplia gama de GPU, lo que permite a los jugadores más pequeños competir en igualdad de condiciones.
“Continúan surgiendo soluciones innovadoras y descentralizadas que abordan el aumento de la demanda, garantizan un acceso equitativo a la GPU y fomentan la innovación en la computación en la nube y la capacitación de modelos de IA. Al brindar acceso sin permiso a recursos informáticos, incluidos Nvidia A100 y H100, de una variedad de proveedores, desde independientes hasta hiperescala, estas plataformas informáticas están en una posición única para mitigar las ineficiencias”, dijo.
Se espera que las empresas más pequeñas y las nuevas empresas aprovechen el cambio hacia GPU de menor tamaño para hacer contribuciones significativas al Dominio de IA. Ejemplos, como la utilización por parte de Thumper.ai de un grupo de 32 Nvidia A100, destacan la optimización de la potencia informática infrautilizada para lograr tasas de implementación más rápidas.
“Al ofrecer un enfoque rentable y centrado en el desarrollador para acceder a una amplia gama de GPU, desde chips de centros de datos de alto rendimiento hasta modelos de consumo, los actores más pequeños podrán acceder a la misma computación que las empresas más establecidas que tienen flexibilidad en sus operaciones operativas. gastos”, agregó Greg Osuri.
Al observar implicaciones más amplias, Osuri prevé un posible cambio de paradigma en la industria tecnológica. El cambio hacia GPU menos potentes y computación descentralizada podría conducir al desarrollo de nuevas aplicaciones y casos de uso, extendiéndose más allá de la IA hacia otros dominios tecnológicos.
"La flexibilidad inherente de una red distribuida podría permitir a los desarrolladores e investigadores independientes experimentar con aplicaciones completamente nuevas y desbloquear nuevas formas de desarrollar arquitecturas de aplicaciones radicalmente abiertas", dijo Greg Osuri de Akash Network. Metaverse Post. “Este efecto dominó podría conducir al desarrollo de aplicaciones y servicios más descentralizados en todas las industrias, a un mayor intercambio de recursos y conocimientos computacionales, al “regreso” de cripto y del blockchaine integración con tecnologías existentes”.
Observación
En línea con la Directrices del Proyecto Confianza, tenga en cuenta que la información proporcionada en esta página no pretende ser ni debe interpretarse como asesoramiento legal, fiscal, de inversión, financiero o de cualquier otro tipo. Es importante invertir sólo lo que pueda permitirse perder y buscar asesoramiento financiero independiente si tiene alguna duda. Para mayor información sugerimos consultar los términos y condiciones así como las páginas de ayuda y soporte proporcionadas por el emisor o anunciante. MetaversePost se compromete a brindar informes precisos e imparciales, pero las condiciones del mercado están sujetas a cambios sin previo aviso.
Sobre el Autor
Victor es editor/escritor técnico en jefe en Metaverse Post y cubre inteligencia artificial, criptografía, ciencia de datos, metaverso y ciberseguridad dentro del ámbito empresarial. Cuenta con media década de experiencia en medios e inteligencia artificial trabajando en medios de comunicación reconocidos como VentureBeat, DatatechVibe y Analytics India Magazine. Al ser mentor de medios en prestigiosas universidades, incluidas Oxford y USC, y con una maestría en ciencia y análisis de datos, Víctor está profundamente comprometido a mantenerse al tanto de las tendencias emergentes. Ofrece a los lectores las narrativas más recientes y reveladoras de la tecnología y Web3 paisaje.
Más artículos
Victor es editor/escritor técnico en jefe en Metaverse Post y cubre inteligencia artificial, criptografía, ciencia de datos, metaverso y ciberseguridad dentro del ámbito empresarial. Cuenta con media década de experiencia en medios e inteligencia artificial trabajando en medios de comunicación reconocidos como VentureBeat, DatatechVibe y Analytics India Magazine. Al ser mentor de medios en prestigiosas universidades, incluidas Oxford y USC, y con una maestría en ciencia y análisis de datos, Víctor está profundamente comprometido a mantenerse al tanto de las tendencias emergentes. Ofrece a los lectores las narrativas más recientes y reveladoras de la tecnología y Web3 paisaje.
