Nuevos rivales de Nvidia apuestan por chips de inferencia más eficientes para la inteligencia artificial

In Ciencia y Tecnología
diciembre 25, 2024

La competencia en el sector de los chips de inteligencia artificial

La creciente demanda de productos de inteligencia artificial (IA) ha impulsado a empresas como Nvidia a convertirse en líderes en el desarrollo de chips especializados, específicamente en el ámbito de los procesadores gráficos (GPU). Sin embargo, a medida que la industria avanza, se ha hecho evidente que estos chips, si bien son excepcionales para el entrenamiento de modelos de IA, no son los más eficientes para su implementación en tareas cotidianas. Este descubrimiento ha abierto la puerta a un nuevo segmento de mercado: los chips de inferencia de IA, diseñados para optimizar el rendimiento y reducir los costos operativos asociados con la IA generativa.

Los chips de inferencia permiten a los modelos de IA utilizar la información que ya han aprendido para generar respuestas o realizar tareas específicas. A diferencia del proceso de entrenamiento, que requiere una gran cantidad de potencia de cálculo, la inferencia es un proceso más ligero que demanda un tipo diferente de arquitectura de hardware. Startups como Cerebras, Groq y d-Matrix, junto con competidores tradicionales de Nvidia como AMD e Intel, están desarrollando soluciones más adaptadas a estas necesidades, buscando capturar un mercado que se expande rápidamente a medida que más empresas adoptan la IA en sus operaciones diarias.

D-Matrix, por ejemplo, ha lanzado recientemente su producto Corsair, que combina múltiples chips diseñados para maximizar la eficiencia en el procesamiento de IA. A medida que las grandes tecnológicas como Amazon, Google y Microsoft continúan acaparando recursos para el desarrollo de IA, los fabricantes de chips de inferencia están dirigiendo su atención a un público más amplio, incluyendo empresas que desean integrar tecnologías de IA sin la necesidad de invertir en infraestructura costosa. Esta tendencia no solo promete hacer más accesible el uso de la IA para una variedad de sectores, sino que también podría tener un impacto significativo en los costos energéticos y ambientales asociados con su funcionamiento.

/ Published posts: 2513

Diario obrero y republicano fundado el 14 de Abril de 2006.