La expansión de la Inteligencia Artificial (IA) presionó a la cadena de suministro de equipos tecnológicos especializados, elevando hasta siete meses (30 semanas) los tiempos de entrega de servidores especializados en México, cuando anteriormente los fabricantes tardaban entre seis y ocho semanas en surtirlos.
“Recientemente hice una orden de compra de servidores de IA y veo que los tiempos de entrega ya son muy prolongados, me están diciendo que van a tardar siete meses en llegar a México, estamos hablando de tiempos de entrega muy largos que sólo se pueden explicar por la alta demanda que hay en todo el mundo”, afirmó Esteban Rey, CEO de Ignia.
El directivo explicó que los plazos actuales alcanzan entre 27 y 30 semanas, mientras que los equipos menos sofisticados pueden tardar de 16 a 18 semanas, siendo la razón principal la escasez de componentes para fabricar unidades de almacenamiento de estado sólido, memoria y procesadores gráficos (GPU).
“La situación con la IA es que demanda servidores de muy altas capacidades y ya estamos acostumbrados a ese tipo de equipos, con discos duros muy rápidos, que tradicionalmente son de estado sólido, que usan un chip avanzado y que están subiendo de precio y lo van a seguir haciendo”, agregó Esteban Rey.
Señaló que la presión sobre los componentes también está relacionada con el cambio de prioridades de los fabricantes, que destinan una mayor parte de su producción a los grandes proveedores de servicios en la nube, conocidos como hiperescaladores, cuyos pedidos de infraestructura para IA representan negocios de gran escala.
“Estos grandes hiperescaladores están pidiendo billones de dólares en tarjetas para hacer inteligencia artificial, que es la que lleva la GPU y que llevan ese chip de alta potencia, y ellos sí están pagando los costos muy altos porque necesitan crecer su negocio de forma acelerada”, explicó el ejecutivo.
Presionan por optimizar costos de la IA
A las presiones por tener servidores en tiempo y forma, se suma la presión por conseguir equipos con capacidad para ejecutar modelos con mayor rapidez, sin que ello implique un mayor consumo de recursos.
“La expansión de la IA estará marcada por la inferencia, es decir, el procesamiento que ocurre cada vez que una persona o una empresa utiliza un modelo y realiza una consulta (…) más de 90 por ciento de las actividades que se van a desarrollar sobre estos modelos grandes van a ser para actividades de inferencia”, sostuvo Carlos Sánchez, director de Desarrollo de Negocios de Qualcomm para Hispanoamérica.
Este cambio modifica las necesidades de los centros de datos, que requieren coordinar procesadores, memoria y conectividad para evitar cuellos de botella y responder con rapidez a un volumen creciente de solicitudes.
Para Qualcomm, el reto consiste en aumentar la capacidad de procesamiento sin elevar en la misma proporción el consumo energético, para evitar aumentar los costos de operación de los data centers especializados en IA.
“Un data center de inferencia es una fábrica de tokens. Es una fábrica de millones de tokens. cada interacción con un sistema de IA implica generar unidades de información cuyo costo depende, entre otros factores, de la energía utilizada”, detalló el ejecutivo de Qualcomm.
Por ello, la competencia en infraestructura no se limita a desarrollar chips más potentes, sino a producir respuestas con mayor eficiencia. Indicó que Qualcomm busca posicionarse en ese mercado mediante procesadores y soluciones que equilibren capacidad de cómputo, memoria y transferencia de datos.
El ejecutivo destacó que uno de los indicadores relevantes para los centros de datos será la cantidad de tokens que pueden generar por watt de energía, así como el costo de producir cada millón de esas unidades.
“El costo es lo que va a determinar con qué velocidad se puede adoptar, a qué velocidad se puede masificar (…) si logramos tener costos cada vez más eficientes, México podría concentrar alrededor de la mitad de la inversión prevista en centros de datos para inferencia en América Latina, sin considerar a Brasil”, detalló Carlos Sánchez
Esteban Rey consideró que la disponibilidad de servidores, el precio de los componentes y el consumo de energía se han convertido en factores decisivos para ampliar el uso empresarial de la IA.
