IA depende de la arquitectura integral del sistema

Durante el Huawei Connect 2026, Huawei reveló que el rendimiento real de los sistemas de inteligencia artificial depende de una arquitectura integral de sistemas y no de la cantidad de procesadores o capacidad nominal de cálculo. A medida que las infraestructuras escalan para albergar miles de aceleradores, aumentar el número teórico de componentes no garantiza un crecimiento proporcional en la capacidad de procesamiento si no existe un equilibrio en el ancho de banda de memoria, la velocidad de interconexión, el rendimiento de almacenamiento y la eficiencia energética. En clústeres tradicionales de 100,000 procesadores, la comunicación interna llega a representar más del 40% del tiempo total de entrenamiento, lo que demuestra la necesidad de evaluar el desempeño completo de la infraestructura en condiciones reales de trabajo.

Esta evolución tecnológica queda reflejada en la progresión de la plataforma Ascend y los sistemas Atlas SuperPoD de la compañía. Mientras que la configuración del sistema Atlas 950 requiere 8,192 procesadores Ascend 950 para entregar 8 EFLOPS en precisión FP8 y 16 EFLOPS en precisión FP4, el nuevo Atlas 960E alcanza esa misma capacidad de 8 EFLOPS en FP8 y 16 EFLOPS en FP4 utilizando únicamente 4,096 procesadores Ascend 960. Al duplicar la potencia de cómputo, la memoria y los puertos de interconexión en cada procesador, el sistema logra el mismo rendimiento teórico con la mitad de unidades de procesamiento, demostrando que el análisis individual de especificaciones resulta insuficiente si no se considera el diseño global del clúster.

Para optimizar la comunicación distribuida y eliminar cuellos de botella en la red, la arquitectura UnifiedBus conecta procesadores, memoria, redes y almacenamiento bajo un protocolo común entre servidores físicos. En este ámbito destaca la incorporación de la tecnología óptica cercana al paquete conocida como NPO Hi-ONE en el Atlas 960E, la cual integra 5,500 unidades Hi-ONE para reemplazar 48,000 módulos ópticos tradicionales de 800G. Esta innovación reduce el consumo de energía en más de 550 kilovatios y permite alcanzar una disponibilidad del sistema del 99.8%, disminuyendo significativamente la latencia y la complejidad técnica en el intercambio de parámetros durante el entrenamiento masivo de modelos.

Asimismo, la gestión de almacenamiento y el soporte de software desempeñan un papel determinante para mantener una alta utilización de los aceleradores. Mientras que soluciones de almacenamiento como la OceanStor A800 sostienen altas tasas de transferencia de datos para el entrenamiento de modelos, la plataforma OceanStor M900 aborda la inferencia extendiendo la memoria de caché KV hacia capas SSD. La OceanStor M900 soporta hasta 64 PB de capacidad agrupada con una latencia de acceso de 60 microsegundos y 40 TB/s de ancho de banda acumulado, logrando duplicar el procesamiento de tokens y reducir a la mitad el tiempo hasta el primer token. Respaldada por el entorno de software CANN, esta integración orienta la evaluación empresarial hacia métricas integrales como la utilización efectiva, el consumo por vatio y el costo total por token en entornos de producción.