"Doble seguro" para servidores de IA: explicación detallada de la arquitectura de doble enlace del módulo óptico

Diseño de doble enlace: el sustento de los clústeres de servidores de IA

La falla fatal de las arquitecturas de enlace único en clústeres de GPU de mil tarjetas: el——

Costo de interrupción de la capacitación: una sola falla del conmutador Spine genera enormes pérdidas por hora para la empresa

Desafíos sensibles a la latencia: las operaciones AllReduce requieren latencia de sincronización de gradiente

Cuello de botella de confiabilidad: la topología de árbol tradicional tiene 7 enlaces con un único punto de falla potencial

Lecciones aprendidas de sangre y lágrimas: un caso real de una empresa de IA

En el tercer trimestre de 2024, un fabricante no implementó enlaces duales, lo que resultó en:

Una falla del puerto del conmutador provocó 72 minutos de interrupción del entrenamiento

Pérdida indirecta: penalización contractual por retraso en la entrega del modelo

El diseño de doble enlace es la solución principal a este problema.

2. Análisis panorámico de la arquitectura hoja-espina de doble enlace

Diagrama de topología física (incluida la implementación del módulo óptico)

Descripción del componente clave:

Conmutador de columna vertebral: red troncal completamente interconectada, debe admitir el módulo óptico OSFP de 800G y ECMP

Interruptor de hoja: cada interruptor está conectado a dos espinas a través de módulos ópticos duales para evitar fallas de un solo punto

Conexión del servidor: utilice un cable óptico activo (AOC) de 200 G para conectarse directamente a Leaf

III. Principio de la tecnología de núcleo de doble enlace

1. Adaptación de enlaces homogéneos y heterogéneos

Los enlaces duales pueden utilizar "enlaces homogéneos" (dos enlaces del mismo tipo, como ambos InfiniBand HDR) o "enlaces heterogéneos" (como un InfiniBand para comunicación de baja latencia y un Ethernet para transmisión de datos de gran capacidad).

2. Asignación dinámica de recursos de enlace

Mecanismo de conmutación sin interrupciones: utilice "modo activo/en espera" o "equilibrio de carga + ajuste dinámico":

Modo activo/en espera: en condiciones normales, el enlace principal transporta el tráfico principal y el enlace en espera solo transmite paquetes de latido; en caso de falla, el enlace en espera se hace cargo de todo el tráfico en microsegundos para garantizar que no se pierdan datos.

Modo de equilibrio de carga: dos enlaces funcionan al mismo tiempo y el enlace sobreviviente se hace cargo automáticamente de todo el tráfico después de una falla (la capa de protocolo debe soportar la redistribución del tráfico para evitar la congestión).

Módulo óptico FIBERTOP, fuente directa de fábrica | Envío en 72 h | Soluciones para centros de computación inteligente | Personalizable