DeepSeek libera en código abierto el motor de inferencia DeepInferBreve · digest del 26 de octubre
Breve≈ 1 min

DeepSeek libera en código abierto el motor de inferencia DeepInfer

El laboratorio DeepSeek ha publicado bajo licencia libre Apache 2.0 el código fuente de su motor de servidor DeepInfer, encargado de servir en producción su modelo insignia DeepSeek V4.1 Flash con arquitectura MoE de 552 mil millones de parámetros.

La joya de ingeniería del motor es su algoritmo optimizado de decodificación especulativa (arquitectura DSpark). En lugar de generar token a token, donde un modelo gigantesco choca inevitablemente contra el ancho de banda de memoria de los aceleradores, una cabeza auxiliar de confianza (Confidence Head) genera un lote de tokens por adelantado y la red principal los valida en paralelo en una sola pasada directa. Esto multiplica la velocidad de entrega de tokens sin perder el rigor matemático del razonamiento.

El lanzamiento apunta a operadores de centros de datos y clústeres basados en chips NVIDIA SM100 y aceleradores chinos Huawei Ascend 950. Eso sí, DeepSeek ha liberado exactamente el núcleo de cómputo de bajo nivel: el almacenamiento en caché distribuido de prefijos y el balanceo de carga en red siguen formando parte de la infraestructura cerrada de servidor del centro de datos. Puedes conocer la trayectoria de la plataforma en nuestro análisis sobre el motor DeepInfer y el modelo V4.1 Flash.

Quiero un análisis detalladoLos votos ayudan a elegir qué analizar a fondo. Este material tiene 0 votos.
Fuentes · 3