DeepSeek abre DeepInfer, su motor de IA para reducir costes de cómputo

DeepSeek ha decidido abrir una parte especialmente sensible de su maquinaria tecnológica: DeepInfer, el sistema de inferencia que utiliza para ejecutar sus modelos de inteligencia artificial a gran escala. La compañía china ha publicado el código bajo licencia Apache 2.0, de modo que desarrolladores y empresas pueden estudiar, adaptar y reutilizar buena parte de las técnicas empleadas para servir respuestas con menor gasto computacional.

No se trata de otro modelo ni de un nuevo chatbot. DeepInfer trabaja un piso más abajo, en esa sala de máquinas que el usuario normalmente no ve. Su función consiste en conseguir que un modelo ya entrenado pueda responder a enormes volúmenes de peticiones aprovechando mejor los chips, la memoria y la energía. Ahí está lo verdaderamente interesante: el coste de ejecutar una IA puede variar enormemente según el software utilizado, incluso cuando el modelo y el hardware son los mismos.

DeepInfer abre una parte de la sala de máquinas de DeepSeek

Cuando una empresa entrena un gran modelo de lenguaje realiza una inversión enorme en capacidad de cálculo. Después empieza otra factura, menos vistosa y bastante más cotidiana: hacer funcionar ese modelo cada vez que alguien escribe una consulta. Ese proceso se denomina inferencia y es uno de los grandes campos de batalla económicos de la inteligencia artificial.

DeepInfer es precisamente el software encargado de organizar ese trabajo dentro de la infraestructura de DeepSeek. La primera versión publicada está preparada para DeepSeek-V4.1-Flash y funciona tanto sobre GPU Nvidia SM100 como sobre aceleradores Huawei Ascend 950. La combinación no es menor: coloca en un mismo proyecto hardware estadounidense y chino en plena pugna tecnológica entre Washington y Pekín.

La compañía sostiene que comparte esta tecnología para ayudar a reducir los costes de computación, rebajar el consumo energético y hacer más asequible la inteligencia artificial. El planteamiento encaja con una transformación que ya recorre todo el sector. Durante años casi todo el ruido estuvo en quién tenía el modelo más grande; cada vez pesa más otra cuestión, bastante menos glamourosa: cuánto cuesta mantenerlo respondiendo durante todo el día.

Cómo intenta DeepSeek gastar menos computación

DeepInfer reúne optimizaciones que afectan a distintas fases de la ejecución. Incluye kernels especializados, pequeñas piezas de software muy ajustadas al hardware, sistemas capaces de repartir el trabajo entre numerosos procesadores y mecanismos específicos para arquitecturas de tipo mixture of experts, en las que solo una parte del modelo se activa para resolver cada petición.

También incorpora técnicas de decodificación que generan candidatos por adelantado y utilizan estimaciones de confianza para decidir qué resultados necesitan verificarse. Dicho sin lenguaje de laboratorio: el sistema intenta evitar cálculos innecesarios y mantener los aceleradores ocupados haciendo trabajo útil, en lugar de tener máquinas caras esperando unos milisegundos que, multiplicados por millones de peticiones, terminan pesando mucho.

Otro elemento relevante es la planificación asíncrona, diseñada para solapar tareas realizadas por la CPU con la ejecución en los aceleradores. Son pequeños ahorros de tiempo aquí y allá, pero al operar con grandes volúmenes terminan convirtiéndose en servidores, electricidad y dinero. En los centros de datos, unos cuantos milisegundos repetidos millones de veces dejan de ser una minucia.

Un motor pensado para exprimir mejor el hardware

DeepInfer ofrece también inferencia independiente del tamaño del lote, muestreo determinista y salidas estructuradas. Algunas funciones, como determinados modos deterministas y parte del procesamiento invariable respecto al lote, están por el momento limitadas al hardware de Nvidia. La apertura del proyecto permite, precisamente, que otros equipos técnicos estudien dónde están esas limitaciones y hasta dónde puede llevarse la optimización.

El objetivo de fondo es sencillo aunque la ingeniería no lo sea: obtener más rendimiento por cada acelerador. Comprar más chips siempre es una opción, siempre que se tengan acceso y presupuesto. Conseguir que los existentes hagan más trabajo es bastante más elegante. Y, en el actual mercado de la IA, probablemente también bastante más rentable.

Código abierto, sí; toda la infraestructura, no

Conviene colocar un asterisco conceptual junto al anuncio. DeepSeek ha abierto una pieza importante de su infraestructura, pero no ha publicado todo el sistema con el que opera su servicio comercial. DeepInfer permite observar una parte sustancial del motor de inferencia, aunque descargarlo no convierte automáticamente un grupo de servidores en una réplica de la plataforma de la empresa china.

La versión disponible proporciona inferencia offline y buena parte del motor central, pero deja fuera componentes necesarios para reproducir por completo la infraestructura de producción de DeepSeek. Entre ellos figuran partes del sistema de caché KV, capas que separan distintas fases del procesamiento y mecanismos destinados al balanceo de carga entre varias réplicas del modelo.

Hay, por decirlo de forma menos solemne, bastante fontanería alrededor. Y esa fontanería cuenta. En servicios capaces de atender grandes volúmenes de usuarios, distribuir las peticiones y gestionar la memoria puede ser tan decisivo como acelerar una operación matemática concreta.

Qué significa realmente que DeepInfer sea abierto

Aun con esas limitaciones, abrir el motor permite observar cómo una compañía que opera modelos a gran escala resuelve problemas que muchas empresas acostumbran a guardar bajo siete llaves. Ahí reside buena parte del valor del lanzamiento: no ofrece un botón mágico para abaratar cualquier sistema de IA, pero sí técnicas utilizadas en producción real que otros desarrolladores pueden estudiar e incorporar a sus propios proyectos.

DeepSeek utiliza una licencia Apache 2.0, habitual en el ecosistema de código abierto y suficientemente permisiva para facilitar modificaciones, redistribución e integración en proyectos comerciales siempre que se respeten sus condiciones. Ese detalle amplía considerablemente las posibilidades de adopción fuera de los laboratorios de la compañía.

Nvidia y Huawei comparten protagonismo en DeepInfer

La compatibilidad simultánea con Nvidia SM100 y Huawei Ascend 950 añade otra lectura al anuncio. DeepSeek no está construyendo su infraestructura alrededor de un único fabricante de aceleradores, una decisión especialmente significativa para una empresa china en un mercado condicionado por restricciones comerciales y controles estadounidenses sobre determinados chips avanzados.

En Nvidia, DeepInfer requiere CUDA 13. En los chips Ascend utiliza CANN 9.2, el ecosistema de software desarrollado por Huawei. El proyecto exige también Linux, Python 3.12 y GCC 13 o versiones posteriores. Es decir, hablamos de una herramienta destinada a equipos técnicos e infraestructuras profesionales, no de una aplicación que un usuario doméstico vaya a instalar junto al navegador.

La presencia de Ascend tampoco aparece de la nada. China lleva años intentando reducir su dependencia de las GPU estadounidenses más avanzadas y construir una cadena tecnológica propia. En esa carrera, el software importa casi tanto como el silicio. Un chip potente acompañado de herramientas mediocres puede quedarse a medio gas; una pila de software bien ajustada consigue arañar rendimiento donde antes solo había espera y consumo.

DeepSeek se apoya en un ecosistema abierto que ya existía

DeepInfer tampoco nace en una isla. El proyecto ha sido construido principalmente sobre vLLM, uno de los motores abiertos de inferencia más extendidos dentro del ecosistema de inteligencia artificial, y recoge ideas presentes en desarrollos como SGLang y TensorRT-LLM. Es una fotografía bastante fiel de cómo avanza hoy buena parte del sector.

Una compañía toma herramientas abiertas, desarrolla encima optimizaciones propias para resolver problemas concretos a gran escala y, pasado un tiempo, devuelve parte de ese trabajo al ecosistema. Competencia feroz y tuberías compartidas. La aparente contradicción es, en realidad, una de las particularidades del software moderno.

Lo que todavía falta es una comparación independiente que permita establecer exactamente cuánto mejora DeepInfer frente a otros motores bajo condiciones equivalentes. Las ventajas deberán comprobarse con modelos, hardware y cargas comparables. Publicar el código permite auditar la ingeniería y repetir pruebas; no transforma automáticamente las promesas de eficiencia en resultados universales.

El coste por token se convierte en el nuevo campo de batalla

El movimiento llega cuando la industria está descubriendo que construir modelos mejores es solo media carrera. La otra mitad consiste en conseguir que millones de personas puedan utilizarlos sin que cada respuesta dispare la factura del centro de datos. De ahí que conceptos como el coste por token hayan pasado del vocabulario interno de los ingenieros a las presentaciones de inversores y directivos.

Los tokens son las pequeñas unidades en las que los modelos dividen el texto para procesarlo y generarlo. Cuanto más eficiente sea la infraestructura que los produce, menor puede ser el coste de cada conversación. Las optimizaciones de inferencia permiten reducir esa factura sin tener que volver a entrenar el modelo, una diferencia decisiva cuando las inversiones en hardware se cuentan por cientos o miles de millones.

DeepSeek convirtió la eficiencia en una parte central de su identidad frente a los grandes laboratorios estadounidenses. Abrir DeepInfer prolonga esa apuesta: competir no solamente mostrando qué puede hacer un modelo, sino enseñando parte de la ingeniería utilizada para hacerlo funcionar con menos recursos.

Hay también una dimensión energética. Los centros de datos dedicados a inteligencia artificial necesitan cantidades crecientes de electricidad y refrigeración, de modo que aprovechar mejor cada procesador puede traducirse en menos consumo por cada respuesta generada. No resuelve por sí solo el problema energético de la IA, pero desplaza el debate hacia una cuestión concreta: cuánto trabajo útil se obtiene de cada vatio.

La carrera de la IA baja del escaparate a la maquinaria

DeepInfer quizá no tenga el atractivo inmediato de un chatbot nuevo capaz de escribir, programar o resolver ecuaciones. Pero señala con bastante precisión hacia dónde se está desplazando el negocio. Una vez que los modelos alcanzan cierto nivel, servirlos mejor, más rápido y con menos energía puede resultar tan decisivo como sumar otra décima en una prueba de rendimiento.

DeepSeek abre así una ventana poco habitual hacia su infraestructura real y coloca presión sobre un mercado que durante años ha tratado buena parte de estas optimizaciones como una ventaja competitiva privada. Otros desarrolladores podrán examinar el código, adaptar técnicas y comprobar hasta qué punto funcionan fuera del entorno para el que fueron diseñadas.

La empresa china no entrega toda la fábrica. Entrega una parte importante de la maquinaria. Y en una industria donde cada millón de tokens termina convertido en electricidad, chips y dinero, conocer cómo funciona esa maquinaria tiene bastante más importancia de la que sugiere una simple publicación de código.