SLM (Small Language Model)
Un SLM, o Small Language Model, es un modelo de lenguaje compacto que cuenta generalmente con 1 a 12 mil millones de parámetros, frente a los grandes modelos que alinean cientos de miles de millones. Su tamaño reducido lo hace mucho menos costoso de ejecutar —del orden de 10 a 30 veces menos en latencia y en energía— sin dejar de ser ampliamente suficiente para tareas acotadas: clasificación, extracción de información, resumen o pilotaje de un agente en un perímetro definido. La idea rectora es que un gran LLM generalista suele estar sobredimensionado para una necesidad precisa: en una tarea bien delimitada, un SLM correctamente elegido o especializado alcanza una calidad comparable por una fracción del coste. Esta eficiencia abre nuevos usos: ejecución local, despliegue en dispositivos limitados, alojamiento soberano a menor coste y multiplicación de agentes especializados. El SLM encarna una elección de ingeniería pragmática: dimensionar el modelo a la necesidad real en lugar de recurrir por defecto al modelo más grande disponible.
Un SLM, por Small Language Model, es un modelo de lenguaje compacto. Allí donde un gran LLM alinea cientos de miles de millones de parámetros, el SLM cuenta típicamente con 1 a 12 mil millones. Esta compacidad no es una limitación que corregir: es una elección de ingeniería, dictada por el principio de que un modelo debe dimensionarse a la necesidad real en lugar de recurrir al máximo por defecto.
Compacto no significa débil
La intuición engañosa sería creer que un modelo más pequeño es forzosamente peor. En realidad, en una tarea bien delimitada —clasificación, extracción de información, resumen, respuesta en un dominio preciso— un SLM correctamente elegido o especializado alcanza una calidad comparable a la de un gran modelo generalista. Este último suele estar sobredimensionado para la necesidad: su polivalencia cuesta cara y no aporta nada más cuando el perímetro está acotado.
Dos palancas explican esta eficacia. Por un lado, una tarea acotada moviliza solo una fracción de los conocimientos de un gran modelo; el inmenso resto se convierte en un coste inútil. Por otro lado, un SLM puede afinarse sobre un dominio preciso —una jerga profesional, un formato de salida, un tipo de documento— hasta superar a un gran modelo generalista en ese terreno limitado, sin dejar de ser infinitamente más ligero de ejecutar.
La ventaja económica y energética
Es en el coste donde la brecha se vuelve espectacular. Un SLM consume del orden de 10 a 30 veces menos en latencia y en energía que un gran LLM para una respuesta equivalente. Esta eficiencia cambia las reglas del juego: hace viables usos donde llamar a un gran modelo sería prohibitivo, en particular la multiplicación de agentes IA especializados, cada uno limitado a una tarea precisa, ejecutados en paralelo y a bajo coste.
La latencia reducida cuenta tanto como el precio. Un modelo compacto responde en una fracción del tiempo de un gran LLM, lo que permite interacciones en tiempo real, bucles de agente que encadenan numerosas llamadas o tratamientos masivos sobre grandes volúmenes de documentos. A escala, esta diferencia separa un uso experimental de un despliegue industrial rentable.
Nuevos usos abiertos por la compacidad
Porque cabe en una huella reducida, el SLM puede ejecutarse localmente, en dispositivos limitados, sin pasar por un servicio remoto. Esta portabilidad sirve directamente a la soberanía digital: un modelo compacto es más sencillo y menos costoso de alojar en Francia o en la Unión Europea, bajo control completo de los datos.
Es una palanca central de nuestro enfoque de la IA soberana: preferir, cuando la tarea lo permite, un SLM eficiente y controlado en lugar de la dependencia sistemática de un gran modelo generalista alojado en el extranjero.
Preguntas frecuentes
Un SLM, o Small Language Model, es un modelo de lenguaje compacto que cuenta generalmente con 1 a 12 mil millones de parámetros, frente a cientos de miles de millones de un gran LLM. Su tamaño reducido lo hace mucho menos costoso de ejecutar sin dejar de ser suficiente para tareas acotadas: clasificación, extracción, resumen o pilotaje de un agente en un perímetro definido.
La diferencia radica en el tamaño. Un LLM alinea cientos de miles de millones de parámetros y busca la polivalencia; un SLM cuenta con 1 a 12 mil millones y apunta a tareas precisas. En una necesidad bien acotada, el SLM alcanza una calidad comparable a la del gran modelo por un coste de 10 a 30 veces menor en latencia y en energía.
Porque un gran LLM generalista suele estar sobredimensionado para una necesidad precisa: su polivalencia cuesta cara sin aportar nada más. En una tarea acotada, un SLM bien elegido iguala su calidad por una fracción del coste, con una latencia reducida. Además abre la ejecución local y el alojamiento soberano.
Sí, claramente. Un SLM consume del orden de 10 a 30 veces menos en latencia y en energía que un gran LLM para una respuesta equivalente en una tarea acotada. Esta brecha hace viables usos donde llamar a un gran modelo sería prohibitivo, como la multiplicación de agentes especializados ejecutados en paralelo a bajo coste.
Existen familias compactas como Mistral (Ministral, modelos 3B-8B), Llama en versiones 1B-8B, Gemma, Phi o Qwen en tamaños pequeños. Muchos son abiertos y se ofrecen en variantes de 1 a 12 mil millones de parámetros, a menudo especializables en un dominio profesional preciso para superar a un gran modelo en ese terreno limitado.
Sí, es una de sus mayores ventajas. Gracias a su huella reducida, un SLM se ejecuta en un servidor modesto, una estación de trabajo, incluso un dispositivo limitado, sin pasar por un servicio remoto. Esta portabilidad permite un alojamiento en Francia o en la UE, bajo control completo de los datos.
Un SLM autoalojado mantiene los datos en su infraestructura, sin enviarlos a un servicio de terceros fuera de la UE. Simplifica el cumplimiento del RGPD y sirve directamente a la soberanía digital: modelo compacto, coste de alojamiento controlado, control total del tratamiento. Es un pilar de nuestro enfoque de la IA soberana.
En cuanto la tarea del agente está acotada: extracción, clasificación, resumen o pilotaje en un perímetro definido. Un gran LLM generalista suele estar sobredimensionado para ello. El SLM permite además la ejecución local, el despliegue en dispositivos limitados y un alojamiento soberano a menor coste, con una relación rendimiento-precio mucho mejor.
Términos y recursos relacionados
¿Una pregunta sobre tu visibilidad en la IA?
La puntuación de visibilidad IA de tu sitio. Análisis de brechas frente a 3 competidores directos. 5 optimizaciones prioritarias. Entregado en PDF, sin compromiso.
Respuesta en 24 h · Sin compromiso · contact@luwiz.io