Glossaire · IA générative

SLM (Small Language Model)

Un SLM, ou Small Language Model, est un modèle de langage compact comptant généralement de 1 à 12 milliards de paramètres, par opposition aux grands modèles qui en alignent des centaines de milliards. Sa taille réduite le rend bien moins coûteux à exécuter — de l'ordre de 10 à 30 fois moins en latence et en énergie — tout en restant amplement suffisant pour des tâches cadrées : classification, extraction d'informations, résumé, ou pilotage d'un agent sur un périmètre défini. L'idée directrice est qu'un grand LLM généraliste est souvent surdimensionné pour un besoin précis : sur une tâche bien délimitée, un SLM correctement choisi ou spécialisé atteint une qualité comparable pour une fraction du coût. Cette efficience ouvre des usages nouveaux : exécution locale, déploiement sur des appareils contraints, hébergement souverain à moindre coût, et multiplication d'agents spécialisés. Le SLM incarne un choix d'ingénierie pragmatique : dimensionner le modèle au besoin réel plutôt que d'appeler par défaut le plus gros modèle disponible.

Un SLM, pour Small Language Model, est un modèle de langage compact. Là où un grand LLM aligne des centaines de milliards de paramètres, le SLM en compte typiquement de 1 à 12 milliards. Cette compacité n'est pas une limitation à corriger : c'est un choix d'ingénierie, dicté par le principe qu'un modèle doit être dimensionné au besoin réel plutôt qu'appelé au maximum par défaut.

Compact ne veut pas dire faible

L'intuition trompeuse serait de croire qu'un modèle plus petit est forcément moins bon. En réalité, sur une tâche bien délimitée — classification, extraction d'informations, résumé, réponse dans un domaine précis — un SLM correctement choisi ou spécialisé atteint une qualité comparable à celle d'un grand modèle généraliste. Ce dernier est souvent surdimensionné pour le besoin : sa polyvalence coûte cher et n'apporte rien de plus quand le périmètre est cadré.

Deux leviers expliquent cette efficacité. D'une part, une tâche cadrée mobilise une fraction seulement des connaissances d'un grand modèle ; l'immense reste devient un coût inutile. D'autre part, un SLM peut être affiné sur un domaine précis — un jargon métier, un format de sortie, un type de document — jusqu'à surpasser un grand modèle généraliste sur ce terrain limité, tout en restant infiniment plus léger à exécuter.

L'avantage économique et énergétique

C'est sur le coût que l'écart devient spectaculaire. Un SLM consomme de l'ordre de 10 à 30 fois moins en latence et en énergie qu'un grand LLM pour une réponse équivalente. Cette efficience change la donne : elle rend viables des usages où appeler un gros modèle serait prohibitif — notamment la multiplication d'agents IA spécialisés, chacun cantonné à une tâche précise, exécutés en parallèle et à faible coût.

La latence réduite compte autant que le prix. Un modèle compact répond en une fraction du temps d'un grand LLM, ce qui autorise des interactions temps réel, des boucles d'agent enchaînant de nombreux appels, ou des traitements en masse sur de gros volumes de documents. À l'échelle, cette différence sépare un usage expérimental d'un déploiement industriel rentable.

Des usages nouveaux ouverts par la compacité

Parce qu'il tient dans une empreinte réduite, le SLM peut s'exécuter localement, sur des appareils contraints, sans transiter par un service distant. Cette portabilité sert directement la souveraineté numérique : un modèle compact est plus simple et moins coûteux à héberger en France ou en Union européenne, sous contrôle complet des données.

C'est un levier central de notre approche de l'IA souveraine : préférer, quand la tâche le permet, un SLM efficient et maîtrisé plutôt que la dépendance systématique à un grand modèle généraliste hébergé à l'étranger.

FAQ

Questions fréquentes

Un SLM, ou Small Language Model, est un modèle de langage compact comptant généralement de 1 à 12 milliards de paramètres, contre des centaines de milliards pour un grand LLM. Sa taille réduite le rend bien moins coûteux à exécuter tout en restant suffisant pour des tâches cadrées : classification, extraction, résumé ou pilotage d'un agent sur un périmètre défini.

La différence tient à la taille. Un LLM aligne des centaines de milliards de paramètres et vise la polyvalence ; un SLM en compte 1 à 12 milliards et cible des tâches précises. Sur un besoin bien cadré, le SLM atteint une qualité comparable au grand modèle pour un coût 10 à 30 fois moindre en latence et en énergie.

Parce qu'un grand LLM généraliste est souvent surdimensionné pour un besoin précis : sa polyvalence coûte cher sans rien apporter de plus. Sur une tâche cadrée, un SLM bien choisi égale sa qualité pour une fraction du coût, avec une latence réduite. Il ouvre aussi l'exécution locale et l'hébergement souverain.

Oui, nettement. Un SLM consomme de l'ordre de 10 à 30 fois moins en latence et en énergie qu'un grand LLM pour une réponse équivalente sur une tâche cadrée. Cet écart rend viables des usages où appeler un gros modèle serait prohibitif, comme la multiplication d'agents spécialisés exécutés en parallèle à faible coût.

On trouve des familles compactes comme Mistral (Ministral, modèles 3B-8B), Llama en versions 1B-8B, Gemma, Phi ou Qwen en petites tailles. Beaucoup sont ouverts et déclinés en variantes de 1 à 12 milliards de paramètres, souvent spécialisables sur un domaine métier précis pour dépasser un grand modèle sur ce terrain limité.

Oui, c'est l'un de ses atouts majeurs. Grâce à son empreinte réduite, un SLM s'exécute sur un serveur modeste, un poste de travail, voire un appareil contraint, sans transiter par un service distant. Cette portabilité autorise un hébergement en France ou en UE, sous contrôle complet des données.

Un SLM auto-hébergé garde les données sur votre infrastructure, sans envoi vers un service tiers hors UE. Il simplifie la conformité RGPD et sert directement la souveraineté numérique : modèle compact, coût d'hébergement maîtrisé, contrôle total du traitement. C'est un pilier de notre approche de l'IA souveraine.

Dès que la tâche de l'agent est cadrée : extraction, classification, résumé, ou pilotage sur un périmètre défini. Un grand LLM généraliste y est souvent surdimensionné. Le SLM permet aussi l'exécution locale, le déploiement sur des appareils contraints et un hébergement souverain à moindre coût — avec un bien meilleur rapport performance-prix.

Pour aller plus loin