Quels modèles faire tourner en local ? Tailles et licences

Pour un poste de travail avec une carte graphique de 8 à 16 Go, les familles les plus simples à faire tourner en local sont les petits modèles récents : Gemma 4 de Google (E2B, E4B, 12B), Qwen 3.5 en 4B ou 9B, Ministral 3 de Mistral AI (3B, 8B, 14B) ou Llama 3.1 8B de Meta. Au-delà, Mistral Small, Qwen 3.5 27B ou Gemma 4 31B demandent un serveur. Les licences diffèrent : la plupart de ces modèles sont publiés sous Apache 2.0, Llama sous une licence propre à Meta. Tout ce qui suit vient des fiches officielles, lues le 15/11/2026.

Ce site est édité par IArche, qui édite ALMA. Ce tableau n'est pas un classement : il rassemble des faits publiés. La qualité de chaque modèle sur vos questions, en français, se mesure par vos propres tests.

Le tableau

« B » signifie milliards de paramètres. Un « mélange d'experts » n'active qu'une partie de ses paramètres à chaque jeton, mais le fichier contient le modèle entier : Gemma 4 26B A4B compte 25,2 milliards de paramètres dont 3,8 milliards actifs, et pèse de 16 à 19 Go à télécharger dans la bibliothèque Ollama.

Sur un poste de travail

Sources : bibliothèque Ollama pour Gemma 4, Qwen 3.5 et Llama 3.1. La fiche de Gemma 4 précise que E2B compte 2,3 milliards de paramètres effectifs (5,1 avec les plongements) et E4B 4,5 milliards (8 avec les plongements). Gemma 4 et Qwen 3.5 acceptent du texte et des images d'après la bibliothèque Ollama.

Pour Mistral AI, la fiche de Ministral 3 14B indique qu'il tient dans 24 Go de mémoire vidéo en FP8, moins s'il est quantifié davantage, et qu'il prend en charge des dizaines de langues, dont le français. Mistral AI publie aussi des versions GGUF de Ministral 3 sur Hugging Face.

Sur un serveur

• Mistral Small 3.2 (24B) : environ 55 Go de mémoire de carte graphique en bf16 ou fp16, d'après sa fiche ; 15 Go à télécharger dans la bibliothèque Ollama, sous forme quantifiée. La liste des modèles de Mistral AI le range désormais parmi les versions dépréciées : vérifiez sa durée de vie avant de bâtir dessus.
• Mistral Small 4 : 119 milliards de paramètres dont 6,5 milliards actifs par jeton, 128 experts dont 4 actifs ; vLLM est l'outil recommandé par sa fiche, qui cite aussi llama.cpp et LM Studio. Son exemple vLLM répartit le modèle sur deux cartes graphiques.
• Qwen 3.5 27B : 17 à 20 Go à télécharger ; Gemma 4 31B : 19 à 20 Go ; Llama 3.1 70B : 43 Go (bibliothèque Ollama).

Pour transformer ces tailles en besoin de mémoire, voir Quel matériel pour un LLM local.

Les licences, sans approximation

• Apache 2.0 (Gemma 4, Qwen 3.5 9B, Ministral 3, Mistral Small 3.2 et 4) : la fiche de Ministral 3 précise qu'il est utilisable à des fins commerciales comme non commerciales ; celle de Mistral Small 4 rappelle que le modèle ne doit pas servir à porter atteinte aux droits de tiers.
• Llama 3.1 Community License Agreement (Meta, version publiée le 23/07/2024) : la licence impose d'afficher « Built with Llama » de façon visible sur un site, une interface ou une documentation liés, de respecter la politique d'usage acceptable de Meta, et de demander une licence à Meta si vos produits dépassaient 700 millions d'utilisateurs actifs mensuels.

Vérifiez la licence sur la fiche du modèle exact que vous téléchargez : elle peut changer d'une version ou d'une taille à l'autre. Pour un fichier quantifié publié par un tiers, remontez aussi à la fiche du modèle d'origine. Ce résumé n'est pas un avis juridique : faites valider votre usage par la personne qui suit vos contrats.

Comment choisir

1. Partez du matériel : la mémoire disponible élimine d'emblée une partie des modèles.
2. Testez en français sur une vingtaine de vos vraies questions, avec deux ou trois modèles de taille voisine.
3. Vérifiez la licence au regard de votre usage.
4. Regardez la durée de vie : Mistral Small 3.2, par exemple, ne figure plus que dans la liste des versions dépréciées de Mistral AI.

Pour comparer les modèles européens ou décider entre poids ouverts et interface payante, voir les pages LLM français et européens et Poids ouverts ou API du site consacré aux modèles.