Pourquoi installer une IA chez soi
Une IA « en local », ou « on-premise », fonctionne sur une machine de l’entreprise. Les questions et les documents ne partent pas chez un fournisseur d’IA en ligne. Trois raisons poussent les PME à franchir le pas.
- La confidentialité. Dossiers clients, données de santé, contrats, chiffres financiers : certaines informations ne doivent pas quitter l’entreprise.
- Le coût. Une IA installée chez vous ne facture pas chaque question. Son coût se résume à la machine, à l’installation et à la maintenance. C’est l’inverse du tokenmaxxing et de ses factures à la consommation.
- L’autonomie. L’assistant reste disponible sur le réseau interne, même sans connexion Internet.
Quelle machine faut-il ?
Beaucoup de dirigeants pensent qu’il faut un serveur spécialisé et hors de prix. Pour une large part des usages, ce n’est pas le cas. Notre IA on-premise en production tourne sur un ordinateur de plus de cinq ans, équipé de 64 Go de mémoire vive et d’une carte graphique dotée de 12 Go de mémoire.
La carte graphique décide de la taille du modèle
Un modèle d’IA se mesure en « paramètres », souvent plusieurs milliards. Plus il en compte, plus il lui faut de mémoire. La mémoire de la carte graphique est le point clé : c’est elle qui permet des réponses rapides. Avec 12 Go, on peut faire tourner des modèles de 7 à 14 milliards de paramètres, à condition de les compresser.
La compression des modèles, expliquée simplement
Cette compression s’appelle la « quantification ». Chaque paramètre est stocké avec moins de précision, un peu comme une photo enregistrée en qualité réduite. Le modèle prend beaucoup moins de place. La perte de qualité existe, mais elle reste acceptable pour des tâches bien délimitées, ce que l’on vérifie par des tests.
Avant tout achat, nous faisons l’inventaire de la machine. Dans bien des cas, aucun achat n’est nécessaire pour démarrer.
Les logiciels : LM Studio et ses alternatives
Nous utilisons LM Studio. Ce logiciel télécharge les modèles, les charge dans la carte graphique et les met à disposition sur le réseau interne. Depuis juillet 2025, il est gratuit pour un usage professionnel, sans licence à demander.
Son serveur local accepte les mêmes requêtes que l’interface d’OpenAI. Concrètement, des outils prévus pour une IA en ligne peuvent se brancher sur l’IA locale sans être réécrits.
D’autres logiciels existent, comme Ollama, un outil open source très utilisé. En France, Ollama figure parmi les recherches associées à « IA locale » qui progressent le plus dans Google Trends sur les douze derniers mois. Le choix dépend surtout de l’usage prévu et de la personne qui assurera la maintenance.
Quels modèles choisir
De nombreux éditeurs publient des modèles dits « ouverts » : on peut les télécharger et les faire tourner chez soi. Le français Mistral AI a par exemple publié en juillet 2024, avec NVIDIA, Mistral NeMo. Ce modèle de 12 milliards de paramètres est diffusé sous licence Apache 2.0, qui autorise un usage commercial.
Trois critères guident le choix :
- La licence, qui doit autoriser l’usage en entreprise. Elle varie d’un modèle à l’autre.
- La taille, qui doit tenir dans la mémoire disponible.
- La qualité en français sur vos tâches réelles, vérifiée par des questions de test.
Lisez toujours la licence avant de choisir : « ouvert » ne veut pas dire « libre de tout usage », et les conditions changent d’un éditeur à l’autre.
Ce qu’une IA locale fait bien, et moins bien
Disons-le clairement : les modèles qui tournent sur une machine de bureau sont plus petits que les grands modèles en ligne. On les réserve donc à des tâches bien délimitées.
| IA en local | Grand modèle en ligne | |
|---|---|---|
| Vos données | Restent dans l’entreprise | Envoyées au fournisseur |
| Le coût | Machine, installation, maintenance | Abonnement ou paiement à la consommation |
| La puissance | Modèles plus petits | Les modèles les plus puissants |
| Les usages conseillés | Recherche dans vos documents, rédaction, classement, extraction | Tâches ouvertes et complexes |
| Sans Internet | Fonctionne | Ne fonctionne pas |
C’est là que la méthode de l’IA encadrée fait la différence. Un domaine précis, des sources maîtrisées et des règles écrites permettent à un modèle de taille moyenne de donner des réponses fiables. L’agent ne répond qu’à partir de vos documents et cite toujours sa source. Nous détaillons cette méthode dans notre article sur les hallucinations de l’IA.
La sécurité : les recommandations de l’ANSSI
Installer une IA chez soi ne dispense pas de la sécuriser. En avril 2024, l’ANSSI, l’agence nationale chargée de la sécurité des systèmes d’information, a publié des recommandations pour les systèmes d’IA générative. Elles insistent notamment sur le cloisonnement du système et la journalisation des accès.
En pratique : un serveur accessible uniquement depuis le réseau interne, des comptes utilisateurs, aucune ouverture vers l’extérieur, et des mises à jour validées avant d’être déployées. Pensez aussi aux sauvegardes : l’index de vos documents et les réglages de l’assistant se sauvegardent comme le reste du système.
Les étapes d’une installation
- L’audit de la machine : mémoire, carte graphique, stockage. On choisit un modèle à sa taille.
- L’installation : le logiciel et le modèle sont installés une fois, puis tout fonctionne sur votre réseau.
- Vos documents et vos règles : les documents sont indexés sur la machine, les règles sont écrites et testées avec vous.
- L’usage au quotidien : vos équipes posent leurs questions depuis leur navigateur et reçoivent en quelques secondes une réponse qui cite sa source.
- La maintenance : chaque mise à jour du modèle est validée sur un jeu de questions de test.
Une IA locale bien encadrée, c’est du valuemaxxing appliqué au matériel : on tire le meilleur d’une machine déjà amortie, au lieu de payer chaque question. Voir notre offre d’IA privée.
Questions fréquentes
Faut-il acheter un serveur pour avoir une IA en local ?
Pas forcément. Notre installation en production tourne sur un PC de plus de cinq ans, avec 64 Go de mémoire vive et 12 Go de mémoire graphique. Un serveur dédié devient utile quand le nombre d’utilisateurs augmente.
Une IA locale est-elle aussi performante que ChatGPT ?
Pas sur les tâches ouvertes et complexes : les modèles locaux sont plus petits. Sur des tâches délimitées, comme la recherche dans vos documents, une IA locale bien encadrée donne des réponses fiables et sourcées.
Mes données sortent-elles de l’entreprise ?
Non. Le modèle et les documents restent sur votre machine. Une fois le modèle téléchargé, l’assistant fonctionne sur votre réseau interne, même sans connexion Internet.