Une IA privée, installée chez vous, sur une machine que vous avez peut-être déjà.
Quand les données ne doivent pas sortir de l’entreprise, j’installe des modèles open source directement sur vos serveurs. Ce dispositif est en production. Un ordinateur de plus de cinq ans, upgradé avec 64 Go de mémoire vive et une carte graphique de 12 Go, suffit déjà pour des usages concrets.
- Statut
- En production chez le client
- Machine utilisée
- PC de plus de 5 ans · 64 Go de RAM · 12 Go de mémoire graphique
- Logiciel
- LM Studio + modèles open source
- Données
- Traitées sur place, sans envoi à un service d’IA externe
Certaines données ne doivent jamais quitter l’entreprise.
Dossiers clients, données de santé, contrats, savoir-faire, chiffres financiers : beaucoup d’entreprises renoncent à l’IA parce qu’elles ne veulent pas confier ces informations à un service en ligne.
Elles pensent souvent qu’une IA privée demande des serveurs hors de prix. Mes tests montrent le contraire pour une large part des usages : avec un modèle bien choisi et une méthode encadrée, une machine existante suffit.
De la machine existante à l’assistant interne.
Faites défiler : les quatre étapes d’une installation, reconstituées.
On part de ce que vous avez.
Mémoire, carte graphique, stockage : on mesure ce que la machine peut faire tourner, et on choisit un modèle à sa taille. Si un achat est utile, on le dimensionne au plus juste.
Un modèle open source, en local.
Le logiciel et le modèle sont installés une fois. Ensuite, tout fonctionne sur votre réseau, même sans connexion Internet.
L’agent ne connaît que vos sources.
Vos documents sont indexés sur la machine. Avec la méthode encadrée, l’agent applique vos règles et cite toujours le document d’où vient sa réponse.
Vos équipes posent leurs questions.
Depuis leur navigateur, sur le réseau interne. Les réponses arrivent en quelques secondes, avec leur source.
◆ Les données restent chez vous$ inventaire --materiel processeur 8 cœurs # 2019 mémoire 64 Go graphique 12 Go de mémoire vidéo stockage SSD 1 To → modèle conseillé : 7 à 14 milliards de paramètres, compressé (quantifié) pour tenir dans la carte graphique → verdict : aucun achat nécessaire pour démarrer
$ lms get mistral-nemo ✓ modèle téléchargé une seule fois · 7 Go $ lms load mistral-nemo --gpu max ✓ chargé en mémoire graphique $ lms server start ✓ serveur local actif · réseau interne uniquement # aucune donnée ne sort de la machine
- ✓Répondre uniquement à partir des sources indexées
- ✓Toujours citer le document et la page
- ✓Information absente : le dire et orienter vers un responsable
Confidentiel, maîtrisé, sans abonnement à la consommation.
Une IA installée chez vous ne facture pas chaque question. Son coût se résume à la machine, à l’installation et à la maintenance.
Vos données restent chez vous
Aucun envoi à un fournisseur d’IA. Une réponse simple aux exigences de vos clients, de vos assureurs ou de votre secteur.
Pas de facture au volume
Vos équipes posent autant de questions qu’elles le souhaitent. Pas d’abonnement par utilisateur ni de coût par requête.
Fonctionne sans Internet
L’assistant reste disponible sur votre réseau interne, même en cas de coupure ou dans un site isolé.
Une limite, dite clairement : les modèles qui tournent sur une machine de bureau sont plus petits que les grands modèles en ligne. On les réserve donc aux tâches bien délimitées (recherche dans vos documents, rédaction, classement, extraction). C’est précisément ce que permet la méthode encadrée : un domaine précis, des sources maîtrisées, des règles écrites.
Installer, encadrer, maintenir
- Auditer la machine et choisir le modèle
- Installer et sécuriser le serveur sur votre réseau
- Indexer vos documents et écrire les règles
- Mettre à jour les modèles et suivre la qualité
Posséder, valider, utiliser
- Reste propriétaire de la machine et des données
- Choisit les documents accessibles à l’assistant
- Valide les règles et les réponses de test
- Décide qui y a accès
+Sous le capot pour les directions techniques
- Matériel
- Poste de plus de cinq ans, 64 Go de RAM, carte graphique de 12 Go de VRAM. Serveur dédié possible pour plus d’utilisateurs.
- Logiciel
- LM Studio et son serveur local compatible avec l’API OpenAI, ce qui permet de brancher les mêmes outils qu’en ligne.
- Modèles
- Modèles open source compressés (quantifiés), choisis selon la mémoire disponible et la tâche.
- Recherche documentaire
- Index local des documents (RAG) ; chaque réponse renvoie au document et à la page.
- Accès
- Interface web sur le réseau interne, comptes utilisateurs, aucune ouverture vers l’extérieur.
- Maintenance
- Mises à jour des modèles validées sur un jeu de questions de test, sauvegarde de l’index.
Vos données doivent rester chez vous ?
Parlons de vos documents, de vos contraintes et de votre matériel. Je vous dis ce qu’une IA installée sur place peut faire, et avec quelle machine.