01 / CONFIDENTIALITÉ
Vos documents ne doivent pas sortir
Secret professionnel, obligation réglementaire ou simple prudence : certaines données ne doivent pas transiter vers une API externe.
REP. 01 / IA LOCALE
Votre IA. Vos données.Votre niveau de contrôle.
Un modèle dans votre environnement, c'est choisir où tournent les données, ce que le modèle voit, et de quoi vous dépendez.
REP. 02 / SITUATIONS
Trois raisons de garder la main
CONFIDENTIALITÉ
MAÎTRISE
USAGE
MAÎTRISE
USAGE
02 / MAÎTRISE
Vous voulez moins dépendre d'un tiers
Même sans contrainte forte, vous préférez savoir où tournent vos modèles, ce qui est indexé, et de quoi vous dépendez au quotidien.
03 / USAGE
Vous voulez interroger votre propre documentation
Recherche par le sens, assistants internes, réponses ancrées à vos sources. Le local devient intéressant dès que le corpus est le vôtre.
REP. 03 / RÉPARTITION
Quand le cloud reste le bon choix
Usage faible, données non sensibles ou anonymisées : le local est souvent une dépense inutile. Ce qui justifie une installation chez vous, c'est la nature des documents.
Entre le local et les API américaines, il existe un troisième cas : des fournisseurs européens proposent aujourd'hui des modèles ouverts en API, hébergés en Europe. Pour des documents peu sensibles, sur une structure qui ne veut pas gérer de machine, c'est souvent le bon compromis.
La différence avec le local tient en une phrase : un tiers traite toujours vos données, même s'il est européen. Ce qui change, c'est le régime juridique applicable et la nature du flux sortant, pas son existence. Selon ce que contiennent vos documents, ça suffit, ou pas. C'est ce qu'on arbitre au cadrage, source par source.
REP. 04 / COMMENT C'EST CONSTRUIT
La répartition se fait source par source
Pas de règle unique pour toute une structure. Une donnée qui identifie quelqu'un ne circule pas comme un référentiel public. Trois périmètres utiles ici : LOCAL, AUTORISÉ, CONTRÔLÉ. Le détail des voies sous conditions se discute au cas par cas.
SOURCE
TRAITEMENT
PÉRIMÈTRE
Documents sensibles
RAG local
LOCAL
Données publiques
LLM externe
AUTORISÉ
Base métier
Agent / API
CONTRÔLÉ
Ce classement n'est pas figé. Si l'usage d'une source change, elle change de ligne, sans repenser toute l'architecture.
REP. 05 / OFFRE
Quatre façons d'aborder le sujet
01ASSISTANT
Votre documentation devient interrogeable
Questions sur procédures, contrats ou référentiels. La réponse s'appuie sur les passages retrouvés et cite sa source.
02RAG
Un moteur de connaissance sur vos données
Index local relié à un modèle. Ce qui part au modèle se limite aux extraits pertinents, pas à la base entière.
03DÉPLOIEMENT
Un modèle qui tourne dans votre environnement
Installation et exploitation sur votre matériel : serveur, carte graphique, runtime, accès et sauvegarde.
04AUDIT
Savoir ce qui doit rester local
Ce qui peut être automatisé, ce qui ne devrait pas l'être, et quelles données restent chez vous. Avant tout achat de machine.
REP. 06 / DÉPLOIEMENT
Mesurer avant d'acheter la machine.
MESURER
INSTALLER
EXPLOITER
INSTALLER
EXPLOITER
Une machine à 128 Go de mémoire unifiée se négocie aujourd'hui entre 3 800 € pour un mini-PC à base de Ryzen AI Max+ 395 et 7 000 à 8 000 € pour un DGX Spark importé1. Le double, pour la même quantité de mémoire. Et l'écart bouge d'un mois sur l'autre, parce que c'est le prix de la mémoire qui commande la facture, pas la puce.
Ce type de machine fait tourner confortablement un modèle de 20 à 30 milliards de paramètres quantifié, ce qui couvre la recherche documentaire et l'assistant interne d'une structure de taille moyenne. Le poste qui fait vraiment varier le besoin, c'est le nombre d'utilisateurs simultanés et la longueur du contexte utile : chaque session en cours occupe sa propre mémoire de contexte. Dix personnes à la fois, c'est surtout dix fois plus de mémoire retenue, pas dix fois plus de calcul. Les deux se mesurent sur place.
J'ai comparé des architectures de modèles sur ma machine de travail et sur une carte louée à l'heure. Sur les tâches qui nous intéressaient, un prompt système bien écrit donnait une qualité de réponse équivalente au mode raisonnement, pour environ six fois moins de temps d'attente. Avant d'acheter du matériel pour aller plus vite, je regarde d'abord ce qu'on gagne en écrivant mieux.
L'ordre de travail : on mesure chez vous, ensuite vous achetez.
1 Prix relevés le 9 septembre 2026, hors reconditionné. Le tarif officiel du DGX Spark est passé de 3 999 à 4 699 dollars le 23 février 2026 ; faute de circuit de vente officiel en France, les prix constatés chez les revendeurs tiers sont sensiblement plus élevés. À revérifier avant toute décision d'achat.
01 — MESURER
Mesurer
Volumétrie, longueur de contexte utile, utilisateurs simultanés, modèles envisageables, mémoire nécessaire et matériel déjà en place.
02 — INSTALLER
Installer
Modèles, runtime, stockage, indexation, droits d'accès et intégration dans l'environnement retenu.
03 — EXPLOITER
Exploiter
Documentation, sauvegarde, restauration et suivi, si vous préférez me déléguer la maintenance plutôt que la reprendre en interne.
REP. 07 / EXPÉRIENCE
Ce qui m'a formé aux briques que je déploie
Un portail public de suivi hydrologique, et une R&D d'IA métier sur ces données : corpus documentaire, MCP, orchestration d'agents.
REP. 08 / QUESTIONS
Questions avant de décider
Faut-il tout héberger en local ?
Non. La répartition se fait source par source. Certaines données restent locales ; d'autres peuvent emprunter une voie autorisée. Le local se justifie surtout quand le non-transfert ou la traçabilité stricte s'imposent.
Le RAG envoie-t-il toute ma base à un modèle externe ?
Non, sauf mauvaise configuration. Le modèle reçoit la question et les passages retrouvés. Si ces passages contiennent des données personnelles, le RGPD s'applique tout de même.
Une IA locale est-elle rentable uniquement pour réduire les coûts d'API ?
Sur un volume d'usage courant, une API cloud reste presque toujours moins chère qu'une machine dédiée. La rentabilité seule ne suffit à justifier le local qu'à fort volume régulier, ou quand elle se combine à un vrai besoin de confidentialité, de latence, ou de fonctionnement hors connexion.
Quand une IA locale se justifie-t-elle vraiment ?
Le cas le plus net : des données qui ne peuvent pas être confiées à un tiers (secret professionnel, données médico-sociales, données administratives nominatives, secret des affaires). Dans ce cas, le coût passe au second plan ; l'enjeu n'est pas le prix mais le droit de faire sortir la donnée.
Un serveur en Europe suffit-il pour protéger mes documents ?
Ce qui compte, c'est surtout qui traite les données, sous quelles lois, et quels flux sortent : un hébergement européen à lui seul ne règle pas la question des accès possibles via un prestataire soumis au droit américain. Voir la note de contexte juridique.
Par où commencer si je ne sais pas encore ?
Par un audit de périmètre : quelles données, quel volume, qui doit pouvoir tracer ce qui part. Ensuite seulement, matériel ou API.
Je préfère une solution hébergée plutôt qu'une machine chez moi. C'est possible ?
Oui. Si vos données le permettent, je conçois et déploie chez un fournisseur européen : Scaleway, OVHcloud, plutôt que sur votre matériel. Le local n'est pas une religion : c'est un niveau de contrôle parmi d'autres, qu'on choisit selon ce que contiennent vos documents.
REP. 09 / CONTACT
Parlons de votre cas d'usage.
Décrivez les documents, le résultat attendu et votre environnement. Je vous dirai quel niveau de contrôle est justifié, et si une approche locale ou hybride tient la route.