« Est-ce que je peux faire tourner ChatGPT en local, sur ma machine, pour que mes documents ne partent nulle part ? » La question revient à chaque session de formation depuis un an. Un dirigeant de cabinet à Marcq-en-Baroeul me l'a reformulée le mois dernier : il refuse de coller un dossier client dans une interface hébergée à l'autre bout du monde, et il a raison de se la poser. La réponse commence par un « non » qui surprend, et elle ne s'arrête pas là. Voici ce que l'expression veut dire réellement, ce qu'elle protège, ce qu'elle ne protège pas, et comment travailler avec une IA en ligne sans lui livrer vos dossiers.
Ce que « ChatGPT en local » veut dire vraiment
Le « non » d'abord. ChatGPT n'est pas un logiciel, c'est un service. Le modèle qui le fait fonctionner tourne sur les serveurs de son éditeur, il n'est pas distribué et ne l'a jamais été. Aucun ordinateur, aussi puissant soit-il, ne peut l'exécuter.
Ce qui existe, ce sont les modèles ouverts. Plusieurs laboratoires publient les poids des leurs en téléchargement libre : Qwen, Mistral, Llama, Gemma. Un modèle ouvert, c'est un fichier : vous le copiez, vous l'exécutez, il répond, et il ne demande rien à personne. C'est ce que cherchent, sans le nommer ainsi, les dirigeants qui veulent installer ChatGPT sur leur poste.
La formulation n'est pas un détail, elle détermine ce que vous allez chercher :
- « J'installe ChatGPT sur mon ordinateur » : impossible, et des heures perdues à chercher un installeur qui n'existe pas.
- « Je fais tourner un modèle de langage ouvert sur mon ordinateur » : faisable en une heure, à condition d'être à l'aise avec un fichier téléchargé, un script à écrire et une ligne de commande.
Ce qui part vraiment quand vous collez un document
Quand un document est déposé dans une interface de chat en ligne, ce n'est pas un extrait qui part, c'est l'intégralité du texte, pièces jointes comprises. Ce point est bien compris. Ce qui l'est moins, c'est qu'il existe deux régimes derrière la même marque : l'interface grand public ouverte avec un compte gratuit, et l'accès professionnel sous contrat, avec des engagements écrits sur la conservation et la réutilisation. Les conditions diffèrent et évoluent plusieurs fois par an : allez les lire à la source plutôt que de vous fier à ce qui se dit, y compris ici.
Une IA complète tient sur une clé USB
C'est la partie qui surprend le plus. Deux fichiers suffisent : un exécutable de quelques dizaines de mégaoctets et un modèle d'environ deux gigaoctets et demi, plus un script de trois lignes. Aucune installation, aucun droit administrateur, aucune connexion réseau. Au lancement, une page s'ouvre dans le navigateur, elle ressemble à une interface de chat, et elle ne parle à personne.
J'ai monté la mienne sur une clé à quinze euros : on débranche le wifi devant la salle et le modèle continue de répondre. La procédure complète, fichiers et scripts par système, est détaillée dans faire tourner une IA en local sur une clé USB.
Ce que ça change pour vos dossiers clients
Le raisonnement n'est pas neuf sur ce blog, il change simplement d'outil. Je le tiens depuis longtemps sur l'automatisation : c'est le critère qui départage deux plateformes dans n8n ou Zapier, le critère de la souveraineté, et la première raison pour laquelle je recommande une solution auto-hébergée pour automatiser ses devis et ses emails. Ce qui vaut pour un workflow vaut pour un modèle de langage.
Concrètement, exécuter le modèle sur votre poste fait disparaître trois questions d'un coup : plus de sous-traitant à encadrer par contrat, plus de transfert hors d'Europe à justifier, plus d'interrogation sur ce que devient le texte envoyé. Pour un cabinet comptable, un cabinet de recrutement ou une étude qui manipule des dossiers nominatifs, ce sont exactement les questions qui bloquent l'adoption.
Envoyer un document à une IA en ligne sans envoyer les données
Le local ne couvre pas tout, et beaucoup de travaux gagnent à passer par un modèle en ligne, nettement plus capable. Comment lui soumettre un dossier sans lui livrer les personnes ? Surtout pas en lui demandant de réécrire une version expurgée : il en oublie, il ne le signale pas, et il reformule au passage ce qu'il fallait laisser intact.
Ce qui fonctionne se fait en trois passes, de la plus fiable à la plus faillible :
- Les identifiants à forme fixe se capturent par règles, sans IA : adresses électroniques, téléphones, IBAN, SIRET, numéro de sécurité sociale, dates, numéros de dossier. C'est la seule étape où rien ne peut échapper, et elle couvre l'essentiel d'un document professionnel.
- Les noms de personnes et d'entreprises passent par un outil de reconnaissance d'entités, qui repère leur position exacte et laisse le reste du document intact.
- Le modèle n'intervient qu'en dernier, sur ce que les deux premières passes ne voient pas : les identifiants de contexte, du type « le responsable de l'agence de Valenciennes parti en mars ».
Deux règles font la différence. On remplace au lieu d'effacer : chaque nom devient un jeton stable conservé dans une table locale, ce qui garde le document cohérent et permet de réinjecter les vrais noms dans la réponse reçue. Et on vérifie avant d'envoyer : recherche automatique de chaque valeur de la table dans le texte sortant, et blocage si une seule y figure encore. Reste ce qu'aucune méthode ne couvre, la combinaison qui désigne sans nommer.
Ce qu'une IA locale ne fait pas
Il faut être aussi net sur les limites que sur les gains, sinon l'argument se retourne au premier contrôle.
- Elle ne rend pas conforme au RGPD. Base légale, registre, minimisation, durée de conservation, information des personnes : rien de cela ne disparaît parce que le calcul se fait sur votre machine. Le local supprime un intermédiaire, pas un règlement.
- Elle n'anonymise pas. La CNIL définit l'anonymisation comme un traitement rendant l'identification impossible et de manière irréversible, à ne pas confondre avec la pseudonymisation. Un modèle produit au mieux la seconde, et de façon non déterministe.
- Elle est très en dessous des modèles en ligne. Un modèle de quatre milliards de paramètres reformule, résume et extrait correctement, mais il ne raisonne pas sur un dossier complexe. C'est un traitement de texte augmenté, pas un analyste.
- Elle ne connaît rien de récent. Sa mémoire est figée au jour de son entraînement et elle ne consulte pas le web.
Les deux IA à ne pas confondre
C'est la confusion la plus fréquente en rendez-vous, et elle coûte cher dans les deux sens. Il y a d'un côté l'IA qui doit tout savoir de vous : ChatGPT, Perplexity, Gemini et les résumés générés dans Google, ceux qui répondent quand un prospect d'Arras cherche un cabinet près de chez lui. Pour ceux-là, l'objectif est inverse : être trouvable, cohérent d'une source à l'autre, et cité. C'est tout le sujet de apparaître dans ChatGPT et Perplexity.
Et il y a de l'autre côté l'IA qui ne doit rien savoir de vous : le modèle local qui traite vos dossiers, coupé du monde par construction. Confondre les deux mène à deux erreurs symétriques : se rendre invisible des moteurs de réponse par peur pour ses données, ou confier ses dossiers nominatifs à un service dont on attend surtout de la visibilité. Deux chantiers distincts, deux objectifs opposés.
Par où commencer concrètement
Dans l'ordre, et sans acheter quoi que ce soit avant la troisième étape :
- Écrivez la règle avant de choisir l'outil. Une page suffit : ce qui peut sortir de l'entreprise, ce qui ne sort pas, et qui tranche en cas de doute.
- Faites l'inventaire de ce que vos équipes envoient réellement, puis triez : la majorité de ce qui passe dans une IA ne contient aucune donnée personnelle et ne justifie aucune précaution.
- Testez le local sur le seul cas qui coince, avec une clé USB et une heure devant vous, avant tout achat de matériel.
- Gardez la relecture humaine sur tout document qui sort, quelle que soit la solution.
Pour un accompagnement sur l'usage de l'IA dans votre entreprise et le cadrage de ce qui peut lui être confié, la page consultant IA dans le Nord détaille ma façon de travailler. Pour poser cette règle avec vos équipes plutôt que seul, la formation ChatGPT pour un usage professionnel (21h, finançable via votre OPCO) consacre un module entier à la confidentialité des données. Pour faire le point sur votre situation, contactez-moi directement.