IA locale en PME : plus lente, mais vos données restent chez vous

Un agent IA local tourne sur une machine installée dans vos locaux, et non chez un fournisseur d'IA. Avec deux NVIDIA DGX Spark reliées, soit au moins 10 000 € hors TVA aux prix de l'automne 2026, une PME peut faire tourner des modèles ouverts allant jusqu'à 400 milliards de paramètres. C'est plus lent que les grands services en ligne, et un cran en dessous en qualité. Mais la machine travaille jour et nuit, sans facture à l'usage, et vos données ne partent chez aucun prestataire. Des hôpitaux en ont déjà mesuré les effets sur des tâches précises : rédiger un document à partir d'un dossier, assister le personnel au quotidien, anonymiser un texte. Branchée sur un outil de gestion bien tenu, la même machine peut exécuter chaque nuit des routines de ce type pour une PME.

Qu'est-ce qu'une IA locale en entreprise ?

Quand vous utilisez ChatGPT, Claude ou Gemini, votre texte part sur les serveurs du fournisseur, y est traité, puis la réponse revient. Une IA locale fait le même travail sur une machine qui vous appartient, dans votre réseau. Le modèle, c'est-à-dire le fichier qui contient « l'intelligence », est téléchargé une fois ; ensuite, rien ne sort.

C'est possible parce que plusieurs éditeurs publient des modèles dits ouverts : OpenAI avec gpt-oss, Alibaba avec la famille Qwen, Mistral en France, DeepSeek en Chine, NVIDIA lui-même. Leurs fichiers sont téléchargeables librement, et la plupart sont publiés sous des licences qui autorisent l'usage commercial (Apache 2.0 ou MIT, à vérifier modèle par modèle).

Un agent local fonctionne ensuite comme l'agent IA décrit dans notre article dédié : un programme qui enchaîne des actions vers un objectif, lire, comparer, rédiger, signaler. La seule différence est l'endroit où tourne le modèle. Mais cette différence change toute l'économie du projet.

Ce que l'IA locale a déjà prouvé

Les résultats les plus solides viennent des hôpitaux, pour une raison simple : leurs données sont parmi les plus sensibles qui soient, et ils publient leurs mesures dans des revues scientifiques.

À Séoul, l'hôpital Severance a installé un modèle ouvert sur ses propres serveurs pour préparer les lettres de sortie des urgences à partir du dossier du patient. Dans l'étude publiée en octobre 2025, six médecins ont rédigé des lettres seuls, puis corrigé des brouillons de l'IA : le temps médian par lettre est passé de 69,5 à 32 secondes, et les lettres assistées ont été jugées plus complètes et plus exactes. L'essai portait sur des cas tests, pas encore sur le service en conditions réelles.

À Magdebourg, en Allemagne, l'hôpital universitaire a ouvert à tout son personnel un assistant d'IA hébergé dans ses murs. Parmi les 91 utilisateurs qui ont répondu à l'enquête publiée en 2026, 63 % s'en servent au moins une fois par semaine et 44 % déclarent gagner au moins 30 minutes par semaine.

À Dresde, une équipe universitaire a publié un outil libre qui anonymise les courriers médicaux à l'aide d'un modèle qui tourne en local : dans ses tests, il retire environ 98 % des informations permettant d'identifier un patient.

Hors du secteur de la santé, BNP Paribas fait tourner des modèles de Mistral sur sa propre infrastructure, et l'administration française met à disposition de ses agents Albert, un assistant construit sur des modèles ouverts hébergés sur des serveurs de l'État, dont chaque réponse est relue par un agent.

Côté PME, soyons honnêtes : nous n'avons trouvé aucune entreprise nommée ayant publié des résultats mesurés avec une IA locale. Les « études de cas » qui circulent sont anonymes et publiées par des vendeurs de solutions. Ce qui est démontré, ce sont les usages de base : résumer, rédiger à partir de données bien rangées, répondre à partir de documents internes, anonymiser. Les routines décrites plus bas assemblent ces usages ; leur rendement réel se mesure chez vous, pas dans une brochure.

Deux DGX Spark : ce que l'on achète vraiment

La DGX Spark est un ordinateur de 15 cm de côté conçu par NVIDIA pour l'IA. Son atout tient en un chiffre : 128 Go de mémoire partagée entre le processeur et la puce graphique. C'est cette mémoire qui fixe la taille des modèles que l'on peut charger. Selon la fiche technique de NVIDIA, une machine accueille des modèles jusqu'à 200 milliards de paramètres, et deux machines reliées par leur port réseau à 200 Gb/s montent jusqu'à 400 milliards. Le nombre de paramètres mesure, en gros, la taille d'un modèle et donc l'étendue de ce qu'il sait faire.

La même puce, appelée GB10, équipe des machines vendues par Asus, Dell, HP, Lenovo, MSI, Gigabyte ou Acer, parfois un peu moins chères à capacité égale.

Sur le prix, il faut être précis, car il a beaucoup bougé. Lancée à 3 999 dollars en octobre 2025, la version 128 Go est passée à 4 699 dollars en février 2026, puis à 6 950 dollars en octobre 2026 chez NVIDIA, qui invoque la pénurie mondiale de mémoire. En Europe, les machines de 128 Go se vendaient en septembre 2026, avant cette dernière hausse, entre 5 000 et 7 000 € hors TVA environ selon le fabricant et le stockage. Deux machines représentent donc au minimum 10 000 € hors TVA, et sans doute davantage aujourd'hui : demandez un devis récent avant de budgéter.

Deux pièges à connaître avant d'acheter :

• La version 64 Go, vendue depuis fin octobre 2026 à 4 999 dollars, coûte encore près des trois quarts du prix pour moitié moins de mémoire. Pour l'usage décrit ici, elle a peu d'intérêt.
• Ce n'est pas un serveur de centre de données. NVIDIA la présente comme un ordinateur de bureau conçu pour construire et faire tourner des agents, mais oriente les déploiements de production vers ses infrastructures professionnelles. Les premiers tests indépendants, en octobre 2025, la jugeaient plus adaptée au prototypage qu'à la production, et des acheteurs ont signalé des problèmes de chauffe. Une machine qui tourne jour et nuit doit donc être installée dans un local ventilé, surveillée, et sa panne doit être prévue : elle n'a qu'une alimentation, sans redondance.

Plus lente que le cloud : de combien, et pourquoi ?

Pour produire chaque fragment de texte, un modèle doit relire une grande partie de ses paramètres en mémoire. Sa vitesse dépend donc d'abord du débit de cette mémoire. Celle de la DGX Spark débite 273 Go par seconde. Une carte H100, l'un des composants sur lesquels tournent les grands services d'IA, en débite 3 350 : plus de douze fois plus. C'est la raison physique de la lenteur, et aucun réglage ne la fait disparaître.

Les vitesses se mesurent en tokens par seconde, un token étant un fragment de mot. À 50 tokens par seconde, le texte s'affiche plus vite que vous ne le lisez. Voici les ordres de grandeur publiés par des testeurs indépendants et par la communauté entre octobre 2025 et septembre 2026, pour une seule demande à la fois :

Ces chiffres varient selon le logiciel utilisé et la longueur des textes. Trois conséquences concrètes en découlent.

En conversation, un modèle de taille moyenne reste confortable. La lenteur apparaît sur les très gros modèles, sur les longs documents (gpt-oss-120b perd environ un quart de sa vitesse quand on lui fournit plusieurs dizaines de pages à lire) et sur les questions difficiles : un modèle qui « réfléchit » quelques milliers de tokens avant de répondre peut vous faire attendre une minute, là où un service en ligne répond en quelques secondes.

La qualité suit le même mouvement. Selon Epoch AI, les meilleurs modèles ouverts ont environ quatre mois de retard sur les meilleurs modèles commerciaux. Et ceux qui tiennent sur une ou deux machines de bureau sont plus petits que ces meilleurs modèles ouverts. Pour trier, résumer, extraire ou comparer, ils s'en sortent bien. Pour un raisonnement long et subtil, le cloud garde l'avantage.

Enfin, une machine partagée ralentit quand plusieurs personnes l'utilisent en même temps. Une IA locale n'est donc pas le bon choix pour un assistant que toute l'équipe sollicite en direct toute la journée.

Pourquoi la lenteur compte peu pour une routine de nuit

C'est ici que le projet prend tout son sens. Une IA lente gêne quand quelqu'un attend la réponse. Elle ne gêne plus quand personne n'attend : une routine lancée à 2 heures du matin dont le résultat doit être prêt à 8 heures dispose de six heures, pas de six secondes.

Faisons le calcul. En traitant une seule demande à la fois, à 50 tokens par seconde, une machine produit environ 1,4 million de tokens en huit heures. Une synthèse d'une demi-page représente quelques centaines de tokens, et un modèle qui raisonne avant de répondre en consomme parfois autant : comptez un millier de tokens par document traité. Une nuit suffit donc pour plus d'un millier de documents. Et les machines savent traiter plusieurs demandes en parallèle : avec gpt-oss-120b, des mesures publiées atteignent environ 860 tokens par seconde cumulés pour 256 demandes simultanées.

Une PME produit chaque jour quelques dizaines, au mieux quelques centaines de devis, d'e-mails et de factures. La machine a donc de la marge. Elle peut tout relire, chaque nuit, plusieurs fois s'il le faut.

Et c'est là que l'économie s'inverse. Dans le cloud, chaque relecture est facturée : on rationne, on ne vérifie qu'un échantillon. En local, relire chaque nuit tout l'historique des devis ne coûte rien de plus que l'électricité. Cela change les routines que l'on ose concevoir : on peut se permettre des contrôles exhaustifs, ceux que personne ne fait à la main faute de temps.

Cinq routines utiles, branchées sur votre outil de gestion

Les exemples ci-dessous sont des scénarios types, construits à partir des usages déjà démontrés ailleurs. Ils ont un point commun : ils travaillent sur les données de votre outil de gestion, votre ERP si vous en avez un, et laissent la décision à un humain.

Relire les devis de la journée

Chaque nuit, l'agent reprend les devis créés la veille et les compare au catalogue, aux conditions du client et aux devis comparables passés : prix sous le tarif, remise inhabituelle, mention obligatoire oubliée, délai incohérent. Le matin, le responsable commercial trouve une liste courte de points à vérifier. L'agent ne modifie rien lui-même.

Rattacher et résumer les e-mails reçus

L'agent lit les e-mails arrivés dans les boîtes partagées, identifie le client et le dossier concernés dans l'outil de gestion, y joint un résumé de trois lignes et signale ce qui attend une réponse. Ces messages contiennent des données personnelles et commerciales : c'est exactement le genre de contenu que beaucoup d'entreprises hésitent à confier à un fournisseur d'IA.

Rapprocher factures fournisseurs, commandes et livraisons

L'agent lit les factures reçues en PDF, en extrait les lignes et les montants, puis les rapproche des bons de commande et des bons de livraison enregistrés. Les écarts, comme une quantité facturée supérieure à la quantité livrée ou un prix différent de celui négocié, remontent dans une file de contrôle. Le paiement reste une décision humaine.

Interroger vos documents internes sans qu'ils sortent

Contrats, procédures, fiches techniques : l'agent les indexe la nuit, pour qu'un collaborateur puisse demander en journée « quel est le préavis dans le contrat de ce fournisseur ? » et obtenir la réponse avec la référence du document, dans le respect des droits d'accès de chacun. C'est le principe d'un assistant hébergé en interne, comme celui de l'hôpital de Magdebourg, appliqué à vos propres documents. Ici, quelqu'un attend la réponse et la lenteur se voit davantage. Mais quelques secondes, voire une minute, restent acceptables pour une recherche qui prenait un quart d'heure.

Anonymiser avant d'envoyer au cloud

Certaines tâches demandent le meilleur raisonnement disponible, donc un service en ligne. La machine locale peut alors servir de sas : elle retire les noms, les adresses, les numéros de compte ou de dossier, et seul le texte anonymisé part vers le cloud. C'est ce que l'équipe de Dresde a démontré sur des courriers médicaux. Vous profitez des meilleurs modèles sans leur confier ce qui identifie vos clients ou vos collaborateurs.

Un conseil pour démarrer : commencez par des routines courtes, qui extraient, résument ou comparent. Les modèles qui tiennent sur une machine de bureau sont moins fiables quand il faut enchaîner de nombreuses étapes et piloter plusieurs outils à la suite. Les agents plus autonomes viendront ensuite, si les premières routines ont fait leurs preuves.

« Gratuit » ? Ce que coûte vraiment une routine locale

Soyons précis : une routine locale n'est pas gratuite. Son coût est surtout fixe, et le coût d'une routine supplémentaire est presque nul. La nuance compte pour bien budgéter.

L'amortissement d'abord. Deux machines achetées 12 000 € hors TVA et amorties sur trois ans représentent environ 330 € par mois.

L'électricité ensuite. Les mesures publiées donnent environ 25 W au repos et de 160 à 200 W en pleine charge, à la prise. Au prix moyen de 0,32 € le kWh hors TVA payé par les petits professionnels belges au premier semestre 2026 (Eurostat), une machine coûte environ 70 € par an si elle reste au repos, et environ 560 € si elle tourne à plein jour et nuit. Avec huit heures de travail par nuit, comptez un peu plus de 200 € par an et par machine, soit environ 35 € par mois pour deux.

La maintenance enfin. Les modèles évoluent, les logiciels doivent être mis à jour, et quand votre outil de gestion change, les routines doivent suivre. C'est le vrai coût récurrent, exactement comme pour un agent dans le cloud.

Pour comparer honnêtement : chez les hébergeurs, les modèles ouverts se facturent souvent quelques dizaines de centimes de dollar par million de tokens, et les modèles commerciaux les plus puissants de quelques dollars à plusieurs dizaines de dollars. Pour un usage léger, le cloud revient donc moins cher. Le local devient intéressant quand le volume est élevé et récurrent, quand les données sont sensibles, ou quand vous voulez un budget fixe et prévisible.

Ce que l'IA rapporte vraiment à une entreprise

Avant d'investir, en local ou non, il faut savoir ce que l'IA rapporte réellement. La question n'est plus théorique en Belgique : selon Statbel, 34,5 % des entreprises d'au moins dix personnes utilisaient déjà l'IA en 2025, le plus souvent pour analyser du texte écrit. Les études sérieuses disent trois choses.

À l'échelle de toute l'entreprise, le gain est réel mais modeste. Au Danemark, une étude portant sur 25 000 salariés et 7 000 lieux de travail mesure un temps gagné de 2,8 % des heures de travail, à peine plus d'une heure par semaine, et une partie de ce temps repart dans de nouvelles tâches. Dans l'enquête mondiale de McKinsey publiée en 2025, seules 39 % des entreprises voient un effet de l'IA sur leur résultat d'exploitation, presque toujours inférieur à 5 %.

Sur des tâches précises, le gain est net. Dans 66 entreprises, des salariés tirés au sort pour recevoir un assistant d'IA ont passé environ deux heures de moins par semaine sur leurs e-mails (étude Microsoft, 2025). Dans un service client de plus de 5 000 agents, l'assistance de l'IA a augmenté d'environ 14 % le nombre de demandes résolues par heure. Et à Séoul, le temps de rédaction des lettres de sortie a été divisé par deux.

Ce sont les moins expérimentés qui gagnent le plus. Dans ce même service client, le gain atteignait 34 % chez les débutants, et des agents aidés par l'IA travaillaient après deux mois aussi bien que des collègues présents depuis plus de six mois. Pour une PME, c'est souvent la vraie plus-value : intégrer plus vite un nouveau collaborateur, rendre l'équipe plus polyvalente, dépendre moins de la seule personne qui sait tout.

Deux limites complètent le tableau. Sur une tâche hors de portée de l'IA, des consultants du cabinet BCG qui l'utilisaient trouvaient la bonne réponse 19 points moins souvent que leurs collègues sans IA : mal employée, l'IA égare au lieu d'aider. Et selon McKinsey, les entreprises qui en tirent vraiment profit sont trois fois plus nombreuses que les autres à avoir revu leur façon de travailler, plutôt que d'avoir simplement ajouté un outil. D'où la méthode qui suit.

Ce qu'il faut pour que ça marche

La machine est la partie facile. Ce qui fait la différence entre une routine utile et un gadget, c'est la manière dont elle est reliée à votre entreprise.

Des données rassemblées. Un agent local qui lit quatre versions d'un même prix commet les mêmes erreurs qu'un agent dans le cloud. Avant toute IA, il faut un outil de gestion où chaque information existe une seule fois : nous détaillons ce prérequis dans pourquoi l'IA ne fonctionne pas sur des données éparpillées.

Un accès bien conçu. L'agent se connecte à l'outil de gestion avec un compte dédié, qui ne voit que ce qu'il doit analyser. Il n'écrit jamais directement dans vos données : il dépose des propositions dans une file de validation, que l'équipe traite le matin. C'est ce que recouvre une intégration bien faite : prévue dans l'outil, pas ajoutée par-dessus.

Une tâche précise, et une mesure. Avant de lancer une routine, mesurez le temps que la tâche prend aujourd'hui. Les premières semaines, comptez les alertes utiles, les fausses alertes et le temps réellement gagné, puis ajustez les consignes. Sans cette mesure, impossible de savoir si la routine rapporte quelque chose, et le ressenti ne suffit pas : dans une étude de 2025, des développeurs expérimentés se croyaient 20 % plus rapides avec l'IA alors qu'ils étaient 19 % plus lents.

Une exploitation sérieuse. Surveillance de la machine, sauvegarde de la configuration, et un plan si elle tombe en panne. Les routines de nuit ont ici un avantage : une nuit manquée se rattrape la suivante. Avec deux machines, vous avez d'ailleurs le choix : les relier pour faire tourner un modèle plus gros, ou les garder indépendantes, chacune avec un modèle moyen, pour que l'une prenne le relais si l'autre s'arrête. Pour des routines de PME, la seconde option est souvent la plus raisonnable.

Le RGPD, toujours. Le local supprime la question des transferts et des sous-traitants. Il ne supprime pas le reste : finalité claire, traitement documenté, droits d'accès respectés.

Local, cloud, ou les deux ?

Pour beaucoup de PME, la réponse sera mixte. En local, les routines répétitives sur des données sensibles : e-mails, devis, factures, contrats. Dans le cloud, les tâches ponctuelles qui demandent le meilleur raisonnement disponible, sur des données non sensibles ou anonymisées en local au préalable. L'essentiel est de décider, donnée par donnée, ce qui a le droit de sortir.

Avant d'acheter du matériel, testez. Le modèle ouvert que vous envisagez de faire tourner en local est souvent disponible chez un hébergeur : essayez-le sur des données fictives, avec une seule routine, et mesurez le résultat. Si la qualité suffit, la machine se justifie. Sinon, vous aurez économisé 10 000 €.

Et si vos données sont encore éparpillées entre fichiers Excel, boîtes mail et outils isolés, la machine attendra : le premier chantier reste de les rassembler. C'est l'ordre que nous suivons dans nos projets d'automatisation et d'IA pour PME : d'abord une source unique de vérité, ensuite les routines, locales ou non.