Livraison gratuite et garantie limitée de 3 ans !

IA privée pour PME : le guide pratique (RGPD, matériel, coûts)

Contents

IA privée pour PME

Quelqu’un copie le contrat d’un client dans un chatbot gratuit pour en obtenir un résumé rapide. La réponse paraît utile, mais personne ne vérifie où est parti le document. Des fiches de paie ou des plans d’affaires confidentiels peuvent quitter votre entreprise tout aussi facilement.

Il existe une autre façon d’utiliser l’IA pour le travail. L’IA privée tourne sur du matériel que vous contrôlez : les fichiers sensibles restent donc en interne. Ce guide explique ce qu’implique l’IA privée pour une PME, le matériel et les règles d’équipe à prévoir, et ce que cela coûte avant tout achat.

Commencez par une tâche utile, puis décidez quelles informations doivent rester dans l’entreprise. Des outils cloud approuvés peuvent très bien gérer le reste du travail quotidien.

Qu’est-ce que l’IA privée ? Les LLM privés en clair

L’IA privée consiste à faire tourner des modèles d’IA sur du matériel que votre entreprise contrôle : les requêtes et les fichiers restent sur votre propre réseau, au lieu des serveurs d’un fournisseur. Le modèle est le programme qui lit votre demande et rédige la réponse. L’IA privée convient à la rédaction, à la synthèse et à la recherche dans des documents internes, là où la confidentialité client compte.

Un LLM (grand modèle de langage) est un type de modèle d’IA qui lit et écrit du texte : il peut rédiger des e-mails et résumer de longs documents. L’IA auto-hébergée signifie que vous exécutez le logiciel vous-même. L’IA sur site (on-premise) va plus loin : le matériel se trouve dans vos propres locaux. S’auto-héberger sur un serveur cloud loué signifie encore que vos données sont stockées à l’extérieur.

Les trois niveaux de confidentialité de l’IA

Il y a trois grandes façons d’utiliser l’IA au travail. La principale différence tient à l’endroit où vos données sont traitées.

Outils d’IA publics gratuits Offres cloud d’IA pour entreprise IA privée, auto-hébergée
Où vont vos données Serveurs du fournisseur Serveurs du fournisseur, sous conditions professionnelles Restent sur votre propre matériel
Utilisées pour l’entraînement ? Possible ; vérifiez réglages et conditions En général désactivé par défaut ; vérifiez l’offre Non ; les fichiers sont traités en local
Modèle de coût Palier gratuit limité ; options payantes Abonnement mensuel par utilisateur, extras possibles Matériel en une fois, plus électricité, maintenance et logiciels payants éventuels
Fonctionne hors ligne ? Non Non Oui, une fois les modèles installés
Effort de mise en place Très faible Faible ; comptes et règles d’équipe nécessaires Moyen ; quelqu’un doit l’installer et gérer les accès
Idéal pour Tâches approuvées, non sensibles Collaboration d’équipe et intégrations Travail régulier sur documents confidentiels

ChatGPT Business et Enterprise n’utilisent pas par défaut les données professionnelles pour entraîner les modèles, et les règles de sécurité du Copilot professionnel de Microsoft empêchent les requêtes et réponses de servir à entraîner les modèles sous-jacents. Vos données restent toutefois traitées sur les serveurs du fournisseur : vérifiez si ses conditions conviennent à votre entreprise.

Pourquoi les PME se tournent vers l’IA privée

Le problème du « Shadow AI »

Le Shadow AI, c’est quand des collaborateurs utilisent des outils d’IA que l’employeur n’a pas approuvés. C’est un phénomène courant : beaucoup d’employés ont déjà utilisé, au travail, des outils d’IA grand public non approuvés, souvent sans que l’entreprise le sache.

Donnez à vos équipes une option approuvée et une personne référente à qui poser leurs questions sur les nouveaux outils. Le matériel seul n’arrêtera pas le Shadow AI ; des règles claires, oui.

Confidentialité client et protection des données

Le RGPD s’applique dès que votre entreprise traite des données personnelles, y compris celles que vous saisissez dans des outils d’IA. Votre entreprise reste responsable de ces informations. Les contrats et documents commerciaux peuvent aussi être confidentiels même s’ils ne contiennent aucune donnée personnelle.

Consultez les recommandations de la CNIL sur l’IA avant de décider ce que vous traitez. Le traitement local ne vous met pas en conformité à lui seul. À noter également : le règlement européen sur l’IA (EU AI Act) encadre désormais certains usages de l’IA, selon leur niveau de risque. Cet article fournit des informations générales et ne constitue pas un conseil juridique.

Des coûts prévisibles plutôt que des abonnements par poste

Les offres par poste facturent chaque utilisateur sous licence : les coûts augmentent donc à mesure que l’équipe grandit. Avec une machine partagée, vous payez le matériel en une fois, puis l’électricité et l’entretien. Cela peut coûter moins cher sur la durée, mais vos équipes doivent toujours prendre le temps de vérifier et de superviser les réponses.

Une IA hors ligne qui continue de fonctionner sans Internet

L’IA hors ligne continue de fonctionner quand Internet tombe, tant que les équipes peuvent atteindre la machine via le réseau du bureau. Les plafonds d’usage du cloud ne s’appliquent pas au traitement local, mais les limites matérielles, si : quand plusieurs personnes l’utilisent en même temps, les requêtes peuvent se mettre en file d’attente.

L’IA privée est-elle faite pour votre entreprise ? Une check-list rapide

Répondez à ces questions sur votre travail actuel. Si vous répondez « oui » à trois d’entre elles ou plus, l’IA privée vaut la peine d’être testée. Utilisez cette liste pour planifier, pas comme une décision d’achat.

  • Traitez-vous des informations client sensibles ?
  • Vos équipes collent-elles des fichiers de travail dans des outils d’IA ?
  • Êtes-vous tenu par des NDA ou un secret professionnel ?
  • Trois collaborateurs ou plus paient-ils un abonnement d’IA ?
  • Avez-vous des tâches répétitives, riches en documents ?
  • Votre connexion Internet est-elle peu fiable ?

L’IA locale est souvent bonne pour rédiger, résumer et répondre à des questions sur vos propres fichiers. Les outils cloud peuvent offrir des intégrations utiles ou mieux gérer les raisonnements complexes. Beaucoup de PME utilisent les deux : l’IA privée pour le travail confidentiel, les outils cloud approuvés pour le reste.

Comment les PME utilisent concrètement l’IA privée

Le tableau ci-dessous suggère des tailles de modèle à tester selon le type d’activité. Le « B » correspond au nombre de milliards de paramètres : les modèles plus grands demandent plus de mémoire mais ne feront pas toujours mieux le travail — commencez petit et montez en gamme seulement si les résultats sont insuffisants.

Activité Tâches utiles Modèle à tester
Comptables et experts-comptables Résumés de factures et brouillons de courriers clients Petit 7 à 8B ; moyen 14 à 32B pour les textes plus difficiles
Avocats et consultants Résumés de contrats et comparaisons de versions 14 à 32B ; 70B+ seulement si les tests le justifient
Santé et cabinets de soins Courriers, plannings et brouillons de procédures administratives Petit 7 à 8B ou moyen 14B
E-commerce et retail Brouillons de réponses et fiches produits Petit 7 à 8B
Studios créatifs Brouillons de textes et images Petit 7 à 8B pour le texte ; logiciel distinct pour les images

Recoupez tout chiffre avec votre logiciel de comptabilité et comparez les résumés de contrats aux originaux. Les cabinets de soins doivent réserver l’IA privée à l’administratif, jamais au diagnostic ni aux décisions de soins. La génération d’images a ses propres besoins matériels : vérifiez-les à part, les tailles de modèles de texte ne s’y appliquent pas. Un seul GEEKOM A9 Mega doté de 128 Go de mémoire unifiée peut exécuter toutes les tailles de modèles de ce tableau.

Créer un chatbot IA privé pour les questions des équipes

Un assistant IA interne aide les collaborateurs à trouver des réponses dans les politiques RH, les procédures écrites et les grilles tarifaires à jour. Les nouvelles recrues obtiennent des réponses rapides sans déranger leurs collègues. Demandez-lui de citer le document source, gardez les fichiers à jour et revérifiez les réponses importantes. En tournant sur une machine partagée comme le GEEKOM A9 Mega, un seul assistant peut servir toute l’équipe via le réseau du bureau.

Quel matériel pour faire tourner un LLM en local ?

Les caractéristiques qui comptent

La RAM est la mémoire de travail de l’ordinateur, et c’est généralement la première ressource à manquer. Les SSD stockent vos fichiers. Prévoyez de la place pour les sauvegardes et les mises à jour, en plus des modèles et des documents.

Le CPU est le processeur principal, et il peut exécuter seul de petits modèles. Un GPU (processeur graphique) accélère les choses. Les cartes graphiques dédiées ont leur propre mémoire, appelée mémoire vidéo ou VRAM, tandis que les graphiques intégrés partagent la RAM principale.

La mémoire unifiée signifie que le processeur et la partie graphique partagent un même pool de mémoire. Ce n’est pas de l’espace en plus de la RAM, mais cela permet au GPU d’utiliser bien plus de mémoire que la plupart des cartes graphiques. Sur le GEEKOM A9 Mega doté de 128 Go, jusqu’à 96 Go peuvent être assignés aux graphiques sous Windows via le réglage AMD « Variable Graphics Memory ». Un NPU prend en charge les tâches d’IA dans les programmes compatibles.

Les TOPS désignent des milliers de milliards d’opérations par seconde. Ce chiffre ne dit pas si votre application utilise le NPU ni à quelle vitesse un chatbot répondra. Le GEEKOM A9 Mega, par exemple, annonce jusqu’à 126 TOPS au niveau plateforme, mais pour les LLM locaux sa capacité mémoire et sa bande passante de 256 Go/s comptent davantage. Vérifiez d’abord la compatibilité logicielle et la mémoire.

Faire correspondre les modèles d’IA locaux à la mémoire

Les modèles quantifiés utilisent moins de mémoire, au prix d’une certaine qualité. Le Q4 est un niveau courant. Le guide de llama.cpp indique des fichiers Llama 3.1 Q4_K_M d’environ 4,9 Go pour le 8B et d’environ 43,1 Go pour le 70B. Les modèles consomment plus de mémoire que la taille de leur fichier une fois en exécution.

Taille du modèle Tâche typique RAM minimale approximative RAM recommandée
7 à 8B, Q4 Courts brouillons et résumés 16 Go 32 Go
14B, Q4 Questions plus approfondies sur documents 24 Go 32 Go
32B, Q4 Tâches plus riches en texte 32 Go 64 Go
70B, Q4 Certaines tâches de grands modèles 64 Go, tout juste 128 Go

Ce sont des estimations de planification pour un utilisateur à la fois, pas des minimums exacts ni des besoins en mémoire graphique. Windows et les autres programmes ont aussi besoin de mémoire, et les conversations longues en demandent plus. Testez deux ou trois requêtes simultanées avant d’acheter un système partagé.

Sur le GEEKOM A9 Mega, la version Ryzen AI Max+ 395 à 128 Go couvre chaque ligne de ce tableau, y compris les modèles 70B en quantification 4 bits. La version Ryzen AI Max+ 388 à 64 Go convient aux modèles jusqu’à environ 32B, ou aux modèles à mélange d’experts (MoE) autour de 35B.

Pourquoi un mini PC IA convient bien à un petit bureau

Un mini PC IA est assez compact pour tenir sur un bureau ou une étagère, consomme en général moins qu’une tour classique et reste silencieux dans un bureau. Connecté à votre réseau local, il peut faire office de serveur IA partagé pour toute l’équipe. Sécurisez-le avec des identifiants et restreignez les accès.

Pour un serveur IA de bureau partagé, le GEEKOM A9 Mega est notre choix recommandé.

La version Ryzen AI Max+ 395 dispose de 128 Go de mémoire unifiée et d’un SSD de 2 To, de quoi faire tourner des modèles 70B en quantification 4 bits. La version Ryzen AI Max+ 388 a 64 Go, avec un SSD de 1 ou 2 To. Avec deux ports 2,5GbE, elle peut servir des modèles depuis LM Studio ou Ollama aux collègues sur le réseau du bureau. La mémoire est soudée et ne peut pas être augmentée ensuite : choisissez dès le départ la capacité dont vous avez besoin.

A9 Max Mini PC

Si votre équipe n’a besoin que de petits et moyens modèles, le GEEKOM A9 Max 2026 Edition est un point de départ plus accessible.

Il est équipé d’un processeur Ryzen AI 9 HX 370 ou HX 470, de 32 Go de RAM et d’un SSD de 2 To, et sa mémoire DDR5 peut être portée à 128 Go par la suite.

Résultats concrets : des LLM locaux sur le GEEKOM A9 Mega

GEEKOM a testé une série de modèles open source sur les deux versions de l’A9 Mega avec llama.cpp sous Ubuntu. Les résultats complets sont publiés dans les benchmarks LLM locaux du GEEKOM A9 Mega sur GitHub.

Modèle (quantification) Version A9 Mega Taille du fichier Vitesse de génération Temps jusqu’au premier token
MiniCPM5-2B (Q4_K_M) 388, 64 Go 1,56 Go 103,1 tokens/s 0,10 s
Qwen3.6-35B-A3B (Q4_K_M) 388, 64 Go 22,7 Go 68,0 tokens/s 0,16 s
Qwen3.8-27B (FP4) 395, 128 Go 14,6 Go 31,3 tokens/s 0,40 s
Qwen3.8-Flash-Next (Q4_K_XL) 395, 128 Go 111,4 Go 32,4 tokens/s 0,97 s
DeepSeek-V4-Flash (Q2_K_XL) 395, 128 Go 96,8 Go 14,7 tokens/s 0,99 s

Machine unique, prompt de 128 tokens. Certains tests utilisent le décodage spéculatif MTP. Source : benchmarks LLM locaux du GEEKOM A9 Mega.

Pour la plupart des PME, le résultat Qwen3.6-35B-A3B est le plus parlant : sur la version 64 Go, il écrit à 68 tokens par seconde, bien plus vite qu’on ne lit. Les longs documents prennent plus de temps. Avec 32 000 tokens de contexte, soit environ un contrat de 50 pages, il écrit encore à 54 tokens par seconde, mais la première réponse demande environ 33 secondes. Ces résultats valent pour les configurations testées et ne sont pas garantis pour chaque montage.

Comment mettre en place une IA privée : guide pas à pas

Commencez avec des documents d’exemple avant d’y mettre vos propres informations confidentielles.

  1. Choisissez une tâche chronophage. Prenez une tâche fréquente, comme l’examen de documents fournisseurs. Notez le temps qu’elle prend et ce qu’une bonne réponse doit contenir.
  2. Désignez un référent IA. Choisissez une personne qui suivra les outils approuvés et les questions des équipes. Elle n’a pas besoin d’être très technique, mais doit savoir à qui demander de l’aide.
  3. Choisissez le matériel pour l’essai. Partez du tableau de mémoire ci-dessus, et laissez de la marge pour les autres applications. Si plusieurs personnes partagent la machine, assurez-vous qu’elle gère les requêtes simultanées ; un A9 Mega 128 Go laisse de la marge pour cela.
  4. Installez une application d’IA locale. LM Studio vous donne une fenêtre de chat sur le bureau, et Ollama peut exécuter des modèles pour d’autres programmes. Sur les machines AMD comme l’A9 Mega, les deux passent par Vulkan ou ROCm, mais les outils qui ne gèrent que CUDA (NVIDIA) ne fonctionneront pas. Choisissez un modèle local et testez-le hors ligne avant d’utiliser des fichiers privés.
  5. Choisissez un modèle et vérifiez sa licence. Parmi les options courantes : Gemma, Llama, Qwen et Mistral. Vérifiez la licence d’usage commercial de la version exacte que vous téléchargez : être libre au téléchargement ne veut pas dire libre pour tout usage professionnel.
  6. Connectez les documents en toute sécurité. La recherche documentaire, ou RAG, cherche les passages que le modèle peut utiliser pour répondre. Assurez-vous que seules les personnes autorisées accèdent aux dossiers et documents concernés dans l’application. Les fichiers importés peuvent ne pas conserver les droits d’accès de leur dossier d’origine.
  7. Testez avant le déploiement. Vérifiez la qualité des réponses et les temps de réponse. Confirmez que les équipes ne peuvent pas atteindre des fichiers qu’elles ne devraient pas voir. Ajoutez les utilisateurs progressivement et retestez après chaque mise à jour ou changement de droits.

Des règles pour utiliser l’IA en toute sécurité au travail

Rédigez une charte d’usage simple de l’IA

Listez les outils approuvés et les tâches pour lesquelles les équipes peuvent les utiliser, et nommez une personne à consulter. Ne mettez jamais d’informations personnelles ou financières de clients dans des outils d’IA publics. Idem pour les mots de passe, le code source, les informations de santé et les contrats confidentiels. La charte doit aussi expliquer comment signaler un envoi accidentel et quand supprimer les conversations.

Gardez un humain dans la boucle

L’IA peut produire des réponses convaincantes mais fausses. On parle d’« hallucination ». Une personne doit vérifier chaque réponse avant qu’elle ne parte chez un client ou n’alimente une décision, en faisant particulièrement attention aux noms et aux chiffres par rapport aux documents d’origine.

Formez votre équipe en séances courtes

Organisez de courtes séances hebdomadaires de 15 à 30 minutes. À chaque fois, montrez une erreur fréquente et une tâche utile. Assurez-vous que chacun sait à qui demander de l’aide.

Rédigez de meilleurs prompts

Un prompt est l’instruction que vous donnez à l’IA. Un bon prompt couvre quatre points :

  • Objectif : ce que vous voulez obtenir
  • Contexte : pour qui et pourquoi
  • Source : les documents à utiliser
  • Format : longueur, ton et mise en forme, et quoi faire si des informations manquent

Par exemple :

Exemple de prompt

Rédige une réponse à un client qui s’interroge sur une livraison en retard. Utilise uniquement la politique de livraison jointe et les notes de commande. Reste courtois et sous 120 mots. Si la date de livraison manque, signale-le au lieu de deviner.

Erreurs courantes à éviter

Trop peu de mémoire. Prévoyez de la mémoire supplémentaire pour Windows et les conversations, au-delà de ce dont le modèle téléchargé a besoin. Sur les machines à mémoire soudée, comme l’A9 Mega, vous ne pourrez pas en ajouter plus tard : achetez pour le plus grand modèle que vous comptez utiliser.

Croire que « local » veut dire « conforme ». Le traitement local réduit l’exposition aux fournisseurs externes, mais vous avez toujours besoin d’une bonne sécurité, de règles d’accès claires et d’une base légale pour traiter des données personnelles.

Trop d’outils. Avant d’ajouter un logiciel, assurez-vous qu’un premier flux de travail fonctionne bien.

Attendre une qualité cloud partout. Testez un modèle local sur votre travail réel avant d’abandonner un outil cloud.

Pas de charte d’usage. Un assistant privé n’empêche pas les équipes d’utiliser leurs propres comptes.

IA privée vs IA cloud : un exemple de coût sur trois ans

Ce tableau compare cinq comptes cloud à un seul GEEKOM A9 Mega partagé, avec des prix vérifiés au 17 novembre 2026. Les montants s’entendent hors TVA et peuvent changer.

Pour les clients Microsoft 365 Business éligibles payant à l’année, l’add-on Microsoft 365 Copilot Business coûte 15,60 € HT par utilisateur et par mois la première année (tarif promotionnel). L’exemple retient 18,20 € HT par utilisateur et par mois pour les années deux et trois, au tarif standard actuel.

Coût sur trois ans (HT) Cinq comptes cloud Un GEEKOM A9 Mega partagé
Année 1 : 5 × 15,60 € × 12 936,00 € –
Années 2 et 3 : 5 × 18,20 € × 24 2 184,00 € –
A9 Mega, Ryzen AI Max+ 388, 64 Go + SSD – 2 499 €
Électricité (hypothèse 80 W en moyenne) – 104 €
Total indicatif 3 120,00 € 2603 €

L’électricité suppose une consommation moyenne de 80 W, 8 heures par jour, 260 jours par an, à 0,25 €/kWh, le PC étant éteint en dehors des heures de travail. Le processeur de l’A9 Mega est donné pour 45-120 W : un usage intensif et soutenu coûtera donc plus cher. Ce sont des hypothèses illustratives, pas des mesures. L’exemple exclut la mise en place, le support, les sauvegardes, les réparations et tout logiciel payant.

Il exclut aussi les frais d’usage supplémentaires du cloud et les licences Microsoft 365 requises. Les deux options n’offrent pas des fonctionnalités ni une capacité identiques : toute économie dépend de votre usage et de l’adéquation des résultats aux besoins de votre équipe.

IA privée pour PME : questions fréquentes

L’IA privée est-elle conforme au RGPD ?

Pas automatiquement. Garder les données sur votre propre matériel réduit l’exposition aux fournisseurs externes, mais il vous faut toujours une base légale pour les traiter et des règles claires sur qui peut les voir. Décidez quelles données vous avez besoin de traiter et combien de temps les conserver, consultez les recommandations à jour de la CNIL, et prenez l’avis d’un spécialiste de la protection des données en cas de doute.

Quelle différence entre un LLM privé et ChatGPT ?

Un LLM privé tourne sur du matériel que vous contrôlez. ChatGPT traite les requêtes sur les serveurs d’OpenAI, que vous utilisiez une offre grand public ou professionnelle, même si les offres professionnelles ajoutent des protections renforcées. Comparez qui est responsable de la sécurisation et de la gestion de vos données, puis pesez les fonctionnalités dont vous avez besoin.

Un mini PC peut-il vraiment faire tourner un LLM en local ?

Oui, avec assez de mémoire et le bon logiciel. La plupart des mini PC récents exécutent de petits modèles quantifiés. Les plus grands demandent beaucoup plus de mémoire : dans les tests de GEEKOM, l’A9 Mega à 128 Go a fait tourner un modèle de 111 Go à environ 32 tokens par seconde sur une seule machine. Avant que votre équipe n’en dépende, testez la vitesse de réponse et la qualité.

Faut-il une équipe informatique pour installer de l’IA auto-hébergée ?

Une application de bureau permet d’essayer l’IA privée soi-même facilement. Dans un montage partagé, quelqu’un doit gérer les comptes, l’accès aux documents, les mises à jour et les sauvegardes. Un prestataire informatique externe peut suffire. Si vous ne pouvez pas vérifier vous-même les contrôles d’accès, faites-vous aider avant que les équipes ne commencent.

L’IA hors ligne fonctionne-t-elle sans connexion Internet ?

Oui, tant que le modèle et l’application sont installés en local. Les équipes peuvent encore atteindre un serveur IA de bureau pendant une coupure Internet si le réseau local fonctionne. Les téléchargements et les services externes nécessitent toujours une connexion. Testez l’application hors ligne d’abord, car certaines applications installées utilisent discrètement des modèles cloud.

Combien coûte l’IA privée à une PME ?

Tester un petit modèle sur un PC que vous possédez déjà peut ne presque rien coûter au-delà de votre temps. Une machine dédiée comme le GEEKOM A9 Mega ajoute le matériel, l’électricité et la maintenance, plus tout logiciel payant ou support externe. Notre exemple de coût sur trois ans, plus haut, montre comment les chiffres se comparent aux offres cloud par utilisateur.

En résumé

L’IA privée pour l’entreprise fonctionne mieux quand on démarre petit : choisissez une tâche utile et fixez des règles claires pour les informations confidentielles. Gardez les outils cloud de confiance là où ils apportent de la valeur. S’il vous faut une machine dédiée pour tout le bureau, le GEEKOM A9 Mega offre jusqu’à 128 Go de mémoire unifiée pour les plus grands modèles. Pour d’autres options, parcourez la gamme de mini PC IA GEEKOM.

Image de Laurent Chammas

Laurent Chammas

Laurent Chammas est le créateur de Laurent's Choice, une chaîne YouTube consacrée à la technologie et son site web associé. Il produit des tests de matériel informatique, des analyses approfondies de composants, de courts tutoriels et de l'actualité tech, en se concentrant particulièrement sur les cartes mères, les processeurs et les PC gamer sur mesure. Son contenu allie essais pratiques et explications accessibles, adaptées aussi bien aux passionnés qu'aux monteurs de PC et aux joueurs.

Vous aimez cet article ? 🌟 Vous l’avez trouvé utile ? N’hésitez pas à laisser un commentaire et partager votre avis avec notre communauté ! Vos expériences et idées comptent. 💬👇

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Mon panier
Vu Récemment
GEEKOM MINI PC LOGO
Séries de produits