Formation
7. Sécuriser ses données avec un LLM local
Durée
7h (1 journée)
Public
Dirigeants, DSI, DAF, RSSI de PME manipulant des données sensibles (santé, juridique, R&D, défense, conseil)
Méthodes
Formation technique avec déploiement live. 45% pratique, 30% théorie, 25% conseil personnalisé. Audit confidentialité inclus. PC requis. Prérequis : connaissances IT de base.
Tarif
1 600 € HT / participant (groupe 3-6) — intra: 3 500 € HT (inclut mini-audit maturité IA)
OPCO sur demande
Programme détaillé
MODULE 1 — Pourquoi un LLM local ? (1h) • Risques d'un LLM cloud (data leak, dépendance, juridiction) • Cas où le local est obligatoire (santé, défense, secret) • Cas où le cloud reste optimal • Hybride : best of both worlds MODULE 2 — Panorama des modèles open-source (1h30) • Llama 3.x, Mistral, Qwen, DeepSeek, Phi • Tailles : 3B, 7B, 13B, 70B — quand choisir quoi • Benchmarks et limites • Licences (commercial OK ou non) • Modèles spécialisés (code, vision, embedding) MODULE 3 — Infrastructure (1h30) • CPU vs GPU : seuils de bascule • Configurations type : - Petit poste (Mac M3, 16GB) : 3-7B - Serveur PME (RTX 4090, 64GB) : 13-30B - Cluster (A100/H100) : 70B+ • Coût matériel et amortissement • Cloud privé (Scaleway, OVH) en alternative MODULE 4 — Déploiement pratique (2h) • Installation Ollama (Mac, Linux, Windows) • LM Studio en alternative • Quantization (Q4, Q8) : compromis qualité/perf • Interface utilisateur (Open WebUI) • Atelier : déploiement live d'un modèle 7B MODULE 5 — Intégration et workflows (1h) • API locale OpenAI-compatible • Connexion à N8N, Make, scripts • RAG local : indexer ses documents • Sécurisation réseau (pare-feu, VPN) MODULE 6 — Gouvernance et conformité (1h) • RGPD et LLM local • Politique d'usage interne • Journalisation et audit • Plan de continuité
Compétences visées
- Distinguer LLM cloud, local et hybride - Évaluer les besoins en confidentialité de son entreprise - Dimensionner un serveur IA local (CPU/GPU/RAM) - Choisir un modèle open-source adapté (Llama, Mistral, Qwen) - Déployer Ollama ou LM Studio en environnement pro - Mesurer coûts et ROI d'une infrastructure locale - Mettre en place une politique de gouvernance
Déroulé
9h00 — Accueil + audit confidentialité de l'entreprise 9h15 — Module 1 : Pourquoi le local 10h15 — Module 2 : Modèles open-source 11h00 — Pause 11h15 — Module 3 : Infrastructure 12h30 — Déjeuner 13h30 — Module 4 : Déploiement pratique 15h00 — Pause 15h45 — Module 5 : Intégration 16h15 — Module 6 : Gouvernance 16h45 — Recommandation cloud/local/hybride personnalisée + clôture
Supports de cours
- Manuel 'LLM local en PME' (PDF) - Scripts d'installation Ollama et LM Studio - Comparatif modèles open-source actualisé - Calculateur de dimensionnement matériel - Politique de gouvernance type (template) - Architecture de référence (cloud, local, hybride) - Accès assistance technique post-formation (30 j)
Outils d'évaluation
- Audit confidentialité en début - Quiz technique de positionnement - Atelier déploiement validé - Livrable : recommandation d'architecture personnalisée - Quiz final 20 questions - Suivi à J+60 : déploiement effectif mesuré
Financement OPCO sur demande
Cette formation peut être prise en charge par votre OPCO pour les entreprises avec salariés (partenariat Signe+). Contactez-nous pour étudier votre éligibilité et monter le dossier.