Modèles décisionnels locaux : des décisions, pas du texte
Nous entraînons et déployons chez vous des petits LLM spécialisés qui classent, routent et scorent vos décisions métier — avec probabilités calibrées, sans jamais générer de texte. 4 Go de VRAM suffisent.
Un LLM qui décide
Le modèle lit votre entrée une seule fois, évalue chaque question et chaque option, puis renvoie une décision avec sa probabilité. Pas de génération de texte : réponse déterministe, latence faible, empreinte mémoire minimale.
Précision calibrée
Jusqu'à 81 % de précision sur des benchmarks de décision publics (test set décontaminé), avec des probabilités calibrées pour définir vos seuils de confiance.
Ultra-léger
Modèles compacts (0,8B à 4B paramètres) : 4 à 15 Go de VRAM suffisent. Tourne sur une seule GPU, même grand public.
Déployable hors ligne
On-premise ou air-gap complet : aucune donnée ne sort de votre réseau, ni à l'entraînement ni à l'inférence.
Trois types de décisions
Chaque décision est définie par vos critères métier. Le modèle renvoie la réponse et sa probabilité pour chaque question posée sur une même entrée.
Choix
Sélectionne une option parmi vos critères : routage d'équipe, catégorie de dossier, action recommandée.
Vers quelle équipe router ce ticket ? → « facturation » (p = 0,94)
Oui / Non
Répond à une question binaire : demande de remboursement, alerte de conformité, clause inhabituelle détectée.
Le client demande-t-il un remboursement ? → oui (p = 0,97)
Score
Note sur une échelle ordonnée que vous définissez : urgence, risque, priorité, niveau d'escalade.
Quel est le niveau d'urgence ? → « aujourd'hui » (niveau 2)
Cas d'usage métier
Triage support
Route chaque ticket vers la bonne équipe, détecte les demandes de remboursement et évalue l'urgence — directement dans votre CRM, sans cloud.
Conformité & juridique
Classe les actes et clauses sensibles avec traçabilité des probabilités, sur des données qui ne quittent jamais vos serveurs.
Scoring métier
Priorise les dossiers selon vos critères (urgence, risque, escalade), recalibrés sur vos historiques de décisions.
Automatisation des workflows
Chaque décision expose sa probabilité : définissez vos seuils de confiance et les escalades humaines automatiques.
Performances mesurées
Précision en test après fine-tuning LoRA (une seule epoch), mesurée sur un jeu de test décontaminé. Source : benchmarks publics Unsloth.
| Modèle | Précision test | VRAM | Entraînement |
|---|---|---|---|
| Qwen3.5-0.8B | 78 % | 4 Go | 42 min |
| Qwen3.5-2B | 81 % | 8 Go | 40 min |
| Llama 3.2 3B | 79 % | 4,1 Go | 30 min |
| Gemma 4 E4B | 77 % | 14,4 Go | 49 min |
Fine-tuning LoRA (r=16, 1 epoch) sur modèles de base 0,8B–4B. L'entraînement tient sur une seule GPU.
Notre méthode de déploiement
Audit de vos décisions
Cartographie de vos décisions récurrentes et de leurs critères : ce que le modèle doit choisir, et d'après quoi.
Construction du dataset
Jeu d'entraînement (état, questions, réponses attendues) construit à partir de vos historiques, annoté et validé avec vos experts métier.
Entraînement & calibration
Fine-tuning LoRA de votre modèle de base (Qwen, Gemma, Llama), précision mesurée sur données retenues et calibration de la confiance.
Déploiement local
Mise en service de l'API de décision sur votre infrastructure — on-premise ou air-gap — et intégration à vos outils métier.
Pourquoi EdgeLLM
Vos historiques de décisions et vos données d'entraînement restent sur votre infrastructure. Le modèle livré ne dépend d'aucune API tierce : il tourne derrière votre pare-feu, sans connexion sortante si nécessaire.