Quel modèle local tourne sur 24 Go de VRAM ?
La capacité ne dépend pas du seul nombre de paramètres : la quantification, la longueur de contexte, le moteur et la mémoire disponible changent le résultat. Un modèle doit être testé avec la charge réelle avant toute promesse de performance.
La fiche du modèle et celle du moteur sont les sources primaires ; un tableau communautaire ne suffit pas.
Données à vérifier
| Point | Ce qu'il faut regarder | Preuve attendue |
|---|---|---|
| Poids | Paramètres × précision | Estimation de départ |
| Contexte | Cache clé-valeur | Croît avec la longueur des échanges |
| Moteur | Surcharge et format | Varie selon le logiciel |
| Marge | Système et concurrence | Évite les arrêts en charge |
Méthode et sources
Les sources listées sont institutionnelles ou primaires. La date de vérification indique le dernier contrôle de la page, pas une garantie d'absence de changement ultérieur.
Donnée absente ou contradictoire : le point doit rester « non vérifié » jusqu'à obtention d'une preuve datée.
Implications concrètes pour une PME belge
Ces actions servent de filtre initial. Elles ne remplacent pas l'analyse du contrat, du flux et du contexte propres à l'entreprise.
- Choisir d'abord la tâche et le niveau de qualité attendu.
- Mesurer la mémoire au contexte réellement utilisé.
- Conserver une marge et tester plusieurs documents représentatifs.
Appliquer cette grille à vos outils.
Le Radar IA cartographie en une journée les usages, données, risques et priorités.