DeepSeek · Modèle de langage
Faire tourner DeepSeek-R1 Distill Llama (8B) en local
Quel GPU, quel Mac, et à quelle vitesse.
La version R1 sur base Llama. Même empreinte mémoire qu'un Llama 3.1 8B classique.
Notre verdict
6,8 GoEn Q4_K_M avec 8k de contexte, DeepSeek-R1 Distill Llama (8B) demande 6,8 Go. La machine la moins chère qui le fait tourner correctement est GeForce RTX 5060 8 Go, à environ 70 tokens par seconde.
Ajustez et comparez
La quantification et la taille du contexte changent complètement le résultat. Le cache KV, en particulier, est proportionnel au contexte : passer de 8k à 32k sur un gros modèle peut coûter plus cher en mémoire qu'un modèle entier de 8 milliards de paramètres.
Chargement du calculateur…
Pourquoi cette machine
Rapide pour son prix, mais 8 Go seulement. C'est la carte qui déçoit en IA locale : elle plafonne aux modèles de 8 milliards de paramètres et bute sur tout ce qui a un cache KV généreux. Avec DeepSeek-R1 Distill Llama (8B), elle laisse 1,2 Go de marge et génère environ 70 tokens par seconde — de quoi produire du texte plus vite que vous ne le lisez.
La machine que nous conseillons
GeForce RTX 5060 8 Go
390 € constaté le 2026-09-01
Caractéristiques du modèle
- Paramètres
- 8 Md
- Actifs par token
- Tous (dense)
- Couches
- 32
- Têtes KV
- 8 × 128
Contexte maximal 128k tokens · caractéristiques vérifiées le 2026-09-01 · source primaire
Questions fréquentes
Les réponses courtes
- Combien de VRAM faut-il pour faire tourner DeepSeek-R1 Distill Llama (8B) en local ?
- 6,8 Go en Q4_K_M avec 8k de contexte : 4,6 Go pour les poids du modèle, 1,0 Go pour le cache KV, le reste en tampons de calcul et en réserve d'affichage.
- DeepSeek-R1 Distill Llama (8B) tourne-t-il sur une carte de 8 Go ?
- Oui. Sur GeForce RTX 5060 8 Go, il reste 1,2 Go de marge, pour environ 70 tokens par seconde.
- Quelle est la machine la moins chère pour DeepSeek-R1 Distill Llama (8B) ?
- GeForce RTX 5060 8 Go, autour de 390 €, à environ 70 tokens par seconde en Q4_K_M.
Modèles voisins
Statut donné pour GeForce RTX 5060 Ti 16 Go, notre machine de référence.