NVIDIA · Carte graphique
Fin de vieGeForce RTX 3060 12 Go et IA locale
Les modèles qui tournent dessus, et à quelle vitesse.
Longtemps le ticket d'entrée de l'IA locale grâce à ses 12 Go. Fin de production : sur Amazon elle passe par des vendeurs tiers, souvent au-dessus du prix d'une carte récente et plus rapide. Excellente si vous l'avez déjà, mauvaise affaire à l'achat.
Notre verdict
12,0 Go12 des 21 modèles de notre sélection tournent correctement sur cette machine, en quantification recommandée avec 8k de contexte. Le plus gros est Qwen2.5 (14B). Au-delà, ce n'est pas la vitesse qui bloque mais la mémoire : 12,0 Go utilisables.
Caractéristiques
- VRAM
- 12 Go
- Allouable au modèle
- 12,0 Go
- Bande passante
- 360 Go/s
- Disponibilité
- Fin de vie
Caractéristiques vérifiées le 2026-09-01 · Fiche technique NVIDIA
Cette configuration se commande chez le constructeur, pas chez nos partenaires.
Modèle par modèle
En quantification recommandée, avec 8k de contexte. Une vitesse n'est affichée que si le modèle tient réellement en mémoire.
| Modèle | Quantification | Requis | Tok/s | Verdict |
|---|---|---|---|---|
| Qwen2.5 (14B) | Q4_K_M | 11,1 Go | 31 | Recommandé |
| Phi-4 (14B) | Q4_K_M | 11,1 Go | 31 | Recommandé |
| Gemma 3 (12B) | Q4_K_M | 9,0 Go | 37 | Recommandé |
| Gemma 2 (9B) | Q4_K_M | 8,4 Go | 49 | Recommandé |
| Qwen3 (8B) | Q4_K_M | 7,0 Go | 55 | Recommandé |
| Llama 3.1 (8B) | Q4_K_M | 6,8 Go | 57 | Recommandé |
| DeepSeek-R1 Distill Llama (8B) | Q4_K_M | 6,8 Go | 57 | Recommandé |
| Qwen2.5 (7B) | Q4_K_M | 6,0 Go | 60 | Recommandé |
| DeepSeek-R1 Distill Qwen (7B) | Q4_K_M | 6,0 Go | 60 | Recommandé |
| Mistral 7B (v0.3) | Q4_K_M | 6,3 Go | 63 | Recommandé |
| Gemma 3 (4B) | Q4_K_M | 3,9 Go | 106 | Recommandé |
| Llama 3.2 (3B) | Q4_K_M | 3,9 Go | 142 | Recommandé |
| Llama 3.3 (70B) | Q4_K_M | 44,0 Go | — | Insuffisant |
| Ornith-1.5 35B-A3B (MoE) | Q4_K_M | 22,3 Go | — | Insuffisant |
| Qwen2.5 (32B) | Q4_K_M | 21,9 Go | — | Insuffisant |
| Qwen3 (32B) | Q4_K_M | 21,9 Go | — | Insuffisant |
| DeepSeek-R1 Distill Qwen (32B) | Q4_K_M | 21,9 Go | — | Insuffisant |
| Qwen3 30B-A3B (MoE) | Q4_K_M | 19,3 Go | — | Insuffisant |
| Gemma 3 (27B) | Q4_K_M | 17,9 Go | — | Insuffisant |
| Mistral Small 3 (24B) | Q4_K_M | 15,9 Go | — | Insuffisant |
| gpt-oss 20B (MoE) | Q4_K_M | 13,3 Go | — | Insuffisant |
Génération d'images
- Flux.1 Schnell
Passe en FP8, GGUF Q4.
- Flux.1 Dev
Passe en FP8, GGUF Q4.
- Stable Diffusion XL
Passe en FP16, FP16 + offload.
Questions fréquentes
Les réponses courtes
- Quels modèles d'IA tournent sur GeForce RTX 3060 12 Go ?
- 12 des 21 modèles de notre sélection, en quantification recommandée avec 8k de contexte. Le plus gros est Qwen2.5 (14B), à environ 31 tokens par seconde.
- Combien de mémoire de GeForce RTX 3060 12 Go est réellement utilisable ?
- Les 12 Go sont adressables, mais l'affichage en consomme déjà près de 0,8 Go — il reste donc environ 11,2 Go pour le modèle. Notre calcul ajoute cette réserve au besoin du modèle plutôt que de la retrancher de la carte, ce qui revient au même.
- GeForce RTX 3060 12 Go suffit-elle pour un modèle d'environ 30 milliards de paramètres ?
- Non, pas confortablement : Qwen3 30B-A3B (MoE) (30,5 Md) demande 19,3 Go en quantification recommandée, soit 7,3 Go de trop. Il faudrait descendre en Q3 ou raccourcir le contexte.
À comparer