NVIDIA · Carte graphique
OccasionGeForce RTX 3090 24 Go et IA locale
Les modèles qui tournent dessus, et à quelle vitesse.
La carte préférée de la communauté IA locale : 24 Go et près de 1 To/s pour le prix d'une carte milieu de gamme. Uniquement en occasion, donc sans lien marchand — mais c'est le meilleur rapport capacité/prix du moment si vous acceptez ce marché.
Notre verdict
24,0 Go20 des 21 modèles de notre sélection tournent correctement sur cette machine, en quantification recommandée avec 8k de contexte. Le plus gros est Ornith-1.5 35B-A3B (MoE). Au-delà, ce n'est pas la vitesse qui bloque mais la mémoire : 24,0 Go utilisables.
Caractéristiques
- VRAM
- 24 Go
- Allouable au modèle
- 24,0 Go
- Bande passante
- 936 Go/s
- Disponibilité
- Occasion
Caractéristiques vérifiées le 2026-09-01 · Fiche technique NVIDIA
Occasion uniquement, pas de lien partenaire.
Modèle par modèle
En quantification recommandée, avec 8k de contexte. Une vitesse n'est affichée que si le modèle tient réellement en mémoire.
| Modèle | Quantification | Requis | Tok/s | Verdict |
|---|---|---|---|---|
| Ornith-1.5 35B-A3B (MoE) | Q4_K_M | 22,3 Go | 394 | Recommandé |
| Qwen2.5 (32B) | Q4_K_M | 21,9 Go | 36 | Recommandé |
| Qwen3 (32B) | Q4_K_M | 21,9 Go | 36 | Recommandé |
| DeepSeek-R1 Distill Qwen (32B) | Q4_K_M | 21,9 Go | 36 | Recommandé |
| Qwen3 30B-A3B (MoE) | Q4_K_M | 19,3 Go | 358 | Recommandé |
| Gemma 3 (27B) | Q4_K_M | 17,9 Go | 43 | Recommandé |
| Mistral Small 3 (24B) | Q4_K_M | 15,9 Go | 50 | Recommandé |
| gpt-oss 20B (MoE) | Q4_K_M | 13,3 Go | 328 | Recommandé |
| Qwen2.5 (14B) | Q4_K_M | 11,1 Go | 80 | Recommandé |
| Phi-4 (14B) | Q4_K_M | 11,1 Go | 80 | Recommandé |
| Gemma 3 (12B) | Q4_K_M | 9,0 Go | 97 | Recommandé |
| Gemma 2 (9B) | Q4_K_M | 8,4 Go | 128 | Recommandé |
| Qwen3 (8B) | Q4_K_M | 7,0 Go | 144 | Recommandé |
| Llama 3.1 (8B) | Q4_K_M | 6,8 Go | 147 | Recommandé |
| DeepSeek-R1 Distill Llama (8B) | Q4_K_M | 6,8 Go | 147 | Recommandé |
| Qwen2.5 (7B) | Q4_K_M | 6,0 Go | 155 | Recommandé |
| DeepSeek-R1 Distill Qwen (7B) | Q4_K_M | 6,0 Go | 155 | Recommandé |
| Mistral 7B (v0.3) | Q4_K_M | 6,3 Go | 163 | Recommandé |
| Gemma 3 (4B) | Q4_K_M | 3,9 Go | 275 | Recommandé |
| Llama 3.2 (3B) | Q4_K_M | 3,9 Go | 368 | Recommandé |
| Llama 3.3 (70B) | Q4_K_M | 44,0 Go | — | Insuffisant |
Génération d'images
- Flux.1 Schnell
Passe en FP16, FP8, GGUF Q4.
- Flux.1 Dev
Passe en FP16, FP8, GGUF Q4.
- Stable Diffusion XL
Passe en FP16, FP16 + offload.
Questions fréquentes
Les réponses courtes
- Quels modèles d'IA tournent sur GeForce RTX 3090 24 Go ?
- 20 des 21 modèles de notre sélection, en quantification recommandée avec 8k de contexte. Le plus gros est Ornith-1.5 35B-A3B (MoE), à environ 394 tokens par seconde.
- Combien de mémoire de GeForce RTX 3090 24 Go est réellement utilisable ?
- Les 24 Go sont adressables, mais l'affichage en consomme déjà près de 0,8 Go — il reste donc environ 23,2 Go pour le modèle. Notre calcul ajoute cette réserve au besoin du modèle plutôt que de la retrancher de la carte, ce qui revient au même.
- GeForce RTX 3090 24 Go suffit-elle pour un modèle d'environ 30 milliards de paramètres ?
- Oui. Qwen3 30B-A3B (MoE) (30,5 Md) y tourne avec 4,7 Go de marge, à environ 358 tokens par seconde.
À comparer