NVIDIA · Carte graphique
Fin de vieGeForce RTX 4090 24 Go et IA locale
Les modèles qui tournent dessus, et à quelle vitesse.
24 Go et 1 To/s : elle reste une excellente machine. Mais elle n'est plus produite, et son prix sur le marché résiduel n'a plus grand rapport avec sa valeur.
Notre verdict
24,0 Go20 des 21 modèles de notre sélection tournent correctement sur cette machine, en quantification recommandée avec 8k de contexte. Le plus gros est Ornith-1.5 35B-A3B (MoE). Au-delà, ce n'est pas la vitesse qui bloque mais la mémoire : 24,0 Go utilisables.
Caractéristiques
- VRAM
- 24 Go
- Allouable au modèle
- 24,0 Go
- Bande passante
- 1008 Go/s
- Disponibilité
- Fin de vie
Caractéristiques vérifiées le 2026-09-01 · Fiche technique NVIDIA
Cette configuration se commande chez le constructeur, pas chez nos partenaires.
Modèle par modèle
En quantification recommandée, avec 8k de contexte. Une vitesse n'est affichée que si le modèle tient réellement en mémoire.
| Modèle | Quantification | Requis | Tok/s | Verdict |
|---|---|---|---|---|
| Ornith-1.5 35B-A3B (MoE) | Q4_K_M | 22,3 Go | 424 | Recommandé |
| Qwen2.5 (32B) | Q4_K_M | 21,9 Go | 39 | Recommandé |
| Qwen3 (32B) | Q4_K_M | 21,9 Go | 39 | Recommandé |
| DeepSeek-R1 Distill Qwen (32B) | Q4_K_M | 21,9 Go | 39 | Recommandé |
| Qwen3 30B-A3B (MoE) | Q4_K_M | 19,3 Go | 386 | Recommandé |
| Gemma 3 (27B) | Q4_K_M | 17,9 Go | 46 | Recommandé |
| Mistral Small 3 (24B) | Q4_K_M | 15,9 Go | 54 | Recommandé |
| gpt-oss 20B (MoE) | Q4_K_M | 13,3 Go | 353 | Recommandé |
| Qwen2.5 (14B) | Q4_K_M | 11,1 Go | 86 | Recommandé |
| Phi-4 (14B) | Q4_K_M | 11,1 Go | 87 | Recommandé |
| Gemma 3 (12B) | Q4_K_M | 9,0 Go | 104 | Recommandé |
| Gemma 2 (9B) | Q4_K_M | 8,4 Go | 138 | Recommandé |
| Qwen3 (8B) | Q4_K_M | 7,0 Go | 155 | Recommandé |
| Llama 3.1 (8B) | Q4_K_M | 6,8 Go | 158 | Recommandé |
| DeepSeek-R1 Distill Llama (8B) | Q4_K_M | 6,8 Go | 158 | Recommandé |
| Qwen2.5 (7B) | Q4_K_M | 6,0 Go | 167 | Recommandé |
| DeepSeek-R1 Distill Qwen (7B) | Q4_K_M | 6,0 Go | 167 | Recommandé |
| Mistral 7B (v0.3) | Q4_K_M | 6,3 Go | 175 | Recommandé |
| Gemma 3 (4B) | Q4_K_M | 3,9 Go | 296 | Recommandé |
| Llama 3.2 (3B) | Q4_K_M | 3,9 Go | 396 | Recommandé |
| Llama 3.3 (70B) | Q4_K_M | 44,0 Go | — | Insuffisant |
Génération d'images
- Flux.1 Schnell
Passe en FP16, FP8, GGUF Q4.
- Flux.1 Dev
Passe en FP16, FP8, GGUF Q4.
- Stable Diffusion XL
Passe en FP16, FP16 + offload.
Questions fréquentes
Les réponses courtes
- Quels modèles d'IA tournent sur GeForce RTX 4090 24 Go ?
- 20 des 21 modèles de notre sélection, en quantification recommandée avec 8k de contexte. Le plus gros est Ornith-1.5 35B-A3B (MoE), à environ 424 tokens par seconde.
- Combien de mémoire de GeForce RTX 4090 24 Go est réellement utilisable ?
- Les 24 Go sont adressables, mais l'affichage en consomme déjà près de 0,8 Go — il reste donc environ 23,2 Go pour le modèle. Notre calcul ajoute cette réserve au besoin du modèle plutôt que de la retrancher de la carte, ce qui revient au même.
- GeForce RTX 4090 24 Go suffit-elle pour un modèle d'environ 30 milliards de paramètres ?
- Oui. Qwen3 30B-A3B (MoE) (30,5 Md) y tourne avec 4,7 Go de marge, à environ 386 tokens par seconde.
À comparer