Modèles disponibles

Parcourez les modèles de fondation disponibles dans Serverless Inference

Serverless Inference donne accès à plusieurs modèles de fondation open source. Chaque modèle a ses propres points forts et cas d’utilisation.

​

Modèles généralement disponibles

Les modèles suivants sont généralement disponibles :

Modèle	ID du modèle (pour l’utilisation de l’API)	Type	Fenêtre de contexte	Paramètres	Description
DeepSeek V4-Flash	deepseek-ai/DeepSeek-V4-Flash	Texte	1049k	13B-284B (Active-Total)	DeepSeek V4-Flash est un modèle MoE doté d’une fenêtre de contexte de 1M, idéal pour le codage, le raisonnement et les flux de travail agentiques.
DeepSeek V4-Flash-0731	deepseek-ai/DeepSeek-V4-Flash-0731	Texte	262k	13B-284B (Active-Total)	DeepSeek V4-Flash-0731 est un modèle MoE idéal pour le codage, le raisonnement et les flux de travail agentiques.
DeepSeek V4-Pro	deepseek-ai/DeepSeek-V4-Pro	Texte	1049k	49B-1.6T (actifs-total)	DeepSeek V4-Pro est un modèle MoE de 1,6T de paramètres avec 49B de paramètres actifs, qui excelle dans le raisonnement avancé, le codage et les flux de travail agentiques complexes.
DeepSeek V3.1	deepseek-ai/DeepSeek-V3.1	Texte	161k	37B-671B (Active-Total)	Un grand modèle hybride qui prend en charge les modes avec et sans raisonnement via des templates de prompt.
Google Gemma 4 31B	google/gemma-4-31B-it	Texte, vision	262k	31B (total)	Gemma 4 31B Dense est conçu pour le raisonnement avancé, les flux de travail agentiques et les contextes plus longs, et il a été entraîné nativement sur plus de 140 langues.
IBM Granite 4.1 8B	ibm-granite/granite-4.1-8b	Texte	131k	8B (au total)	Granite 4.1 8B est un modèle instruct à contexte long offrant des capacités améliorées d’appel à des outils, de suivi des instructions et de conversation.
JetBrains Mellum2 12B A2.5B	JetBrains/Mellum2-12B-A2.5B-Instruct	Texte	131k	2.5B-12B (actifs-total)	Mellum2-12B-A2.5B-Instruct est un modèle MoE rapide doté d’une fenêtre de contexte de 131K, conçu pour le codage, l’utilisation d’outils et les flux de travail d’IA à faible latence.
Meta Llama 3.3 70B	meta-llama/Llama-3.3-70B-Instruct	Texte	128k	70B (total)	Modèle multilingue qui excelle dans les tâches conversationnelles, le suivi précis des instructions et le codage.
Meta Llama 3.1 70B	meta-llama/Llama-3.1-70B-Instruct	Texte	128k	70B (total)	Modèle conversationnel performant optimisé pour des interactions réactives avec des chatbots multilingues.
Meta Llama 3.1 8B	meta-llama/Llama-3.1-8B-Instruct	Texte	128k	8B (au total)	Modèle conversationnel performant, optimisé pour des interactions réactives avec des chatbots multilingues.
MiniMax M3	MiniMaxAI/MiniMax-M3	Texte, vision	262k	23B-428B (actifs-total)	MiniMax M3 est un modèle MoE multimodal avec 23B de paramètres actifs, optimisé pour le codage et les flux de travail agentiques.
Moonshot AI Kimi K2.7 Code	moonshotai/Kimi-K2.7-Code	Texte, vision	262k	32B-1T (actifs-total)	Kimi K2.7 Code est un modèle MoE de 1T de paramètres avec 32B de paramètres actifs, spécialement conçu pour la programmation agentique à long horizon et l’ingénierie logicielle.
Moonshot AI Kimi K2.6	moonshotai/Kimi-K2.6	Texte, vision	262k	32B-1T (actifs-total)	Kimi K2.6 est un modèle de langage multimodal de type Mixture-of-Experts, avec 32 milliards de paramètres activés et un total de 1 000 milliards de paramètres.
NVIDIA Nemotron 3.5 Lightning	nvidia/NVIDIA-Nemotron-3.5-Lightning-30B-A3B	Texte	262k	3B-30B (actifs-total)	Nemotron 3.5 Lightning est un modèle MoE conçu pour des tâches agentiques rapides et fiables dans des cas d’utilisation tels que les services financiers, la cybersécurité, les télécommunications et le commerce de détail.
NVIDIA Nemotron 3 Ultra	nvidia/NVIDIA-Nemotron-3-Ultra-550B-A55B	Texte	262k	55B-550B (actifs/total)	Nemotron 3 Ultra est un puissant modèle MoE conçu pour des agents de longue durée d’exécution dans les domaines du codage, de la recherche approfondie et de l’automatisation d’entreprise.
OpenAI GPT OSS 120B	openai/gpt-oss-120b	Texte	131k	5.1B-117B (actifs-total)	Modèle Mixture-of-Experts efficace conçu pour les cas d’usage nécessitant un raisonnement poussé, des capacités agentiques et des usages généralistes.
OpenAI GPT OSS 20B	openai/gpt-oss-20b	Texte	131k	3.6B-20B (actifs-total)	Modèle Mixture-of-Experts à faible latence, entraîné sur le format de réponse Harmony d’OpenAI et doté de capacités de raisonnement.
OpenPipe Qwen3 14B Instruct	OpenPipe/Qwen3-14B-Instruct	Texte	32,8k	14,8 B (total)	Un modèle multilingue dense et performant, entraîné pour le suivi d’instructions, optimisé par OpenPipe pour créer des agents grâce au fine-tuning.
Qwen3.6 35B A3B	Qwen/Qwen3.6-35B-A3B	Texte, vision	262k	3B-35B (actifs-total)	Qwen3.6-35B-A3B est un modèle MoE multimodal doté d’une fenêtre de contexte de 262K, optimisé pour les flux de travail de programmation agentique.
Qwen3.6 27B	Qwen/Qwen3.6-27B	Texte, vision	262k	27B (total)	Qwen3.6-27B est un modèle multimodal dense de 27B avec une fenêtre de contexte de 262K, conçu pour la programmation agentique haut de gamme.
Qwen3.5 35B A3B	Qwen/Qwen3.5-35B-A3B	Texte, vision	262k	3B-35B (actifs-total)	Qwen3.5-35B-A3B est un modèle MoE multimodal à poids ouverts, conçu pour une inférence efficace et à haut débit pour le chat, le raisonnement et les tâches agentiques.
Qwen3 30B A3B	Qwen/Qwen3-30B-A3B-Instruct-2507	Texte	262k	3.3B-30.5B (actifs-total)	Qwen3-30B-A3B-Instruct-2507 est un modèle MoE de 30,5B ajusté par instruction, avec des capacités renforcées en raisonnement, en programmation et en compréhension de contextes longs.
Z.AI GLM 5.2	zai-org/GLM-5.2	Texte	262k	40B-744B (Actifs-Total)	GLM-5.2 est un modèle de langage de type Mixture-of-Experts, avec 40 milliards de paramètres activés et un total de 744 milliards de paramètres.

​

Modèles expérimentaux

Les modèles suivants sont expérimentaux :

Aucun pour le moment

​

Modèles obsolètes

Les modèles suivants sont obsolètes :

Modèle	ID du modèle (pour l’utilisation avec l’API)	Type	Fenêtre de contexte	Paramètres	Description
MiniMax M2.5	MiniMaxAI/MiniMax-M2.5	Texte	197k	10B-230B (actifs-total)	Modèle MoE à l’architecture très clairsemée, conçu pour offrir un débit élevé et une faible latence, avec de solides capacités de codage.
NVIDIA Nemotron 3 Super 120B	nvidia/NVIDIA-Nemotron-3-Super-120B-A12B-FP8	Texte	262k	12B-120B (actifs-total)	Nemotron 3 est un modèle LatentMoE conçu pour offrir de solides capacités agentiques, de raisonnement et de conversation.
Qwen3 Coder 480B A35B	Qwen/Qwen3-Coder-480B-A35B-Instruct	Texte	262k	35B-480B (actifs-total)	Modèle de mélange d’experts optimisé pour les tâches de codage agentiques, telles que les appels de fonction, l’utilisation d’outils et le raisonnement sur de longs contextes.
Z.AI GLM 5.1	zai-org/GLM-5.1	Texte	203k	40B-744B (actifs-total)	Puissant modèle MoE pour l’ingénierie agentique à long horizon et le raisonnement avancé.

​

Utiliser les ID de modèle

Pour spécifier un modèle lors d’un appel à l’API, utilisez son ID du modèle figurant dans les tableaux précédents. Par exemple :

response = client.chat.completions.create(
    model="meta-llama/Llama-3.1-8B-Instruct",
    messages=[...]
)

​

Étapes suivantes

Après avoir choisi un modèle, poursuivez avec l’une des ressources suivantes :

• Consultez les limites d’utilisation et la tarification pour chaque modèle.
• Consultez la référence de l’API pour savoir comment utiliser ces modèles.
• Essayez les modèles dans le W&B Playground.