Chat Revue publiée le Mise à jour le
Comparer

NVIDIA : Switchyard

Récent

NVIDIA Switchyard est une bibliothèque open source publiée par NVIDIA qui choisit quel modèle traite chaque requête d’un agent d’IA : l’utilisateur définit le groupe de modèles, la bibliothèque fournit la décision de routage. Dans sa version hébergée, le routeur accepte du texte en entrée.

Connectez-vous pour suivre Switchyard et être prévenu de ce qui change.

À quoi sert NVIDIA Switchyard

NVIDIA Switchyard choisit, parmi les modèles candidats, celui qui traite chaque requête.

Chat

Pour le chat, l’algorithme capability est conseillé, comme pour les requêtes indépendantes et les agents dont chaque nouveau tour humain correspond à une tâche distincte.

Code

Pour les agents de code et les agents qui utilisent des outils, lorsqu’ils renvoient toute la conversation à chaque tour, l’algorithme stage est conseillé. Ce routage tient compte des différentes étapes d’un agent de code, qui demandent des niveaux de capacité différents. Avec le classifieur LLM, une équipe peut aussi orienter les tâches de code, de mathématiques ou de santé vers des modèles cibles choisis.

Caractéristiques techniques de NVIDIA Switchyard

NVIDIA Switchyard est une bibliothèque open source qui choisit quel modèle traite chaque requête d’un agent d’IA. L’utilisateur définit le groupe de modèles ; la bibliothèque fournit la décision de routage. Dans son billet du 11 août 2026, NVIDIA présente des routeurs sans réglage et des routeurs réglables, et les développeurs peuvent aussi apporter à NeMo Switchyard leurs propres algorithmes de routage ou leurs données de personnalisation.

Avec Task, un modèle juge si le modèle efficient peut traiter la tâche. Execution choisit un modèle pendant le travail de l’agent, à partir de l’activité récente des outils et des signaux de résultat. Composite combine ces approches : un classifieur fixe le niveau de modèle par défaut lorsque les signaux d’exécution sont incertains.

Dans sa version hébergée, le routeur utilise les algorithmes de NVIDIA Switchyard. L’utilisateur peut y désigner jusqu’à trois candidats dans le paramètre models : le modèle choisi traite la requête, les autres servent de solutions de repli. Les algorithmes choisissent entre les rôles efficient et capable, attribués aux candidats d’après leur prix à chaque requête.

Sans candidats désignés, le routeur hébergé choisit une paire compatible avec les besoins de la requête : entrées d’image ou de fichier, outils, longueur du contexte et paramètres demandés. Avec stage, son algorithme par défaut, le routage évalue les résultats d’outils présents dans la conversation, notamment les erreurs et les échecs répétés.

Quand la note de stage n’est pas décisive, un petit modèle rapide évalue la tâche comme juge. Dans chaque réponse, le champ model indique le modèle qui a répondu. Le tableau des caractéristiques présente les valeurs techniques du routeur, notamment sa fenêtre de contexte et ses formats d’entrée.

Éditeur
NVIDIA
Produit
Texte
Sortie
Contexte
1 M tokens
Entrées
Texte

Source : OpenRouter.

Où utiliser NVIDIA Switchyard

NVIDIA Switchyard peut s’utiliser avec une passerelle, avec un proxy local pour l’essayer ou par intégration à son propre harnais logiciel. Les passerelles prévues par NVIDIA sont LiteLLM, NeMo Relay et OpenRouter, qui l’héberge : il y a été mis en ligne le 21 septembre 2026, sous l’identifiant nvidia/switchyard.

Selon le billet de NVIDIA du 11 août 2026, le serveur NeMo Switchyard accepte les requêtes aux formats des API d’OpenAI, d’Anthropic et Responses. Le mode escalation de Switchyard n’est pas disponible dans la version hébergée.

L'API NVIDIA

Pour relier le modèle à votre application

Contexte1 M tokens

Un accès gratuit dépend toujours de l'outil, de l'offre et de ses limites : nous ne l'attribuons pas au modèle seul.

FAQ

Quand NVIDIA Switchyard a-t-il été mis en ligne ?

NVIDIA présente NeMo Switchyard dans un billet du 11 août 2026 ; sa version hébergée a été mise en ligne le 21 septembre 2026, sous l’identifiant nvidia/switchyard.

Que peut lire NVIDIA Switchyard ?

Dans sa version hébergée, NVIDIA Switchyard lit du texte en entrée.

Quelle est la fenêtre de contexte de NVIDIA Switchyard ?

Dans sa version hébergée, la fenêtre de contexte de NVIDIA Switchyard est de 1 000 000 tokens. Un token est une unité de texte, qui peut correspondre à un mot ou à une partie de mot.