Jour 26 sur 28 · Échelle, sécurité et stratégie · 12 min
Coût, latence et choix du modèle
Le bon modèle est le moins cher qui réussit le test
Choisir un modèle est un arbitrage d’ingénierie selon trois axes : capacité, coût et . Prendre par défaut le plus grand modèle pour tout est aussi irréfléchi que prendre par défaut le plus petit.
Ce que couvre cette leçon
- 01Adapter le modèle à la tâche
- 02Ce qui détermine vraiment le coût
- 03La latence est une décision produit
- 04Mesurer avant d’optimiser
Inclus dans cette leçon
- 8diapositives commentées
- 3cases de bande dessinée
- 3questions de quiz
2 modèles de prompts
- Membres
Matrice de choix du modèle
Arrêter de payer le prix fort pour de la classification
- Membres
Régime de tokens
Réduire le coût sans réduire la qualité
Suivez la leçon complète gratuitement
Inscrivez-vous pour débloquer la leçon complète, la présentation commentée, les modèles et le quiz — et avancer vers votre certificat.
Commencer le cours — gratuit