Jour 26 sur 28 · Échelle, sécurité et stratégie · 12 min

Coût, latence et choix du modèle

Le bon modèle est le moins cher qui réussit le test

Choisir un modèle est un arbitrage d’ingénierie selon trois axes : capacité, coût et . Prendre par défaut le plus grand modèle pour tout est aussi irréfléchi que prendre par défaut le plus petit.

Ce que couvre cette leçon

  1. 01Adapter le modèle à la tâche
  2. 02Ce qui détermine vraiment le coût
  3. 03La latence est une décision produit
  4. 04Mesurer avant d’optimiser

Inclus dans cette leçon

  • 8diapositives commentées
  • 3cases de bande dessinée
  • 3questions de quiz

2 modèles de prompts

  • Matrice de choix du modèle

    Arrêter de payer le prix fort pour de la classification

    Membres
  • Régime de tokens

    Réduire le coût sans réduire la qualité

    Membres

Suivez la leçon complète gratuitement

Inscrivez-vous pour débloquer la leçon complète, la présentation commentée, les modèles et le quiz — et avancer vers votre certificat.

Commencer le cours — gratuit