Jour 12 sur 14 · Your First AI App · 14 min
Les bases de la sécurité pour les concepteurs d’IA
Injection de prompt, données privées et traiter la sortie du modèle comme non fiable
Les modèles suivent des instructions. Ils ne peuvent pas toujours distinguer vos instructions des instructions cachées dans les données que vous leur donnez. Pour construire en sécurité, supposez que tout ce que le modèle lit, et tout ce qu’il écrit, peut être nuisible ou faux.
Ce que couvre cette leçon
- 01Injection de prompt
- 02Traitez la sortie comme une entrée non fiable
- 03Données privées
- 04Abus et demandes dangereuses
- 05Honnêteté envers les utilisateurs
Inclus dans cette leçon
- 9diapositives commentées
- 3cases de bande dessinée
- 3questions de quiz
2 modèles de prompts
- Membres
Threat Model Sheet
Think through what could go wrong before launch
- Membres
Red-Team Prompts
Safe tests to run against your own application
Suivez la leçon complète gratuitement
Inscrivez-vous pour débloquer la leçon complète, la présentation commentée, les modèles et le quiz — et avancer vers votre certificat.
Commencer le cours — gratuit