Jour 12 sur 14 · Your First AI App · 14 min

Les bases de la sécurité pour les concepteurs d’IA

Injection de prompt, données privées et traiter la sortie du modèle comme non fiable

Les modèles suivent des instructions. Ils ne peuvent pas toujours distinguer vos instructions des instructions cachées dans les données que vous leur donnez. Pour construire en sécurité, supposez que tout ce que le modèle lit, et tout ce qu’il écrit, peut être nuisible ou faux.

Ce que couvre cette leçon

  1. 01Injection de prompt
  2. 02Traitez la sortie comme une entrée non fiable
  3. 03Données privées
  4. 04Abus et demandes dangereuses
  5. 05Honnêteté envers les utilisateurs

Inclus dans cette leçon

  • 9diapositives commentées
  • 3cases de bande dessinée
  • 3questions de quiz

2 modèles de prompts

  • Threat Model Sheet

    Think through what could go wrong before launch

    Membres
  • Red-Team Prompts

    Safe tests to run against your own application

    Membres

Suivez la leçon complète gratuitement

Inscrivez-vous pour débloquer la leçon complète, la présentation commentée, les modèles et le quiz — et avancer vers votre certificat.

Commencer le cours — gratuit