P · Prompt injection

Prompt injection

Attaque de sécurité où un attaquant cache des instructions dans les données lues par le modèle.

En une phrase

La prompt injection est une classe d'attaques de sécurité où un attaquant cache des instructions dans le contenu que le modèle récupère ou reçoit — un document, un e-mail, une page web — pour le faire dévier de la tâche prévue.

Quand ça compte

Pour tout système RAG qui ingère du contenu fourni par l'utilisateur (PDF chargés par les clients, pages web scrapées, API tierces).

Un exemple réel

helpcode KB nettoie les documents ingérés et isole les autorités d'outils, afin qu'un PDF empoisonné ne puisse pas déclencher d'actions destructives.

Curé par helpcode security team · Dernière révision 2026-05-22