P · Prompt Injection

Prompt Injection

Sicherheitsangriff, bei dem ein Angreifer Anweisungen in Daten versteckt, die das Modell liest.

In einem Satz

Prompt Injection ist eine Klasse von Sicherheitsangriffen, bei denen ein Angreifer Anweisungen in Inhalten versteckt, die das Modell abruft oder empfängt — ein Dokument, eine E-Mail, eine Webseite —, um es von der vorgesehenen Aufgabe abzubringen.

Wann es zählt

Für jedes RAG-System, das vom Nutzer gelieferte Inhalte aufnimmt (kunden-hochgeladene PDFs, web-gescrapte Seiten, Drittanbieter-APIs).

Ein reales Beispiel

helpcode KB bereinigt ingestierte Dokumente und isoliert Tool-Use-Berechtigungen, sodass ein vergiftetes PDF keine destruktiven Aktionen auslösen kann.

Kuratiert von helpcode security team · Zuletzt geprüft 2026-05-22