KI & Maschinelles LernenKI-Sicherheit
Prompt-Injection
Versteckter Text auf einer Webseite kann eine KI kapern, die sie liest
Du bittest eine KI, ein Rezept zusammenzufassen, und sie sagt dir, du sollst Mehl bei einem Fremden kaufen. Wer hat ihr das befohlen?
Das erfährst du
- Wo steckte der Befehl?
- Warum merkt die KI den Unterschied nicht?
- Kann man das verhindern?
Warum es wichtig ist
KI-Helfer lesen heute deine E-Mails und das Web für dich. Kennst du diesen Trick, traust du keiner gekaperten Antwort.
Diese Lektion spielen
Kostenlos spielbar im Browser oder auf dem iPhone