KI & Maschinelles LernenKI-Sicherheit

Prompt-Injection

Versteckter Text auf einer Webseite kann eine KI kapern, die sie liest

Du bittest eine KI, ein Rezept zusammenzufassen, und sie sagt dir, du sollst Mehl bei einem Fremden kaufen. Wer hat ihr das befohlen?

Das erfährst du

  • Wo steckte der Befehl?
  • Warum merkt die KI den Unterschied nicht?
  • Kann man das verhindern?

Warum es wichtig ist

KI-Helfer lesen heute deine E-Mails und das Web für dich. Kennst du diesen Trick, traust du keiner gekaperten Antwort.

Etwa 3 Min.6 interaktive Folien · 5 FragenLektion 421 · Zone 47

Diese Lektion spielen

Kostenlos spielbar im Browser oder auf dem iPhone

Mehr in dieser Zone

  1. 415SpieltheorieDas Nim-SpielEin Streichholzspiel mit einer geheimen binären Strategie
  2. 416WahrscheinlichkeitFaire Ergebnisse mit einer gezinkten MünzeAuch eine gezinkte Münze kann völlig fair entscheiden
  3. 417Große ZahlenDas GoogolEine 1 mit hundert Nullen und der Ursprung des Namens Google
  4. 418AudiotechnikAuto-Tune kommt aus der ÖlsucheDer Effekt zur Tonhöhenkorrektur begann mit seismischen Daten
  5. 419RaumfahrtphysikDie GravitationsschleuderRaumsonden stehlen Planeten Tempo, um das Sonnensystem zu durchqueren
  6. 420ComputergeschichteDer Colossus-ComputerGroßbritanniens Codeknacker-Riese war ein geheimer Computer, jahrzehntelang verborgen
  7. 422Astronomie und WahrnehmungDie MondtäuschungDer Mond am Horizont wirkt riesig, doch auf Fotos ist er gleich groß
  8. 423Standortdaten99 Handys im BollerwagenEin Künstler täuschte auf Google Maps einen Stau vor