IA e machine learningSicurezza dell'IA

La prompt injection

Un testo nascosto in una pagina web può dirottare l'IA che la legge

Chiedi a un'IA di riassumere una ricetta e ti dice di comprare la farina da uno sconosciuto. Chi le ha dato quell'ordine?

Scoprirai

  • Dove si nascondeva l'ordine?
  • Perché l'IA non vede la differenza?
  • Si può fermare?

Perché conta

Gli assistenti IA ormai leggono per te la posta e il web. Conoscere questo trucco ti evita di fidarti di una risposta dirottata.

Circa 3 min6 schermate interattive · 5 domandeLezione 421 · Zona 47

Gioca questa lezione

Gratis nel browser o su iPhone

Altro in questa zona

  1. 415Teoria dei giochiIl gioco del NimUn gioco di fiammiferi con una strategia binaria segreta
  2. 416ProbabilitàRisultati equi da una moneta truccataUna moneta sbilanciata può comunque prendere decisioni perfettamente eque
  3. 417Grandi numeriIl googolUn 1 con cento zeri, e l'origine del nome di Google
  4. 418Tecnologia audioL'Auto-Tune è nato dalla ricerca del petrolioLa correzione dell'intonazione è partita dai dati sismici
  5. 419Fisica del volo spazialeLa fionda gravitazionaleLe sonde spaziali rubano velocità ai pianeti per attraversare il sistema solare
  6. 420Storia dell'informaticaIl computer ColossusIl gigante britannico della decrittazione era un computer segreto, nascosto per decenni
  7. 422Astronomia e percezioneL'illusione della LunaLa Luna all'orizzonte sembra enorme, ma in foto ha la stessa grandezza
  8. 423Dati di posizione99 telefoni in un carrettoUn artista ha simulato un ingorgo su Google Maps