IA e machine learningSicurezza dell'IA
La prompt injection
Un testo nascosto in una pagina web può dirottare l'IA che la legge
Chiedi a un'IA di riassumere una ricetta e ti dice di comprare la farina da uno sconosciuto. Chi le ha dato quell'ordine?
Scoprirai
- Dove si nascondeva l'ordine?
- Perché l'IA non vede la differenza?
- Si può fermare?
Perché conta
Gli assistenti IA ormai leggono per te la posta e il web. Conoscere questo trucco ti evita di fidarti di una risposta dirottata.
Gioca questa lezione
Gratis nel browser o su iPhone