Cos’è un prompt injection?

Un prompt injection è un testo (in chat, in una pagina, in un documento) che cerca di far fare a un LLM qualcosa di diverso dalle regole del prodotto: ignorare il system prompt, svelare istruzioni, o usare tools in modo non previsto. Funziona perché il modello legge istruzioni e dati nello stesso flusso di token.

Serve saperlo se costruisci un assistente sui tuoi file (RAG) o un agente: il contenuto recuperato può contenere ordini nascosti. I guardrail e la separazione tra dati e istruzioni riducono il rischio; non lo azzerano.

Cosa non è

Non è un virus e non cambia i pesi del modello. Non è fine-tuning. Non è un attacco al server: cambia ciò che il modello legge in quella richiesta. Non è la stessa cosa di un prompt scritto male.

Nel corso si vede perché «il modello segue le istruzioni» è sia la forza sia il rischio.

Poi, se vuoi la mappa intera. Inizia dalla puntata gratis. Il Corso AI in 10 puntate costa 9,90 € una tantum, e resta tuo. Home: corso-intelligenza-artificiale.com.