Perché l'AI inventa?

Perché è fatta per continuare il testo, non per consultare un fatto. Un modello di linguaggio sceglie il pezzo successivo più plausibile. Se nella memoria di allenamento non c'è la risposta, o c'è una traccia sbagliata, produce comunque una frase che sembra una risposta. Si chiama allucinazione: non è una bugia voluta, è una continuazione fluida e falsa.

Non basta chiedergli di «essere onesto». Meglio dargli i documenti giusti (è il RAG), o verificare i numeri e i nomi. Un assistente sicuro di sé non è un assistente informato.

Cosa fare, in pratica

• Non copiare date, citazioni, prezzi o leggi senza un controllo.
• Se la risposta deve poggiare su i tuoi file, usa un recupero (RAG), non una chat nuda.
• Una finestra di contesto piena non è una garanzia: se il pezzo sbagliato entra, esce una risposta sbagliata con più sicurezza.

Nel corso se ne parla quando si guarda come un modello genera testo: perché può scrivere bene e sbagliare il fatto nello stesso paragrafo.

Poi, se vuoi la mappa intera. Inizia dalla puntata gratis. Il Corso AI in 10 puntate costa 9,90 € una tantum, e resta tuo. Home: corso-intelligenza-artificiale.com.