Cos’è il pretraining?

Il pretraining è la prima, enorme fase di addestramento: il modello legge una quantità enorme di testo e impara a predire il pezzo successivo. Da lì nascono i parametri di un LLM. Costa settimane e molta potenza; lo fanno i laboratori, non tu in chat.

Dopo il pretraining il modello «sa» lingua e schemi generali, ma non è ancora tarato su un prodotto (tono, regole, rifiuti). Quella è un’altra fase. Il fine-tuning è un ritocco successivo, su un compito o uno stile, non il pretraining di nuovo.

Cosa non è

Non è l’inferenza: quella è usarlo, non allenarlo. Non è RAG: lì non cambi i pesi, gli passi documenti al momento. Non è la memoria della tua azienda e non aggiorna da solo le notizie di ieri.

Nel corso si distingue come si allena un modello da come lo usi ogni giorno.

Poi, se vuoi la mappa intera. Inizia dalla puntata gratis. Il Corso AI in 10 puntate costa 9,90 € una tantum, e resta tuo. Home: corso-intelligenza-artificiale.com.