Cos’è uno SLM (small language model)?

Uno SLM è un LLM piccolo: meno parametri, spesso pensato per inferenza su un laptop o un telefono. Si arriva lì con distillazione, quantizzazione, o addestrando da zero un modello stretto.

Serve per costo, latenza e modelli locali. Lo scotto: ragiona meno di un modello grande, ha un knowledge cutoff come gli altri, e le allucinazioni restano. Per i fatti tuoi conta più il RAG che «prendere il modello più piccolo».

Cosa non è

Non è «AI debole». Non è solo un file GGUF (quello è il contenitore). Non è fine-tuning di ChatGPT. Non è un agente da solo.

Nel corso si distingue «quanto è grande il modello» da «cosa gli fai leggere».

Poi, se vuoi la mappa intera. Inizia dalla puntata gratis. Il Corso AI in 10 puntate costa 9,90 € una tantum, e resta tuo. Home: corso-intelligenza-artificiale.com.