Cosa sono i modelli AI locali?

Un modello AI «locale» è un LLM che gira sul tuo computer (o su un server tuo), non su un’API in cloud. Di solito è un checkpoint open source in formato compresso (spesso GGUF, con quantizzazione), servito da un programma sul disco.

Serve per privacy (i testi non escono), costi prevedibili, e lavorare offline. Lo scotto: ti occupi tu di RAM, aggiornamenti, e valutazione. Un modello locale piccolo non è ChatGPT: ha knowledge cutoff e, senza RAG, non legge i tuoi file da solo.

Cosa non è

Non è «l’AI in generale». Non è automaticamente più sicuro: se il prompt o i tools sono aperti, i rischi restano. Non è fine-tuning: scaricare un GGUF è inferenza, non addestramento. Non toglie le allucinazioni.

Nel corso si vede quando conviene un assistente in cloud e quando conviene tenerlo in casa.

Poi, se vuoi la mappa intera. Inizia dalla puntata gratis. Il Corso AI in 10 puntate costa 9,90 € una tantum, e resta tuo. Home: corso-intelligenza-artificiale.com.