LLM locali 2026— quando conviene l’AI in locale per le PMI

Fino a poco più di un anno fa la discussione era chiara: chi voleva lavorare seriamente con i modelli linguistici andava all’API di Anthropic, OpenAI o Google. I modelli locali erano un parco giochi per ricerca e appassionati di privacy — di solito funzionalmente indietro. Nel 2026 la situazione si è ribaltata. E il fattore trainante sorprende molti: sono modelli aperti dalla Cina ad aver fuso il divario con la vetta.

Cosa è cambiato in dodici mesi

L’open-weight va preso sul serio — ed è in gran parte cinese. Il campo aperto nel 2026 è guidato da modelli come Qwen3-Coder (Alibaba, Apache 2.0), DeepSeek V4 (MIT), la serie GLM-5 (Zhipu, MIT) e Kimi K2 (Moonshot, MIT). Su SWE-bench Verified — la misura standard per i compiti reali di coding — i migliori coder aperti sono ormai nel range dei modelli proprietari; GLM-5.2 (giugno 2026) sarebbe, secondo i report, il primo modello open-weight a battere GPT-5.5 su SWE-Bench Pro, e porta la finestra di contesto fino a 1 mln di token. All’estremo vertice restano davanti i modelli frontier come Claude Opus 4.8 o GPT-5.x — ma il divario è diventato irrilevante per la maggior parte dei carichi delle PMI.

Apple Silicon ha aperto il mercato della personal-AI. Un Mac mini M4 Pro con 48 GB di unified memory a circa 2.000 € fa girare modelli 32B a piena velocità e 70B quantizzati. Due anni fa gli stessi modelli richiedevano server GPU da decine di migliaia di euro. Il trucco è l’architettura unified-memory: CPU e GPU condividono la stessa memoria — una RTX 4090 ha 24 GB di VRAM, un Mac Studio fino a 512 GB.

Il fine-tuning è arrivato su hardware locale. Con MLX-LM su Apple Silicon si adattano i modelli a compiti di dominio senza un cluster NVIDIA — voce del brand, vocabolario specialistico, convenzioni di formato, tutto su hardware sotto la scrivania.

Il panorama dei modelli aperti a colpo d’occhio

Invece di una classifica-istantanea (superata in settimane), ecco l’inquadramento duraturo dei più importanti modelli eseguibili liberamente — per licenza, adattamento hardware e punto di forza:

La lettura non è «la Cina batte l’Occidente». La lettura è: esiste ormai, per quasi ogni classe hardware e ogni esigenza di privacy, un modello eseguibile liberamente che è abbastanza buono. Perché proprio i modelli aperti efficienti siano così interessanti, lo inquadriamo in La nuova AI cinese: 6× più efficiente di Claude?; le opzioni europee a colpo d’occhio sono in Alternative europee a ChatGPT.

Tre scenari — quando il locale ha senso

Singolo power user. Un founder che lavora con l’AI otto ore al giorno — circa 5 mln di token in input al mese. L’API cloud costa ~45 € al mese. Un Mac mini M4 Pro da 2.000 € si ripaga in senso puramente economico solo dopo circa 36 mesi. Per i singoli utenti senza obblighi di compliance stringenti l’API cloud è più economica nella maggior parte dei casi — qui il locale conviene soprattutto per motivi di privacy o indipendenza.

Team PMI di dieci utenti. Con uso continuo — diciamo 50 mln di token in input al mese — sono grosso modo 5.000–5.500 € l’anno sul lato cloud. Una workstation dedicata (Mac Studio o setup GPU) costa una volta 6.000–9.000 €. Break-even dopo circa 18–24 mesi — più una complessità GDPR nettamente ridotta.

Alto volume con dati sensibili. La comunicazione coi pazienti di uno studio, la corrispondenza coi clienti di uno studio legale, i documenti strategici interni di un’azienda familiare. Qui il conto pende nettamente: 200 mln di token al mese costano grosso modo 1.500–1.900 € al mese via API cloud — e ogni pratica lascia l’azienda. In locale: acquisto 8.000–12.000 €, break-even dopo 6–9 mesi, i dati restano in azienda. In questa configurazione il locale non è solo economicamente superiore, ma spesso strategicamente l’unica opzione.

Cosa significa davvero l’EU AI Act — al luglio 2026

Una correzione importante rispetto a resoconti più vecchi: il 2 agosto 2026 era in origine la grande scadenza per «il resto» dell’AI Act. Con il Digital Omnibus (adozione formale del Consiglio il 29 giugno 2026), gli estesi obblighi ad alto rischio (Allegato III) sono stati rinviati al 2 dicembre 2027. Ciò che vale davvero dal 2 agosto 2026 sono soprattutto gli obblighi di trasparenza dell’articolo 50 (etichettatura di chat e contenuti AI). Il quadro completo con tabella delle scadenze è in EU AI Act da agosto 2026.

Per i modelli locali questo non cambia nulla del vantaggio strategico: eliminano un intero sotto-problema. La residenza dei dati è garantita perché i dati non lasciano mai l’azienda — nessun accordo sul trattamento necessario, nessuna complicazione di trasferimento USA, nessuna lista di sub-responsabili. In un audit, «hardware proprio, modello proprio, licenza aperta» è una posizione molto più facile da difendere di «cloud USA, modello proprietario, dati di training ignoti».

Ma: i modelli locali non sono una pillola magica di compliance. Gli altri obblighi GDPR restano — limitazione delle finalità, minimizzazione, diritti di accesso e cancellazione, valutazione d’impatto. Il locale riduce la complessità, ma non sostituisce il responsabile della protezione dei dati.

Quale hardware basta davvero nel 2026

L’intuizione chiave: non serve un rack server. Tre classi realistiche:

Per team da cinque a dieci utenti in parallelo diventa rilevante un setup GPU NVIDIA con vLLM — più token al secondo sotto carico, a fronte di una configurazione più complessa. Per la maggior parte delle PMI l’hardware Apple basta. E poiché l’hardware migliora con cadenza annuale (più banda di memoria, più unified memory per dispositivo), la regola è: chi può rimandare l’acquisto di qualche mese ottiene più modello per gli stessi soldi.

Cosa dovrebbero fare ora le PMI

La risposta giusta per la maggior parte delle aziende a conduzione familiare non è «solo locale» né «solo cloud», ma un’architettura ibrida tagliata con cura:

• API cloud per il ragionamento complesso, dove contano gli ultimi punti percentuali — analisi strategiche, task di coding difficili, pipeline di agenti multi-step.
• Modelli locali per i carichi sensibili al GDPR — dati dei pazienti, dei clienti, HR, documenti strategici interni.
• Modelli locali per la routine ad alto volume — classificazione, estrazione, risposte standard, RAG con basi di conoscenza proprie.
• Fine-tuning in locale, quando contano voce del brand, convenzioni di formato o vocabolario specialistico.

La trappola più grande che vediamo nelle conversazioni del 2026: le PMI credono di dover scegliere un lato. Non è così. E chi tratta i modelli come componente intercambiabile può andare in locale dove conta e usare il frontier dove serve — restando robusto anche contro il rischio di piattaforma. La domanda di livello superiore — gestire un modello proprio o comprare un’API cloud — la inquadriamo nella guida build-vs-buy (in tedesco).

Domande frequenti: LLM locali nelle PMI