Local LLM, fine 2026: Qwen 3.8, quantizzazioni Unsloth e l'attesa per Qwen 4

Un thread molto discusso su r/LocalLLaMA sostiene che il quarto trimestre 2026 sia stato eccezionale per i modelli linguistici eseguibili in locale. Il post cita tre elementi: i modelli Qwen da 27B e Flash-Next, le nuove quantizzazioni Dynamic di Unsloth e l'imminente Qwen 4. Non abbiamo potuto leggere il testo completo del thread, solo il riassunto del feed. Per questo abbiamo confrontato le affermazioni con fonti indipendenti. Il quadro è più sfumato dell'entusiasmo del titolo.

Perché conta

Per chi lavora con AI on-premise, privacy e sovranità dei dati, il punto non è solo la qualità dei modelli. Conta che possano girare su hardware accessibile, con licenze chiare e strumenti maturi. Un osservatore nota che «open weights» e «gira sul tuo hardware» sono ormai due cose diverse. Secondo lo stesso controllo sulla libreria Ollama del 5-6 novembre 2026, Qwen3.8 si scarica come file locale da 18 GB, mentre Kimi K3, GLM-5.3, MiniMax-M3 e DeepSeek-V4.1-Flash compaiono solo come tag cloud.

Contesto

Qwen3.8-27B e Flash-Next. Qwen3.8-Flash-Next è un modello da 125B con 6B attivi, descritto da Qwen come anteprima dell'architettura Qwen4. Qwen3.8-27B è un denso da 27B con licenza Apache 2.0. Le licenze differiscono: il 27B è Apache 2.0, mentre Flash-Next usa qwen-community-1.0, con più restrizioni. Sul fronte hardware, il 27B richiede meno memoria, mentre Flash-Next scambia più memoria con punteggi più alti. Una fonte indica 360 GB di pesi per Flash-Next contro 55,6 GB per il 27B. Quindi Flash-Next non è un modello da singola GPU consumer. Quanto ai benchmark, su un indice composito di Artificial Analysis il 27B ottiene 52 contro 40 di Flash-Next. Le schede ufficiali, invece, danno Flash-Next in vantaggio su ogni riga della tabella condivisa da Qwen. Le due misure non sono in contraddizione, ma i risultati dipendono molto dal benchmark scelto.

Unsloth Dynamic. Unsloth ha presentato la versione 3.0 delle quantizzazioni dinamiche. Secondo una sintesi di Gigazine sui dati dell'azienda, su Qwen3.8-27B si ottiene fino a un 10% di accuratezza Top-1 in più a parità di spazio su disco, soprattutto alle dimensioni più piccole. Lo stesso articolo precisa che il metodo usa solo quantizzazione post-training classica, senza QAT né QAD. La documentazione indica che i GGUF 3.0 funzionano con la maggior parte dei motori di inferenza, inclusi llama.cpp e Unsloth Desktop. Nella stessa pagina, la versione 3.1 è descritta come anteprima per DeepSeek-V4.1-Flash-1017. Sono dati dichiarati dal produttore e non li abbiamo verificati in modo indipendente.

Cosa sappiamo e cosa no

• Qwen 4 non risulta rilasciato. Al 5 novembre 2026 Alibaba non aveva annunciato una data. La dichiarazione ufficiale è il comunicato del 22 settembre, secondo cui Qwen 4 è in addestramento. Un'altra analisi conferma che sulla pagina Hugging Face di Qwen non c'è alcun repository con Qwen 4 nel nome.
• Fonti discordanti sull'annuncio. Un articolo su Medium parla di un post dell'account X ufficiale di Qwen del 6 novembre che confermerebbe l'arrivo ravvicinato. Non abbiamo trovato una conferma indipendente, quindi va trattato con cautela. Lo stesso articolo conclude che Qwen 4 è ufficialmente annunciato ma tecnicamente non ancora rilasciato.
• Il 27B di Qwen 4. Sono state mostrate quattro fasce (Max, Plus, Flash e un 27B open-weights), ma il Qwen4-27B risulta, al 5 novembre, solo nelle slide. Sulle licenze di Qwen 4, Alibaba non ha preso impegni sul fatto che Qwen 4 Max sia open-weight o limitato alle API.
• Prestazioni citate in rete. Circolano valori come 93 token/s su una RTX 5070 da 12 GB e 21 token/s con contesto da 250K su una RTX 4090. Provengono da tester della community, associati all'architettura in anteprima, e non sono stati verificati ufficialmente.
• «Frontier-level». Il paragone con i modelli proprietari regge solo in parte. In una classifica di ottobre, Claude Opus 5.5 guida con 58, mentre il miglior open weight, MiMo-V2.6-Pro, ottiene 46. Quel modello richiede circa 8 H200 e non gira su hardware domestico. I modelli davvero locali restano più indietro.
• Date incerte. Le fonti indicano date leggermente diverse per l'uscita di Flash-Next (tra il 24 e il 28 agosto 2026). Preferiamo non indicarne una precisa.

Impatto pratico

Chi vuole un modello da eseguire su una sola GPU ha già opzioni solide. Per un server con una GPU, una consulenza indipendente suggerisce di valutare Qwen3.8-27B, Gemma 4 e gpt-oss-120b, tutti con licenza Apache 2.0. Per il 27B si possono usare i GGUF di Unsloth con llama.cpp o Ollama. Conviene però misurare qualità e velocità sul proprio carico di lavoro, perché i benchmark pubblici non bastano. Una guida di settore suggerisce di raccogliere da cinquanta a cento esempi reali e usarli per valutare i modelli preselezionati.

Per i team che pianificano l'adozione di Flash-Next in azienda, la licenza richiede attenzione. Secondo un'analisi, Qwen Community License 1.0 richiede un accordo separato con Qwen per chi offre model-as-a-service o assistenti AI da lavoro, a qualunque livello di ricavi. Conviene farla leggere al legale. Infine, non conviene basare piani di produzione sulla data di uscita di Qwen 4: al momento non esiste una data ufficiale. Il consiglio è di mantenere l'infrastruttura indipendente dal modello, così da poter sostituire Qwen3.8-27B appena arriveranno pesi verificabili.

Fonti

• We are in the golden age of Local LLM
• Qwen 4 Release Date: In Training, No Date (Nov 2026) – qcode.cc
• Qwen 4 Release Date: What We Know So Far – Fello AI
• Qwen3.8 Flash-Next vs Qwen3.8 27B – Yotta Labs
• Unsloth Dynamic 3.0 GGUFs – Unsloth Documentation
• Unsloth Dynamic 3.0 GGUF – GIGAZINE
• Best Offline LLM Models and Tools 2026 – DevToolLab