> ## Content Index
> Fetch the complete content index at: https://reinaldoferro.com/llms.txt
> Use this file to discover other available public pages before exploring further.

# Local LLM, fine 2026: Qwen 3.8, quantizzazioni Unsloth e l'attesa per Qwen 4
- URL: https://reinaldoferro.com/local-llm-fine-2026-qwen-3-8-quantizzazioni-unsloth-e-lattesa-per-qwen-4/
- Published: 2026-11-06T22:20:19.000Z
- Updated: 2026-11-06T22:20:19.000Z
- Description: Il thread su r/LocalLLaMA parla di «età dell'oro» per i modelli locali. Verifichiamo i fatti: Qwen3.8-27B e Flash-Next sono reali, Unsloth Dynamic 3.0 esiste, mentre Qwen 4 risulta annunciato ma non ancora rilasciato.
- Author: Reinaldo Ferro
- Tags: LLM locali, Qwen, Unsloth, Open source, Quantizzazione

Un thread molto discusso su r/LocalLLaMA sostiene che il quarto trimestre 2026 sia stato eccezionale per i modelli linguistici eseguibili in locale. Il post cita tre elementi: i modelli Qwen da 27B e Flash-Next, le nuove quantizzazioni Dynamic di Unsloth e l'imminente Qwen 4\. Non abbiamo potuto leggere il testo completo del thread, solo il riassunto del feed. Per questo abbiamo confrontato le affermazioni con fonti indipendenti. Il quadro è più sfumato dell'entusiasmo del titolo.

## Perché conta

Per chi lavora con AI on-premise, privacy e sovranità dei dati, il punto non è solo la qualità dei modelli. Conta che possano girare su hardware accessibile, con licenze chiare e strumenti maturi. Un osservatore nota che «open weights» e «gira sul tuo hardware» sono ormai due cose diverse. Secondo lo stesso controllo sulla libreria Ollama del 5-6 novembre 2026, Qwen3.8 si scarica come file locale da 18 GB, mentre Kimi K3, GLM-5.3, MiniMax-M3 e DeepSeek-V4.1-Flash compaiono solo come tag cloud.

## Contesto

**Qwen3.8-27B e Flash-Next.** Qwen3.8-Flash-Next è un modello da 125B con 6B attivi, descritto da Qwen come anteprima dell'architettura Qwen4\. Qwen3.8-27B è un denso da 27B con licenza Apache 2.0\. Le licenze differiscono: il 27B è Apache 2.0, mentre Flash-Next usa qwen-community-1.0, con più restrizioni. Sul fronte hardware, il 27B richiede meno memoria, mentre Flash-Next scambia più memoria con punteggi più alti. Una fonte indica 360 GB di pesi per Flash-Next contro 55,6 GB per il 27B. Quindi Flash-Next non è un modello da singola GPU consumer. Quanto ai benchmark, su un indice composito di Artificial Analysis il 27B ottiene 52 contro 40 di Flash-Next. Le schede ufficiali, invece, danno Flash-Next in vantaggio su ogni riga della tabella condivisa da Qwen. Le due misure non sono in contraddizione, ma i risultati dipendono molto dal benchmark scelto.

**Unsloth Dynamic.** Unsloth ha presentato la versione 3.0 delle quantizzazioni dinamiche. Secondo una sintesi di Gigazine sui dati dell'azienda, su Qwen3.8-27B si ottiene fino a un 10% di accuratezza Top-1 in più a parità di spazio su disco, soprattutto alle dimensioni più piccole. Lo stesso articolo precisa che il metodo usa solo quantizzazione post-training classica, senza QAT né QAD. La documentazione indica che i GGUF 3.0 funzionano con la maggior parte dei motori di inferenza, inclusi llama.cpp e Unsloth Desktop. Nella stessa pagina, la versione 3.1 è descritta come anteprima per DeepSeek-V4.1-Flash-1017\. Sono dati dichiarati dal produttore e non li abbiamo verificati in modo indipendente.

## Cosa sappiamo e cosa no

- **Qwen 4 non risulta rilasciato.** Al 5 novembre 2026 Alibaba non aveva annunciato una data. La dichiarazione ufficiale è il comunicato del 22 settembre, secondo cui Qwen 4 è in addestramento. Un'altra analisi conferma che sulla pagina Hugging Face di Qwen non c'è alcun repository con Qwen 4 nel nome.
- **Fonti discordanti sull'annuncio.** Un articolo su Medium parla di un post dell'account X ufficiale di Qwen del 6 novembre che confermerebbe l'arrivo ravvicinato. Non abbiamo trovato una conferma indipendente, quindi va trattato con cautela. Lo stesso articolo conclude che Qwen 4 è ufficialmente annunciato ma tecnicamente non ancora rilasciato.
- **Il 27B di Qwen 4.** Sono state mostrate quattro fasce (Max, Plus, Flash e un 27B open-weights), ma il Qwen4-27B risulta, al 5 novembre, solo nelle slide. Sulle licenze di Qwen 4, Alibaba non ha preso impegni sul fatto che Qwen 4 Max sia open-weight o limitato alle API.
- **Prestazioni citate in rete.** Circolano valori come 93 token/s su una RTX 5070 da 12 GB e 21 token/s con contesto da 250K su una RTX 4090\. Provengono da tester della community, associati all'architettura in anteprima, e non sono stati verificati ufficialmente.
- **«Frontier-level».** Il paragone con i modelli proprietari regge solo in parte. In una classifica di ottobre, Claude Opus 5.5 guida con 58, mentre il miglior open weight, MiMo-V2.6-Pro, ottiene 46\. Quel modello richiede circa 8 H200 e non gira su hardware domestico. I modelli davvero locali restano più indietro.
- **Date incerte.** Le fonti indicano date leggermente diverse per l'uscita di Flash-Next (tra il 24 e il 28 agosto 2026). Preferiamo non indicarne una precisa.

## Impatto pratico

Chi vuole un modello da eseguire su una sola GPU ha già opzioni solide. Per un server con una GPU, una consulenza indipendente suggerisce di valutare Qwen3.8-27B, Gemma 4 e gpt-oss-120b, tutti con licenza Apache 2.0\. Per il 27B si possono usare i GGUF di Unsloth con llama.cpp o Ollama. Conviene però misurare qualità e velocità sul proprio carico di lavoro, perché i benchmark pubblici non bastano. Una guida di settore suggerisce di raccogliere da cinquanta a cento esempi reali e usarli per valutare i modelli preselezionati.

Per i team che pianificano l'adozione di Flash-Next in azienda, la licenza richiede attenzione. Secondo un'analisi, Qwen Community License 1.0 richiede un accordo separato con Qwen per chi offre model-as-a-service o assistenti AI da lavoro, a qualunque livello di ricavi. Conviene farla leggere al legale. Infine, non conviene basare piani di produzione sulla data di uscita di Qwen 4: al momento non esiste una data ufficiale. Il consiglio è di mantenere l'infrastruttura indipendente dal modello, così da poter sostituire Qwen3.8-27B appena arriveranno pesi verificabili.

## Fonti

- [We are in the golden age of Local LLM](https://www.reddit.com/r/LocalLLaMA/comments/1xppbht/we%5Fare%5Fin%5Fthe%5Fgolden%5Fage%5Fof%5Flocal%5Fllm?ref=reinaldoferro.com)
- [Qwen 4 Release Date: In Training, No Date (Nov 2026) – qcode.cc](https://qcode.cc/en/qwen-4-release-date?ref=reinaldoferro.com)
- [Qwen 4 Release Date: What We Know So Far – Fello AI](https://felloai.com/qwen-4/?ref=reinaldoferro.com)
- [Qwen3.8 Flash-Next vs Qwen3.8 27B – Yotta Labs](https://www.yottalabs.ai/post/qwen-3-8-flash-next-vs-qwen-3-8-27b-2026?ref=reinaldoferro.com)
- [Unsloth Dynamic 3.0 GGUFs – Unsloth Documentation](https://unsloth.ai/docs/basics/dynamic-3.0-ggufs?ref=reinaldoferro.com)
- [Unsloth Dynamic 3.0 GGUF – GIGAZINE](https://gigazine.net/gsc%5Fnews/en/20260826-dynamic-3.0-ggufs/?ref=reinaldoferro.com)
- [Best Offline LLM Models and Tools 2026 – DevToolLab](https://devtoollab.com/blog/top-5-local-llm-tools-models?ref=reinaldoferro.com)