LOGISTAR — Scheda Oggetto

Dati oggetto

URL

Apri

Titolo / Descrizione

Sito / Azienda

Estratto / Body

&lt;h2&gt;Cosa sono&lt;/h2&gt;
&lt;ul&gt;
&lt;li&gt;
&lt;p&gt;Gli &lt;strong&gt;SLM (Small Language Models)&lt;/strong&gt; sono modelli linguistici progettati per funzionare in ambienti con risorse limitate, come smartphone, sistemi embedded e computer poco potenti.&lt;/p&gt;
&lt;/li&gt;
&lt;li&gt;
&lt;p&gt;In genere hanno &lt;strong&gt;da circa 1 milione a 10 miliardi di parametri&lt;/strong&gt;, molto meno degli LLM, ma mantengono funzionalit&amp;agrave; fondamentali come:&lt;/p&gt;
&lt;ul&gt;
&lt;li&gt;
&lt;p&gt;generazione di testo;&lt;/p&gt;
&lt;/li&gt;
&lt;li&gt;
&lt;p&gt;riassunto;&lt;/p&gt;
&lt;/li&gt;
&lt;li&gt;
&lt;p&gt;traduzione;&lt;/p&gt;
&lt;/li&gt;
&lt;li&gt;
&lt;p&gt;question answering.&lt;/p&gt;
&lt;/li&gt;
&lt;/ul&gt;
&lt;/li&gt;
&lt;li&gt;
&lt;p&gt;Il termine &quot;small&quot; &amp;egrave; relativo: alcuni ritengono che modelli con miliardi di parametri non siano realmente &quot;piccoli&quot;, ma il nome &amp;egrave; ormai di uso comune.&lt;/p&gt;
&lt;/li&gt;
&lt;/ul&gt;
&lt;h2&gt;Come vengono ridotti di dimensione&lt;/h2&gt;
&lt;p&gt;Le principali tecniche sono:&lt;/p&gt;
&lt;ul&gt;
&lt;li&gt;
&lt;p&gt;&lt;strong&gt;Knowledge distillation&lt;/strong&gt;: addestramento di un modello pi&amp;ugrave; piccolo (&quot;student&quot;) usando un modello pi&amp;ugrave; grande (&quot;teacher&quot;).&lt;/p&gt;
&lt;/li&gt;
&lt;li&gt;
&lt;p&gt;&lt;strong&gt;Pruning&lt;/strong&gt;: rimozione dei parametri meno importanti.&lt;/p&gt;
&lt;/li&gt;
&lt;li&gt;
&lt;p&gt;&lt;strong&gt;Quantization&lt;/strong&gt;: riduzione della precisione numerica dei pesi (ad esempio da floating point a interi).&lt;/p&gt;
&lt;/li&gt;
&lt;/ul&gt;
&lt;h2&gt;Esempi di SLM&lt;/h2&gt;
&lt;p&gt;Tra i modelli citati:&lt;/p&gt;
&lt;ul&gt;
&lt;li&gt;
&lt;p&gt;&lt;strong&gt;Llama 3.2 1B&lt;/strong&gt; (Meta)&lt;/p&gt;
&lt;/li&gt;
&lt;li&gt;
&lt;p&gt;&lt;strong&gt;Qwen 2.5 1.5B&lt;/strong&gt; (Alibaba)&lt;/p&gt;
&lt;/li&gt;
&lt;li&gt;
&lt;p&gt;&lt;strong&gt;DeepSeek-R1 1.5B&lt;/strong&gt;&lt;/p&gt;
&lt;/li&gt;
&lt;li&gt;
&lt;p&gt;&lt;strong&gt;SmolLM2 1.7B&lt;/strong&gt;&lt;/p&gt;
&lt;/li&gt;
&lt;li&gt;
&lt;p&gt;&lt;strong&gt;Phi-3.5 Mini 3.8B&lt;/strong&gt; (Microsoft)&lt;/p&gt;
&lt;/li&gt;
&lt;li&gt;
&lt;p&gt;&lt;strong&gt;Gemma 3 4B&lt;/strong&gt; (Google DeepMind)&lt;/p&gt;
&lt;/li&gt;
&lt;/ul&gt;
&lt;p&gt;Sono menzionati anche modelli pi&amp;ugrave; grandi ma ancora talvolta considerati SLM:&lt;/p&gt;
&lt;ul&gt;
&lt;li&gt;
&lt;p&gt;Mistral 7B&lt;/p&gt;
&lt;/li&gt;
&lt;li&gt;
&lt;p&gt;Gemma 9B&lt;/p&gt;
&lt;/li&gt;
&lt;li&gt;
&lt;p&gt;Phi-4 14B&lt;/p&gt;
&lt;/li&gt;
&lt;/ul&gt;
&lt;h2&gt;Vantaggi&lt;/h2&gt;
&lt;ul&gt;
&lt;li&gt;
&lt;p&gt;Bassi requisiti computazionali.&lt;/p&gt;
&lt;/li&gt;
&lt;li&gt;
&lt;p&gt;Minore consumo energetico.&lt;/p&gt;
&lt;/li&gt;
&lt;li&gt;
&lt;p&gt;Inferenza pi&amp;ugrave; rapida.&lt;/p&gt;
&lt;/li&gt;
&lt;li&gt;
&lt;p&gt;Esecuzione locale senza connessione Internet, con maggiore privacy.&lt;/p&gt;
&lt;/li&gt;
&lt;li&gt;
&lt;p&gt;Costi di distribuzione inferiori.&lt;/p&gt;
&lt;/li&gt;
&lt;li&gt;
&lt;p&gt;Facilit&amp;agrave; di personalizzazione tramite fine-tuning per domini specifici.&lt;/p&gt;
&lt;/li&gt;
&lt;/ul&gt;
&lt;h2&gt;Limiti&lt;/h2&gt;
&lt;ul&gt;
&lt;li&gt;
&lt;p&gt;Generalizzazione pi&amp;ugrave; limitata rispetto agli LLM.&lt;/p&gt;
&lt;/li&gt;
&lt;li&gt;
&lt;p&gt;Maggiore rischio di bias se addestrati su dataset ridotti.&lt;/p&gt;
&lt;/li&gt;
&lt;li&gt;
&lt;p&gt;Prestazioni inferiori in compiti molto complessi o con forte dipendenza dal contesto.&lt;/p&gt;
&lt;/li&gt;
&lt;li&gt;
&lt;p&gt;Minore robustezza in situazioni ambigue o con input avversari.&lt;/p&gt;
&lt;/li&gt;
&lt;/ul&gt;
&lt;h2&gt;Applicazioni pratiche&lt;/h2&gt;
&lt;p&gt;Gli SLM sono impiegati in:&lt;/p&gt;
&lt;ul&gt;
&lt;li&gt;
&lt;p&gt;chatbot e assistenti virtuali;&lt;/p&gt;
&lt;/li&gt;
&lt;li&gt;
&lt;p&gt;generazione e debugging di codice;&lt;/p&gt;
&lt;/li&gt;
&lt;li&gt;
&lt;p&gt;traduzione automatica offline;&lt;/p&gt;
&lt;/li&gt;
&lt;li&gt;
&lt;p&gt;riassunto e generazione di contenuti;&lt;/p&gt;
&lt;/li&gt;
&lt;li&gt;
&lt;p&gt;applicazioni sanitarie locali;&lt;/p&gt;
&lt;/li&gt;
&lt;li&gt;
&lt;p&gt;dispositivi IoT ed edge computing;&lt;/p&gt;
&lt;/li&gt;
&lt;li&gt;
&lt;p&gt;strumenti educativi personalizzati.&lt;/p&gt;
&lt;/li&gt;
&lt;/ul&gt;
&lt;h2&gt;Utilizzo su dispositivi edge&lt;/h2&gt;
&lt;h3&gt;Su smartphone (PocketPal)&lt;/h3&gt;
&lt;p&gt;L&#039;app PocketPal permette di eseguire SLM direttamente sul dispositivo, offrendo:&lt;/p&gt;
&lt;ul&gt;
&lt;li&gt;
&lt;p&gt;funzionamento offline;&lt;/p&gt;
&lt;/li&gt;
&lt;li&gt;
&lt;p&gt;supporto a diversi modelli (Phi, Gemma, Qwen e altri);&lt;/p&gt;
&lt;/li&gt;
&lt;li&gt;
&lt;p&gt;gestione automatica della memoria;&lt;/p&gt;
&lt;/li&gt;
&lt;li&gt;
&lt;p&gt;configurazione dei parametri di inferenza;&lt;/p&gt;
&lt;/li&gt;
&lt;li&gt;
&lt;p&gt;monitoraggio delle prestazioni (token/s e latenza).&lt;/p&gt;
&lt;/li&gt;
&lt;/ul&gt;
&lt;h3&gt;Su PC (Ollama)&lt;/h3&gt;
&lt;p&gt;Ollama consente di eseguire SLM localmente con:&lt;/p&gt;
&lt;ul&gt;
&lt;li&gt;
&lt;p&gt;gestione semplice dei modelli;&lt;/p&gt;
&lt;/li&gt;
&lt;li&gt;
&lt;p&gt;ottimizzazione per GPU consumer;&lt;/p&gt;
&lt;/li&gt;
&lt;li&gt;
&lt;p&gt;integrazione in workflow personalizzati (ad esempio revisione automatica del codice).&lt;/p&gt;
&lt;/li&gt;
&lt;/ul&gt;
&lt;p&gt;Per iniziare:&lt;/p&gt;
&lt;ol&gt;
&lt;li&gt;
&lt;p&gt;Installare Ollama.&lt;/p&gt;
&lt;/li&gt;
&lt;li&gt;
&lt;p&gt;Scaricare un modello (es. &lt;code&gt;qwen2.5:1.5b&lt;/code&gt;).&lt;/p&gt;
&lt;/li&gt;
&lt;li&gt;
&lt;p&gt;Avviarlo in modalit&amp;agrave; interattiva.&lt;/p&gt;
&lt;/li&gt;
&lt;/ol&gt;
&lt;p&gt;Questo permette di utilizzare chatbot, assistenti alla programmazione e strumenti di sintesi dei documenti completamente in locale, senza dipendere da servizi cloud.&lt;/p&gt;
&lt;p&gt;&amp;nbsp;&lt;/p&gt;

Note

Voto oggetto (1-10)

Precisione (1-10)

Immagine

Tag (5)

✎ Modifica tag 🤖 Suggerisci AI

          llm:9, llm_internal:5, slm:9, embedding:5        

llm 9 slm 9 embedding 5 llm_internal 5 wpg 5

ID: 68123 • Tipo: WPG • Reg: 2026-07-15 • Mod: 29/07/2026 20:16