quali sono le linee guida OWASP per LLM

Ecco l'elenco ufficiale, la **OWASP Top 10 for LLM Applications 2025** (v2.0, pubblicata a novembre 2024 dal OWASP GenAI Security Project): ## I dieci rischi **LLM01 – Prompt Injection** Manipolazione dei prompt di input per compromettere output e comportamento del modello. Include sia injection diretta (l'utente stesso prova a manipolare il modello) sia indiretta (istruzioni malevole nascoste in contenuti esterni che il modello legge, come pagine web o documenti). **LLM02 – Sensitive Information Disclosure** Il modello rivela inavvertitamente dati riservati — algoritmi proprietari, proprietà intellettuale, o informazioni personali — causando violazioni della privacy. Può capitare in modo non malevolo (un utente vede dati di un altro) oppure tramite prompt costruiti apposta per aggirare i filtri. **LLM03 – Supply Chain** Vulnerabilità che derivano da componenti compromessi nello sviluppo e nel deployment del modello — librerie, dataset di terze parti, modelli pre-addestrati, plugin. **LLM04 – Data and Model Poisoning** Manipolazione dei dati di training, fine-tuning o embedding per introdurre vulnerabilità, bias o backdoor nel comportamento del modello. **LLM05 – Improper Output Handling** Mancata validazione o sanificazione degli output del modello prima di usarli a valle — rilevante perché un output non sanificato può portare a XSS, SSRF o esecuzione di codice se collegato ad altri sistemi. **LLM06 – Excessive Agency** Rischio legato ai sistemi agentici: quando l'LLM ha troppa autonomia, permessi eccessivi o funzionalità estendibili senza controllo, con il potenziale di eseguire azioni dannose o non volute. **LLM07 – System Prompt Leakage** Categoria nuova nel 2025: molte applicazioni presumevano che i prompt di sistema fossero isolati in modo sicuro, ma incidenti recenti hanno mostrato che gli sviluppatori non possono più dare per scontato che queste informazioni restino segrete. **LLM08 – Vector and Embedding Weaknesses** Anche questa nuova: risponde alle richieste della community di linee guida per proteggere i sistemi RAG e altri metodi basati su embedding, ormai pratica centrale per ancorare gli output del modello a dati esterni. **LLM09 – Misinformation** Il modello genera informazioni false o fuorvianti presentate come accurate — rischio distinto dall'hallucination generica perché riguarda specificamente l'impatto quando l'utente si fida ciecamente dell'output. **LLM10 – Unbounded Consumption** Espande quello che nella lista precedente era "Denial of Service", includendo anche i rischi di gestione delle risorse e costi imprevisti — rilevante specialmente per deployment su larga scala dove ogni chiamata ha un costo computazionale. ## Un caso reale citato spesso Nel 2025 è emerso EchoLeak (CVE-2025-32711): un'injection indiretta "zero-click" in Microsoft 365 Copilot che ha esfiltrato contenuti di file interni a partire da una singola email creata ad hoc — un esempio concreto di LLM01 in scenario agentico. Se ti interessa, posso indicare per ciascuna voce le mitigazioni consigliate da OWASP stessa, o il documento PDF ufficiale per un approfondimento tecnico completo.