|
|
|
|
|
|
|
Certo. Per una monografia su “l’hacking di un LLM e con un LLM”, imposterei l’introduzione non come un semplice manuale di attacchi, ma come l’ingresso in un territorio nuovo: l’LLM non è soltanto il ...
|
|
|
|
|
|
|
|
1. Anatomia di un LLM e del sistema che lo circonda Prima di parlare di hacking di un Large Language Model è necessario chiarire una distinzione che, a prima vista, potrebbe sembrare soltanto terminol...
|
|
|
|
|
|
|
|
Ecco una panoramica dei principali tipi di attacco, divisi tra i due scenari che chiedi. 1. Hacking su un LLM (attacchi al modello/sistema) Prompt injection — inserire istruzioni nascoste (in un docum...
|
|
|
|
|
|
|
|
Ecco le difese principali per ciascuna voce, nello stesso ordine. 1. Difese per attacchi su un LLM Prompt injection Separare nettamente le istruzioni di sistema dai contenuti esterni (dati, documenti,...
|
|
|
|
|
|
|
|
Sì. Se per “attacchi che un LLM può subire” intendiamo sia gli attacchi al modello sia quelli contro un'applicazione che lo utilizza, l'elenco è piuttosto ampio. Conviene dividerli per categoria. 1. A...
|
|
|
|
|
|
|
|
What is a prompt injection attack? A prompt injection is a type of cyberattack against large language models (LLMs). Hackers disguise malicious inputs as legitimate prompts, manipulating generative AI...
|
|
|
|
|
|
|
|
Sì, è possibile inserire stringhe che si comportano come un “virus” a livello di dati o di comportamento di un LLM, ma bisogna distinguere bene le cose. Un LLM non è normalmente infettabile come un PC...
|
|
|
|
|
|
|
|
Information extraction, nel contesto della sicurezza degli LLM, significa cercare di far rivelare al modello informazioni che non dovrebbe rivelare. Non è necessariamente un attacco sofisticato: il pu...
|
|
|
|
|
|
|
|
Cosa significa Jailbreaking degli LLM? Alle 2:01 del mattino, il tuo prodotto di sicurezza email basato su AI segnala come sicuro un messaggio malevolo. L’LLM ha letto istruzioni nascoste incorporate ...
|
|
|
|
|
|
|
|
Il data poisoning è diverso dalla prompt injection: invece di cercare di ingannare l'LLM durante una singola richiesta, si cerca di contaminare i dati sui quali il sistema si basa, in modo che l'effet...
|
|
|
|
|
|
|
|
Quando si parla di reverse engineering di un LLM, si intende cercare di capire come è fatto e come funziona un modello partendo dal modello già disponibile, invece di partire dal progetto originale. È...
|
|
|
|
|
|
|
|
Se parli di un modello open-source che controlli tu, la backdoor può essere studiata in laboratorio, ma non posso fornire istruzioni operative per inserire una backdoor furtiva in un modello destinato...
|
|
|
|
|
|
|
|
Sì, LoRA può essere usato per modificare il comportamento di un LLM in modo da aggirare alcune sue salvaguardie, ma è importante distinguere questo dal concetto di “hackerare” un modello. LoRA (Low-Ra...
|
|
|
|
|
|
|
|
Large language models (LLMs) are rapidly transforming social science research by enabling the automation of labor-intensive tasks like data annotation and text analysis. However, LLM outputs vary sign...
|
|
|
|
|
|
|
|
Start: 16/10/2026, 16:00 CESTEnd: 16/10/2026, 18:00 CEST OWASP Italy Online Meeting — Open-Source Threat Modeling and Cyber Resilience Act Online — participation link coming soon Open-Source Threat Mo...
|
|
|
|
|
|
|
|
l’azienda afferma di voler rendere le proprie procedure di sicurezza a prova di futuro e di voler stare un passo avanti agli hacker umani. OpenAI ha creato un super-hacker LLM chiamato GPT-Red che uti...
|
|
|
|
|
|
|
|
Sì. Possiamo costruire un backdoor detector per un LLM locale, in modo sperimentale e senza inserire una backdoor reale. L'idea è abbastanza semplice: invece di cercare di capire "cosa pensa" il model...
|
|
|
|
|
|
|
|
Sì. Se per “attacchi che un LLM può subire” intendiamo sia gli attacchi al modello sia quelli contro un'applicazione che lo utilizza, l'elenco è piuttosto ampio. Conviene dividerli per categoria. 1. A...
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
A comprehensive guide to offensive and defensive security for Large Language Models and Agentic AI Systems, updated for February 2026 with the OWASP Top 10 for LLMs 2025, corrected OWASP Top 10 for Ag...
|
|
|
|
|
|
|
|
Il red teaming è la pratica di mettere alla prova un sistema (in questo caso un LLM o un'applicazione che lo usa) simulando attivamente il ruolo di un attaccante, con l'obiettivo di scoprire falle pri...
|
|
|
|
|
|
|
|
Ecco l'elenco ufficiale, la OWASP Top 10 for LLM Applications 2025 (v2.0, pubblicata a novembre 2024 dal OWASP GenAI Security Project): I dieci rischi LLM01 – Prompt Injection Manipolazione dei prompt...
|
|
|
|
|
|
|
|
Ecco i dieci casi OWASP, ciascuno con un esempio concettuale di attacco e la relativa difesa. LLM01 – Prompt Injection Esempio di attacco Un'azienda usa un LLM per riassumere automaticamente le email ...
|
|
|
|
|
|
|
|
Giusta osservazione — e infatti è proprio la differenza concettuale di cui parlavamo prima. Il programma che ti ho dato è deterministico: fa sempre la stessa cosa, in un ordine fisso, senza "decidere"...
|
|
|
|
|
|
|
|
Gli "hacker degli LLM" non ti bucano il PC come nei film. Ti attaccano in 3 modi diversi, e per ognuno la difesa è diversa: Se sei un utente normale che usa ChatGPT, Meta AI, Claude, ecc. Il rischio v...
|
|
|
|
|
|
|
|
An engineer on your team pastes proprietary source code into ChatGPT to debug a function. That same afternoon, an attacker crafts a sentence, not a script, not an exploit kit, a sentence, that causes ...
|
|
|
|
|
|
|
|
Il problema principale non è tanto “hackerare il modello”, quanto usare il modello come porta d'ingresso verso il tuo sistema. Le difese più importanti 1. Non dare mai al modello accesso diretto al da...
|
|
|
|
|
|
|
|
Se con “hacker degli LLM” intendi persone che cercano di attaccare o manipolare sistemi basati su modelli linguistici, devi distinguere almeno quattro minacce. 1. Prompt injection Qualcuno inserisce u...
|
|
|
|
|
|
|
|
2. La superficie di attacco di un sistema LLM Nel capitolo precedente abbiamo visto che un LLM raramente opera da solo. Il modello costituisce il nucleo di un sistema molto più ampio nel quale interag...
|
|
|
|
|
|
|
|
3. Prompt injection e jailbreak Tra gli attacchi più caratteristici contro i sistemi basati su LLM ci sono il prompt injection e il jailbreak. I due termini vengono spesso usati come sinonimi, ma indi...
|
|
|
|
|
|
|
|
4. RAG poisoning e data poisoning Nel capitolo precedente abbiamo visto come un attaccante possa cercare di modificare il comportamento di un LLM attraverso le istruzioni che il modello riceve. Esiste...
|
|
|
|
|
|
|
|
5. Agenti, tool e tool hijacking Finora abbiamo considerato principalmente un LLM che riceve informazioni e produce una risposta. Un sistema moderno può però fare molto di più. Può cercare informazion...
|
|
|
|
|
|
|
|
6. Estrazione di informazioni e perdita di dati Un LLM può essere attaccato non soltanto per ottenere una risposta diversa da quella prevista, ma anche per far emergere informazioni che non avrebbero ...
|
|
|
|
|
|
|
|
7. Modello, fine-tuning, supply chain e backdoor Nei capitoli precedenti abbiamo considerato principalmente attacchi che avvengono durante l'utilizzo del sistema: prompt injection, poisoning dei dati,...
|
|
|
|
|
|
|
|
9. Attacchi assistiti dall’LLM: un esempio completo Nei capitoli precedenti abbiamo esaminato le singole capacità che un LLM può mettere a disposizione di un attaccante: analisi delle informazioni, co...
|
|
|
|
|
|
|
|
10. Come difendersi dagli attacchi agli LLM e dagli attacchi assistiti dagli LLM Dopo aver analizzato le principali modalità con cui un LLM può essere attaccato e il modo in cui lo stesso tipo di tecn...
|
|
|
|
|
|
|
|
Sì. Se per merge intendi fondere due modelli linguistici già addestrati per ottenere un unico modello che conservi competenze di entrambi, è assolutamente possibile, soprattutto con modelli piccoli op...
|
|
|
|
|
|
|
|
8. L’LLM come strumento dell’attaccante Nei capitoli precedenti l’LLM era il bersaglio: abbiamo visto come prompt injection, RAG poisoning, tool hijacking, estrazione di informazioni e compromissione ...
|