Oggetti

Descrizione

dta reg (aaaa-mm-gg)

Body

Ecco una panoramica dei principali tipi di attacco, divisi tra i due scenari che chiedi.

## 1. Hacking *su* un LLM (attacchi al modello/sistema)

- **Prompt injection** — inserire istruzioni nascoste (in un documento, una pagina web, un'email) che l'LLM legge e interpreta come comandi, sovvertendo l'intento dell'utente. È probabilmente la categoria più rilevante oggi, soprattutto per agenti che leggono contenuti esterni.
- **Jailbreaking** — tecniche di prompting pensate per aggirare i filtri di sicurezza del modello e fargli produrre output che normalmente rifiuterebbe.
- **Data poisoning** — corrompere i dati di addestramento (o di fine-tuning/RAG) per introdurre comportamenti indesiderati o backdoor nel modello.
- **Model extraction / stealing** — interrogare ripetutamente un modello per ricostruirne approssimativamente i pesi, l'architettura o le capacità.
- **Membership inference / privacy attacks** — dedurre se un dato specifico faceva parte del training set, o estrarre frammenti di dati memorizzati (compresi dati sensibili "ricordati" per errore).
- **Adversarial examples** — input costruiti ad hoc (testo, immagini per modelli multimodali) che ingannano il modello facendogli sbagliare classificazione o interpretazione.
- **Attacchi alla supply chain** — compromettere librerie, plugin, tool o connettori usati dal sistema LLM (es. un MCP server malevolo, una dipendenza infetta).
- **Denial of service / resource exhaustion** — prompt progettati per far consumare risorse computazionali eccessive.

## 2. Hacking *con* un LLM (uso del modello come strumento offensivo)

- **Phishing e social engineering automatizzati** — generare email, messaggi o siti fasulli molto convincenti e personalizzati su larga scala.
- **Generazione di malware/exploit assistita** — usare un LLM per scrivere o adattare codice malevolo (cosa che i modelli allineati, incluso io, rifiutano di fare).
- **Disinformazione e contenuti sintetici** — produrre testi, deepfake testuali o narrazioni false in modo massivo e credibile.
- **Automazione della ricognizione (OSINT)** — aggregare e correlare velocemente informazioni pubbliche su un bersaglio.
- **Vulnerability scanning assistito** — usare un LLM per analizzare codice o configurazioni ed individuare falle (uso legittimo in un contesto di sicurezza difensiva, ma sfruttabile anche offensivamente).
- **Impersonazione conversazionale** — bot basati su LLM che si spacciano per persone reali in truffe o manipolazione.

Un punto da tenere presente: io non fornisco dettagli operativi (codice, payload, tecniche passo-passo) per nessuno di questi attacchi, né per creare exploit né per aggirare sistemi di sicurezza — posso però discutere a livello concettuale, di difesa, o di ricerca in sicurezza AI (es. red teaming, mitigazioni, standard come l'OWASP Top 10 per LLM). Se ti interessa un ambito specifico per capire come difendersi, dimmi pure quale e approfondisco.

tipo ogg.

cat

subcat

proprietario

azienda

ute

selez1

op1

codart

codice

codclifor

motivo

url

tag

imgsrc

sunto_breve

sunto_medio

note

keyscrape

Lista tag dell'oggetto (oggettag)
cod_tag	value
ai	5
chatbot	5
hacker	5
llm	5
llm_internal	5
wpg	5

Lista delle righe dell'oggetto (oggettir)
tip_pro	cod_pro	descrizione	val_pro	pes_pro

---.