Anthropic ha pubblicato il 10 settembre 2026 un nuovo rapporto sul modo in cui i criminali stanno utilizzando l’intelligenza artificiale. Il documento analizza attività osservate tra dicembre 2025 e agosto 2026 e mostra un passaggio importante: l’AI non viene usata soltanto come assistente, ma sempre più come componente operativa di campagne complesse.
Dall’assistente all’orchestratore
Secondo Anthropic, gli attori analizzati hanno impiegato Claude per attività che vanno dalla scrittura di malware e strumenti di phishing fino all’esecuzione di comandi, raccolta di credenziali e operazioni coordinate su più obiettivi. In alcuni casi sono stati osservati framework multi-agente capaci di svolgere ricognizione, sfruttamento e sottrazione di dati con supervisione umana ridotta.
Il punto più interessante per le aziende non è però soltanto la sicurezza informatica. È il cambiamento del modello operativo. Quando un agente può usare strumenti, eseguire comandi e lavorare per ore senza un controllo continuo, l’automazione moltiplica la velocità e riduce il costo delle attività. Questo vale sia per chi attacca sia per chi deve difendersi.
Perché interessa una PMI italiana
Il rischio cresce con i permessi
Un assistente che prepara una bozza di email ha un perimetro limitato. Un agente collegato a posta elettronica, CRM, cloud, repository e sistemi amministrativi ha invece la possibilità di produrre effetti concreti. La domanda da porsi prima di introdurre una nuova automazione AI è quindi: quali dati può leggere, quali strumenti può utilizzare e quali azioni può eseguire?
- Concedere solo i permessi indispensabili.
- Separare ambienti di test e produzione.
- Registrare azioni, accessi e chiamate agli strumenti.
- Inserire un’approvazione umana prima delle operazioni irreversibili.
Il problema non è soltanto tecnico
La sicurezza degli agenti riguarda anche processi e persone. Un’automazione introdotta senza una procedura di escalation può continuare a operare quando dovrebbe fermarsi. Allo stesso modo, un dipendente può collegare a un servizio AI dati aziendali senza averne valutato finalità, conservazione e accessi.
Per le imprese europee il tema va inoltre coordinato con GDPR, sicurezza informatica e, quando applicabile, AI Act. La valutazione concreta dipende dal sistema e dal caso d’uso: non tutti gli impieghi dell’AI comportano gli stessi obblighi. È però prudente documentare strumenti, finalità, dati trattati e responsabilità.
Come costruire una governance semplice
Una PMI non deve necessariamente creare un dipartimento dedicato. Può iniziare con un registro interno degli strumenti AI, indicando per ciascuno proprietario, dati accessibili, integrazioni, livello di autonomia e procedure di controllo. Questo documento diventa una base utile anche quando si valuta un nuovo fornitore.
È utile inoltre definire livelli di autonomia. Un agente che prepara una proposta può operare quasi autonomamente, mentre un sistema che modifica dati clienti, effettua pagamenti o pubblica comunicazioni dovrebbe richiedere una conferma. Questa distinzione permette di mantenere i vantaggi dell’automazione senza concedere a ogni strumento lo stesso livello di accesso.
La governance dovrebbe includere anche un piano di risposta agli incidenti. Se un agente produce un’azione inattesa, l’azienda deve sapere chi può revocare le credenziali, bloccare l’integrazione e verificare quali dati siano stati coinvolti. La procedura non deve essere lunga: anche una checklist di una pagina può ridurre sensibilmente i tempi di reazione.
Azione Immediata
- Fai l’elenco degli strumenti AI utilizzati da dipendenti e collaboratori.
- Segna per ogni strumento quali dati e sistemi può raggiungere.
- Riduci i permessi degli agenti alle sole funzioni necessarie.
- Definisci un controllo umano per invii, cancellazioni, acquisti e modifiche operative.
Considerazioni finali
Il rapporto di Anthropic suggerisce una regola pratica: più un sistema AI è autonomo, più deve essere chiaro il suo perimetro operativo. Per una PMI il vantaggio dell’automazione rimane elevato, ma deve essere accompagnato da autorizzazioni minime, tracciabilità e supervisione. L’obiettivo non è bloccare gli agenti, ma fare in modo che l’autonomia sia proporzionata al rischio.
Fonte originale: Anthropic, “Detecting and countering misuse of AI: September 2026”, 10 settembre 2026 — https://www.anthropic.com/threat-intelligence-report-september-2026
