I servizi di intelligenza artificiale sono diventati il talline d’Achille del panorama informatico. L'ultimo report trimestrale sulle vulnerabilità pubblicato da Kaspersky indica infatti che nel secondo trimestre del 2026 le vulnerabilità registrate nei servizi di AI e negli LLM sono decuplicate rispetto al quarto trimestre del 2025 e quelle classificate come critiche quasi quintuplicate rispetto allo stesso periodo del 2025.

Gli esperti di Kaspersky legano a doppio filo l'impennata generale delle vulnerabilità nel periodo in esame dalla diffusione degli strumenti di AI, che vengono usati massivamente sia per scrivere software sia per scovare al suo interno le falle di sicurezza. In altre parole, l'AI sta aiutando i ricercatori a esaminare enormi quantità di codice e a portare a galla problemi rimasti silenti per anni. Contemporaneamente, quando gli strumenti di AI vengono integrati in applicazioni e piattaforme, portano con sé le proprie falle.

Un esempio citato nel report è quello ben noto di OpenClaw, che nel solo secondo trimestre si è piazzato al dodicesimo posto tra i software con più vulnerabilità pubblicate in assoluto, con oltre duecento CVE registrati in tre mesi. Oltre a OpenClaw, il report cita il caso della piattaforma Dify usata per costruire applicazioni basate su AI in ambito aziendale. Un utente autenticato poteva costruire una richiesta capace di uscire dal proprio spazio di lavoro isolato e di raggiungere le API interne del servizio, che invece non dovrebbero essere accessibili dall'esterno. Un terzo esempio riguarda Open WebUI, che nelle versioni vulnerabili trattava  l'operazione di fissare o rimuovere un messaggio in evidenza in una chat ometteva il controllo dei permessi utente per modificare un canale.

Il numero delle vulnerabilità pubblicate relative a LLM, strumenti di AI e plugin con funzionalità simili

Il legame tra AI e vulnerabilità è ancora più chiaro se si esaminano solo le falle più gravi e un caso concreto è la scoperta, grazie all'AI, della famiglia di vulnerabilità nel kernel Linux ribattezzata Dirty Frag, che ha permesso a un utente senza privilegi di ottenere il controllo completo di un sistema.

Dove si concentrano i problemi

Quando i ricercatori hanno analizzato nel dettaglio la natura delle vulnerabilità trovate nei prodotti che integrano l’AI, sono emerse tre famiglie di problemi ricorrenti. La prima riguarda i controlli di accesso inadeguati su elementi critici dei sistemi, che permettono a un utente di accedere a funzioni o dati a cui non dovrebbe avere accesso. La seconda riguarda l'implementazione carente dei meccanismi di autenticazione e autorizzazione, ovvero i sistemi che dovrebbero verificare chi sta usando un servizio e che cosa gli è permesso fare. La terza sono le cosiddette injection, tecniche con cui un attaccante inserisce comandi o istruzioni non previste all'interno di un sistema per farlo comportare in modo malevolo. Prima della diffusione degli agenti AI era un tipo di attacco piuttosto raro, ora sta tornando centrale proprio a causa del modo in cui questi agenti elaborano le informazioni.

È interessante poi la segnalazione di un fenomeno che rende ancora più complicato il lavoro di chi si occupa della difesa cyber: la comparsa di ricerche sulle vulnerabilità completamente false, ma scritte con l’AI in modo da sembrare credibili e far sprecare tempo e risorse ai ricercatori. Un esempio su tutto è quello di pubblicazioni relative a presunte falle in Microsoft Exchange e SharePoint che, a un esame più attento, descrivevano problemi inesistenti, spesso costruiti ad arte con riferimento a meccanismi realmente vulnerabili. Addirittura, in alcuni casi la descrizione della falla inesistente era accompagnata da malware del tutto scollegato dal presunto problema.

I principali progetti legati ad AI/LLM per numero di vulnerabilità pubblicate

Non stupisce poi che anche gli APT abbiano fattivamente promosso le AI fra i propri obiettivi. È quanto accaduto con il caso della piattaforma Langflow per la creazione di flussi di lavoro, che stata attaccata da un gruppo APT, sfruttando il fatto che si tratta di tecnologie nuove, poco conosciute e poco testate, che di conseguenza presentano numerosi punti ciechi dal punto di vista della security.

Per far fronte ai nuovi sviluppi, Kaspersky invita le organizzazioni a sviluppare procedure dedicate alla gestione delle credenziali e dei dati sensibili nei sistemi che si appoggiano ad agenti e a modelli linguistici. È inoltre caldeggiato il monitoraggio in tempo reale dei sistemi e dei controlli di accesso.