A margine della TrendAI Academy 2026, SecurityOpenLab ha incontrato Marco Fanuli, Technical Director di TrendAI Italia, per approfondire il tema dell’AI security. Il punto di partenza è che ormai tutti i vendor di security hanno integrato l'AI nelle proprie piattaforme, ma non è altrettanto scontato il suo impiego per la messa in sicurezza dei modelli stessi di AI. TrendAI ha basato la propria strategia sull’intelligenza artificiale, tanto da farne il cuore della nuova identità di brand.

Il percorso è stato naturale perché “Trend utilizzava l'AI da tantissimo tempo, e rispetto ad altri vanta una posizione di vantaggio competitivo che è data dal disporre di moltissimi dati di telemetria, di alta qualità. Un modello AI è tanto buono quanto sono buoni i dati su cui lavora, per questo Trend oggi si trova in una posizione di favore” ha spiegato Fanuli.

Partecipa agli ItalianSecurityAwards 2026 ed esprimi il tuo voto premiando le soluzioni di cybersecurity che reputi più innovative

A proposito di security for AI vera e propria, ossia la protezione dei modelli che le aziende stanno portando in produzione, si tratta di "un argomento estremamente attuale, perché tantissime imprese hanno ormai iniziato ad adottare modelli customizzati all'interno delle proprie infrastrutture, introducendo una serie di problematiche, la prima delle quali è che un LLM può essere un veicolo di ingresso per nuovi vettori di attacco" osserva il Technical Director. "Un attaccante può circuire un LLM affinché fornisca risposte che non avrebbe dovuto dare, con un classico attacco di prompt injection o di data poisoning".

Marco Fanuli, Technical Director di TrendAI Italia

Per rispondere a queste tecniche di attacco TrendAI ha sviluppato due tecnologie complementari, basate a loro volta su diversi motori AI. "La prima testa in maniera automatizzata le problematiche a livello di vulnerabilità. C'è un servizio che, in maniera continuativa, mette alla prova l'LLM di un cliente per capire se c'è qualcosa che non va, dal prompt injection al data poisoning, ai dati che non dovrebbero essere esposti. La seconda è un controllo che si frappone tra chi fa un prompt per interrogare l'LLM e il modello stesso, in modo da ispezionare costantemente se quello che viene chiesto sia o meno lecito. E vale anche nella direzione opposta, perché il prompt potrebbe essere lecito, ma nonostante questo qualcuno potrebbe sfruttarlo per ottenere informazioni sensibili. Per questo è importante controllare anche la risposta".

La corsa all'adozione dell'AI sta però ampliando la superficie di rischio a un ritmo tale da far riflettere sulla necessità di un approccio di security by design, che per Fanuli è oggi un esercizio particolarmente complesso. "Gli LLM forniscono risposte probabilistiche, non sono un algoritmo che produce una risposta certa o un'azione determinata. Un’AI può rispondere in mille modi diversi. Ma il punto è un altro. Posso usare Claude di Anthropic per farmi aiutare a sviluppare un tool interno che ottimizza un processo specifico della mia azienda; il problema è che nei tool che genero potrebbero esserci delle vulnerabilità. La security by design negli LLM è complessa, in quello che generano gli LLM è ancora più complessa, perché oggi con un Large Language Model posso generare una miriade di cose, e in caso di proliferazione si fatica ad applicare la sicurezza by design ad ogni aspetto" ragiona il manager.

Alla domanda se la sicurezza vada quindi applicata a posteriori, la risposta è che no, "dev’essere messa prima, ma in questo momento tante aziende sono costrette a farlo dopo, perché la competitività e la necessità di inseguire il mercato obbligano ad avere in produzione oggetti che non hanno nulla di secured by design. È un momento storico abbastanza complicato" ammette Fanuli, che però rivendica la natura preventiva dell'approccio descritto sopra. "Osservando dal punto di vista di chi deve difendere, applicare la security a valle dello sviluppo, ma prima di un attacco, è comunque prevenzione. Cosa differente sono tutte le tecnologie volte alla remediation, che si applicano ad attacco avvenuto, quando il danno c'è già stato".

Il parallelo storico che Fanuli propone è quello dell'IoT: "quando ha esordito l'era dell'IoT, nessuno dei dispositivi che proliferavano era sicuro. Si parlò tanto di security by design e tanti vendor si sono mossi; tanti altri non hanno fatto nulla. Questo giustifica anche la presenza di brand di cybersecurity come il nostro: ci sarà sempre la necessità di lavorare a valle. A differenza dell’IoT, con l'AI l'esercizio è diventato ancora più complicato perché scavalca anche chi era entrato nell'ottica della security by design, come per esempio i DevOps: oggi con l'AI qualsiasi persona, non sviluppatore, può creare un tool senza avere idea di che cosa sia la security by design".

È in questo contesto che si inserisce l’adesione recente di TrendAI al Project Glasswing di Anthropic dedicato alla sicurezza del software. "È una partnership molto stretta e strategica, che ci pone in una relazione molto vicina con uno dei maggiori player di intelligenza artificiale sul mercato. Questa partnership ci permette di lavorare di concerto a una AI sempre più orientata alla security" conclude Fanuli, anticipando che già nei prossimi mesi questa collaborazione dovrebbe produrre risultati concreti di cui parlare.