In questi mesi il mercato della cybersecurity sta mandando un messaggio chiaro alle aziende che stanno gestendo la loro propria adozione dell’AI: il bisogno di implementare velocemente l’intelligenza artificiale è comprensibile ma non deve mai portare a una perdita di controllo su quanto accade all’interno della propria IT e per le applicazioni e i processi che l’IT abilita. In sintesi, può essere vero che l’AI è “trasformativa” per un’azienda, ma questa trasformazione va gestita anche in un’ottica di risk management.

“Per un’azienda ignorare i trend dell’intelligenza artificiale non è un’opzione praticabile - conferma Marcel Bornhoefft, Field CISO Associate di Sophos – in generale perché tutte le imprese stanno adottando l’AI, nello specifico della cybersecurity perché lo stanno facendo anche i threat actor. Premesso questo, l’adozione dell’AI deve comunque avvenire in maniera ‘smart’ e controllata”. Alle aziende – magari non a tutte, ma a molte sì - servono in sostanza linee guida da seguire nella gestione del rischio associato all’AI. “È quello che stiamo cercando di realizzare in Sophos: un framework chiaro che spieghi quando accettare determinati rischi collegati all’AI e come gestirli. Oppure quando ha più senso non accettare quei rischi e seguire un percorso più prudente”.

La “shadow AI” è una delle espressioni più evidenti e diffuse del rischio associato oggi all’adozione estesa dell’intelligenza artificiale: in qualsiasi azienda è assai probabile che i dipendenti e i collaboratori usino strumenti di AI non autorizzati e lo facciano con dati e informazioni che vengono, per questo, messi a rischio. Sophos ha lanciato da poco una soluzione per questo problema: AI Defense, che è in grado di fare un inventario delle tecnologie di AI che si stanno effettivamente utilizzando in azienda per poi di metterle in sicurezza.

In sintesi, AI Defense parte da una prima fase di assessment in cui determina quali strumenti di AI sono in uso e in che modo i dati aziendali rischiano di essere esposti. Poi mette in atto controlli mirati per mantenere le funzioni di AI allineate alle policy aziendali e limitarne eventuali usi impropri. Una successiva fase di monitoraggio costante, che applica di fatto all’AI i principi del Zero Trust, fa in modo che questi controlli siano sempre rispettati, evitando l’esposizione di dati sensibili e mettendo in atto opportune azioni di risposta quando qualcosa non va come dovrebbe. Questo approccio, sottolinea Bornhoefft, aiuta le imprese ad avere un percorso più chiaro per l’adozione dell’intelligenza artificiale: “perché, ribadisco, non riteniamo sia una buona idea bloccare completamente lo sviluppo dell’AI, ma è necessario indirizzarlo sulla strada giusta”.

In questo senso l’approccio alla sicurezza dell’AI non può che essere strategico e trasversale a tutta l’infrastruttura. “Qualsiasi agente AI – ribadisce Bornhoefft – che possa accedere a dati sensibili interni, inviarli all’esterno e consultare dati esterni è un fattore di rischio perché può essere compromesso. E nel momento in cui questo accade, di fatto abbiamo un vero e proprio ‘malicious insider’ all’interno dell’organizzazione”. Gestire gli agenti di AI come potenziali punti di vulnerabilità richiede, ovviamente, un notevole lavoro dietro le quinte dell’AI stessa. “Servono gli strumenti giusti per capire di quale AI disponiamo effettivamente nella nostra organizzazione, per controllare tutti i canali di comunicazione con le AI (via prompt, via API, eccetera) e per verificare la correttezza di quello che passa per quei canali e le loro interazioni. Parallelamente, serve poter predisporre le giuste misure di protezione da mettere in atto quando una AI dovesse agire in modo improprio”.

La cybersecurity che diventa in un certo senso il “controllore” dell’AI aziendale è anche una cybersecurity che assume un ruolo strategicamente importante e non più solo di difesa, sottolinea Sophos. “È forse la prima volta – spiega Bornhoefft – che possiamo davvero presentare la cybersecurity come un business enabler: per mettere in sicurezza l’AI deve monitorarla in tutti i suoi aspetti, e questo mette vendor e service provider di cybersecurity in una posizione nuova. Affianchiamo le aziende nell’adozione sicura dell’AI e diamo loro gli strumenti per sviluppare il proprio business con i guadagni di efficienza e produttività che l’AI può portare, ma mantenendo sempre il giusto livello di controllo”.

In questo l’AI ha un doppio ruolo: va messa in sicurezza ma è anche la tecnologia che permette la sicurezza che si cerca. Mantenere il controllo richiede infatti osservabilità, che a sua volta richiede di raccogliere grandi moli di dati operativi sull’AI (e non solo) per analizzarli. Un compito oggi impossibile senza l’AI stessa. “Se vogliamo monitorare tutto ciò a cui l’AI ha accesso e allo stesso tempo stare al passo con la velocità che caratterizza gli attacchi basati sull’AI – spiega Bornhoefft - dobbiamo tenere sotto controllo tutti i diversi punti critici presenti all’interno di un’organizzazione: firewall, endpoint, identità umane e macchina, API, cloud, eccetera. Dobbiamo raccogliere tutti i dati di interesse da sistemi e ambienti che storicamente sono silos separati, per integrarli ed arrivare idealmente a un contesto unificato”.

Ed è qui che entra in gioco l’intelligenza artificiale, perché solo lei ha la capacità e la scalabilità necessarie per raggiungere un tale contesto unificato. “È questo che intendiamo quando parliamo di utilizzare l’AI come architettura: l’AI può fungere da collante che riunisce tutte le diverse piattaforme e rileva in modo molto efficiente quali data point nella telemetria possono evidenziare quale tipo di problema o minaccia”, sintetizza il manager di Sophos.

Nel campo specifico della cybersecurity, questo è anche l’approccio che alla base degli agentic SOC di cui tanto si parla. E per i quali Sophos avvisa: l’approccio “human in the loop” è rassicurante perché vede sempre la presenza di un operatore umano che sovrintende alle decisioni dell’AI, ma non basta più. “Finché c’è qualcuno che deve consultare qualcosa e approvarla stiamo comunque operando a velocità umana, e questo è un grosso problema. Dobbiamo trovare un modo per eliminare l’intervento umano senza perdere la capacità di giudizio e la fiducia che la supervisione umana effettivamente garantisce”, spiega Bornhoefft.

Il salto che il SOC agentico deve permettere è quello in cui l’operatore umano non è più “in the loop” ma “on the loop”: “Non sovrintende manualmente ai task – spiega Bornhoefft - ma progetta i ‘loop’ agentici per eseguirli e li monitora, li ottimizza. È un ruolo di gestione e ottimizzazione dell’AI che riduce davvero i tempi di rilevamento delle minacce e di intervento”. Il futuro che traguarda Sophos vede quindi l’operatore completamente umano fuori dai SOC? “No – conclude Bornhoefft – perché ci sarà sempre qualche evento, minaccia o caso d’uso davvero specifico per il quale l’AI non è stata addestrata. O che coinvolge una infrastruttura tanto critica da richiedere comunque il controllo umano”. Ma l’idea è che queste siano eccezioni, non la regola dei futuri SOC.