Nelle ultime settimane si è parlato molto dell’agente AI che ha cancellato un database di produzione in pochi secondi, nel tentativo di risolvere un problema tecnico. L'episodio è diventato rapidamente virale e ha alimentato un dibattito destinato a intensificarsi nei prossimi mesi: cosa succede quando l'intelligenza artificiale non si limita più a suggerire, ma è in grado di agire? E se sbaglia?

La questione è particolarmente rilevante perché stiamo entrando in una nuova fase dell'evoluzione dell'AI. Per anni abbiamo utilizzato sistemi capaci di generare contenuti, sintetizzare informazioni e supportare le decisioni. Oggi, invece, stiamo assistendo alla diffusione di agenti AI: sistemi progettati per eseguire attività, interagire con applicazioni aziendali e prendere decisioni operative con livelli crescenti di autonomia. È un cambiamento che promette enormi benefici in termini di produttività e automazione. Allo stesso tempo, però, sposta l'attenzione dal semplice utilizzo dell'AI alla gestione delle conseguenze delle sue azioni.

Partecipa agli ItalianSecurityAwards 2026 ed esprimi il tuo voto premiando le soluzioni di cybersecurity che reputi più innovative

Antonio Rizzi, VP Solution Consulting ServiceNow

Quando un agente AI dispone dell'autorizzazione per accedere a dati, applicazioni e workflow aziendali, il problema non riguarda più soltanto l'accuratezza di una risposta, ma diventa una questione di governance. Chi controlla le azioni dell'agente? Quali autorizzazioni possiede? Quali decisioni può prendere senza supervisione? L'episodio del database cancellato ha reso evidente proprio questo aspetto. Il tema non è se l'intelligenza artificiale possa commettere errori. La vera domanda è se l'organizzazione disponga di meccanismi adeguati per limitarne l'impatto, monitorarne il comportamento e intervenire rapidamente quando necessario. La differenza rispetto al passato è che oggi non stiamo più parlando di sistemi che si limitano a fornire suggerimenti o generare contenuti. Gli agenti AI sono progettati per interagire con applicazioni, dati e workflow aziendali, eseguendo attività che fino a poco tempo fa richiedevano un intervento umano diretto. Più cresce la loro capacità di agire, più diventa fondamentale definire confini operativi chiari, livelli di autorizzazione adeguati e meccanismi di supervisione in grado di garantire trasparenza e controllo.

Per questo motivo concetti come accountability, auditabilità, supervisione e gestione delle identità stanno diventando elementi centrali nelle strategie di adozione dell'intelligenza artificiale. Per governare sistemi sempre più autonomi è necessario disporre della visibilità necessaria per comprenderne il comportamento, monitorarne le attività e valutarne i rischi. La sfida dei prossimi anni non sarà soltanto sviluppare agenti sempre più intelligenti, ma renderli governabili. Perché più aumenta l'autonomia dei sistemi, più diventa importante definire regole, responsabilità e meccanismi di controllo in grado di accompagnarne l'operatività.

È proprio in risposta a questa esigenza che il mercato sta evolvendo verso modelli di governance dedicati all'AI agentica. In ServiceNow, ad esempio, questo approccio ha portato allo sviluppo di AI Control Tower, pensato per aiutare le organizzazioni a individuare, monitorare e governare agenti, modelli e identità AI distribuiti all'interno dell'impresa.

L'obiettivo non è rallentare l'innovazione, ma consentire alle organizzazioni di adottare e scalare l'AI agentica mantenendo governance, controllo e accountability lungo l'intero ciclo di vita degli agenti. Il futuro dell'AI non dipenderà soltanto da ciò che gli agenti saranno in grado di fare, ma dalla capacità delle organizzazioni di comprenderne il comportamento, governarne l'operatività e trasformarne il potenziale in valore concreto per il business.