Allucinazioni AI e l’impatto reale nelle operazioni IT

Il 68% dei professionisti IT ha riscontrato personalmente allucinazioni prodotte dall'AI con potenziale impatto operativo. Più della metà (52%) riferisce che il proprio team ha individuato gli errori prima che causassero danni; il 16% non è stato così fortunato. Sono cifre tratte dal 2026 AI Maturity Report di Ivanti, basato su un sondaggio condotto a febbraio e marzo 2026 in Stati Uniti, Regno Unito, Francia, Germania, Australia e Giappone. L’informazione sulle allucinazioni è importante, perché è un problema che le AI di ultima generazione hanno avuto fin dall’inizio, e che è doveroso monitorare per prevenire inpatti economici anche seri.

Il dato sulle allucinazioni non sorprende chi segue l'evoluzione dell'AI: è un problema noto, presente in tutti i modelli di ultima generazione fin dalle prime release, e che non ha ancora trovato una soluzione definitiva nonostante i progressi dei modelli stessi. Eppure, con la diffusione massiccia dell'AI nelle aziende, tende a passare sottotraccia, come un fatto talmente scontato da relegare il monitoraggio sistematico in secondo piano. Il report Ivanti è un importante promemoria dell’errore che si sta commettendo su larga scala. Oltre la metà delle organizzazioni (56%) ha già adottato l'AI su più workflow o in scala business-critical; il 46% prevede di automatizzare con l'AI quasi metà delle proprie operazioni IT entro 18 mesi. In questo contesto, un output errato non è più un inconveniente accettabile, tuttavia, più l'autonomia operativa dell'AI cresce, più l'affidabilità degli output diventa una questione di sicurezza, con potenziali impatti economici rilevanti, oltre che di efficienza.

A questo proposito, il 68% dei professionisti IT che ha riscontrato allucinazioni con potenziale impatto operativo dichiara di fidarsi delle sue capacità decisionali. Tra gli utenti più avanzati, il 49% afferma di fidarsi pienamente degli output generati dall'AI che influenzano le decisioni IT.

I vantaggi indiscussi

Nonostante tutto, l’AI continua ad essere popolare perché i vantaggi che offre sono comunque numerosi e irrinunciabili. Il 63% dei professionisti IT afferma che l'AI li aiuta a dedicare meno tempo ai task ripetitivi; il 50% dice che l'AI li aiuta a concentrarsi sulle attività più complesse e strategiche; il 45% riferisce una migliore visibilità a supporto delle decisioni.

I risultati però non sono uniformi: le organizzazioni più mature ottengono risultati categoricamente diversi rispetto a quelle alle fasi iniziali. In dettaglio, tra le aziende con AI scaled/business-critical, il 54% dei professionisti IT afferma che l'AI rende il lavoro più veloce e migliore, più del doppio rispetto al 24% registrato nelle organizzazioni in fase di sperimentazione. Il divario è ancora più marcato sul tema del rilevamento proattivo degli incidenti: nelle organizzazioni a maturità avanzata, l'89% dei professionisti IT afferma che l'AI aiuta frequentemente il team a rilevare i problemi prima che gli utenti finali se ne accorgano; nelle organizzazioni agli stadi iniziali, la percentuale scende al 43%.

Il governance gap

Le organizzazioni mature hanno anche strutture di accountability più chiare, governance più formale e criteri di misurazione dell'impatto più precisi: il 64% misura l'impatto dell'AI tramite time to resolution, il 64% tramite customer satisfaction score, il 65% tramite cost saving. Nelle aziende che stanno avviando la sperimentazione, le percentuali corrispondenti sono 38%, 26% e 37%.

La maggior parte delle organizzazioni IT dichiara di disporre di processi base: il 65% ha processi di valutazione del rischio AI, il 59% ha policy per valutare e approvare nuove soluzioni AI, il 58% ha policy di acceptable use, il 49% ha organismi di supervisione. Ma solo il 24% dei dipendenti afferma che questi protocolli vengono seguiti alla lettera nella pratica quotidiana. Il dato forse più interessante è che l'85% dei professionisti IT sostiene che per ogni agente AI e workflow esiste un responsabile nominato all'interno della propria organizzazione, tuttavia, solo il 42% reputa questa responsabilità effettivamente chiara.

L’altro livello di problema è che l'AI non regolamentata aggiunge un ulteriore livello di rischio. Quando i dipendenti usano strumenti AI non approvati per aggirare processi di approvazione lenti, creano punti ciechi che compromettono la visibilità organizzativa. I settori più regolamentati (governo, sanità e istruzione) registrano i tassi più alti di utilizzo di strumenti AI non autorizzati, abbinati ai tassi più bassi di strumenti forniti dal datore di lavoro. Il problema, peraltro, non risparmia i vertici: i leader organizzativi nascondono il proprio utilizzo dell'AI con una frequenza quasi doppia rispetto agli altri dipendenti (42% vs. 23%), e tra chi lo fa, il 52% dichiara di agire per ottenere un vantaggio competitivo.

Evidentemente pochi si rendono conto che la governance non è un ostacolo all'adozione ma la sua precondizione, esattamente come la cybersecurity è la base della business continuity. Eppure è diventata la barriera citata più frequentemente alla diffusione dell'AI, seguita dalla carenza di competenze (20%), dai limiti tecnologici (17%) e dalle sfide sui dati (14%).

Tornando al problema iniziale delle allucinazioni, una governance efficace è proprio la soluzione per definire soglie di fiducia differenziate per tipologia di operazione. Permettere all'AI di riavviare autonomamente servizi non funzionanti o applicare patch di routine è diverso dal richiedere validazione umana per modifiche di configurazione a livello di sistema o per risposte a incidenti ad alta gravità. Il 55% dei professionisti IT afferma che non si affiderebbe mai all'AI senza revisione umana per gli incidenti ad alta severità; il 52% dice lo stesso per la comunicazione degli incidenti a manager o investitori.

Il percorso che il report delinea per colmare il governance gap richiede che la responsabilità sia incorporata nelle piattaforme e nei processi prima ancora che si renda necessaria, con percorsi di escalation definiti in anticipo. La buona notizia, rileva Ivanti, è che la governance cresce con la maturità: il 69% delle organizzazioni scaled/business-critical riferisce di avere una governance completa, contro il 15% delle aziende in fase di sperimentazione iniziale. Ma anche quel 69% lascia margine: quasi un terzo delle organizzazioni IT più mature opera ancora senza una governance pienamente integrata.