Negli ultimi anni abbiamo assistito a un’evoluzione rapida dell’intelligenza artificiale: dai modelli in grado di generare risposte, siamo passati a sistemi sempre più capaci di supportare decisioni. È in questo scenario che si afferma l’Agentic AI, un nuovo paradigma in cui dati, modelli e strumenti vengono orchestrati per svolgere attività complesse, adattarsi al contesto e prendere iniziative. Una trasformazione già in corso in molte organizzazioni, che impone di ripensare il modo in cui valutiamo queste tecnologie. Perché è proprio nel passaggio all’azione che emergono le vere sfide.

Abbiamo a lungo misurato il valore dell’intelligenza artificiale sulla base delle sue performance: accuratezza, velocità, capacità di generare output sofisticati. Tuttavia, il passaggio dai sistemi “tradizionali”, progettati per produrre sempre lo stesso risultato a parità di condizioni, a modelli generativi pensati per operare in contesti dinamici e imprevedibili richiede un cambio di prospettiva. Diventa infatti necessario poter valutare il comportamento di questi sistemi quando qualcosa non va come previsto.

Nicola Scarfone, Senior Advisor AI and Generative AI, SAS

Più autonomia, nuove sfide di affidabilità

I sistemi complessi non sono perfetti. Commettono errori, incontrano situazioni nuove, operano su dati incompleti o ambigui. È inevitabile. Difatti, la differenza con gli agenti IA non sta nell’assenza di errore, ma nella capacità di:

• integrare dati da domini e contesti differenti;
• selezionare dinamicamente modelli e strumenti;
• interpretare il contesto e adattare il comportamento anche a situazioni non esplicitamente previste durante l’addestramento;
• produrre output che possono variare anche a fronte dello stesso input;;
• collaborare con l’uomo quando necessario.

Tutto ciò consente di abilitare livelli di automazione molto elevati in contesti reali.

Nel settore pubblico, ad esempio, gli agenti IA sono già in grado di supportare gli operatori nella gestione delle richieste, integrando normative, dati e modelli per fornire risposte contestualizzate e documentate, mentre nel mondo finanziario, aiutano a identificare pattern anomali, aggiornare regole antifrode e analizzare attività sospette.

Va però sottolineato che una maggiore autonomia porta inevitabilmente con sé più responsabilità. E quando un agente passa dal supportare decisioni al contribuire direttamente a prenderle, l’attendibilità diventa un tema di business, non più solo tecnologico.

L’affidabilità si misura e si governa

Una delle criticità più evidenti riguarda il modo in cui valutiamo questi sistemi. Metriche come accuracy o benchmark standard restano utili, ma non bastano più. Due modelli con lo stesso livello di performance possono comportarsi in modo molto diverso di fronte a situazioni impreviste, dati sconosciuti o presenza di ambiguità e conflitti. Ed è proprio per questo che stanno emergendo nuove metodologie per la valutazione degli agenti meno statiche e più orientate al comportamento nel tempo, come i cosiddetti guardrail e gli LLM-as-a-judge.

Rendere l’Agentic AI affidabile significa però combinare livelli diversi di governance

• monitoraggio continuo delle performance e del comportamento;
• sistemi di valutazione dinamica basati sul comportamento degli agenti;
• meccanismi di controllo su input, output e policy;
• intervento umano nei momenti critici.

Ciononostante, nessuno di questi elementi è sufficiente se considerato in maniera isolata. Il valore nasce infatti dalla loro integrazione, perché, con l’aumentare dell’autonomia degli agenti, il monitoraggio non può più essere affidato a strumenti frammentati. Non si tratta dunque di aggiungere nuovi layer di controllo, ma di orchestrare in modo coerente tutto ciò che contribuisce al comportamento di un agente: dati, modelli, regole, interazioni con l’essere umano. In questo scenario, la tecnologia deve evolvere da semplice piattaforma di sviluppo a infrastruttura di fiducia.

Scalare l’IA, tra autonomia e supervisione

Portare l’Agentic AI dalla sperimentazione alla produzione richiede una visione unificata, capace di governarne l’intero ciclo di vita. È questa la direzione in cui si muove SAS Viya: un ambiente che integra e orchestra modelli, agenti, dati e sistemi di monitoraggio, mantenendo visibilità su ciò che accade, anche in contesti distribuiti e complessi. Perché il vero rischio dell’Agentic AI non risiede tanto nella tecnologia, quanto nella frammentazione, con agenti sviluppati in silos, modelli non governati, utilizzi non tracciati. In queste condizioni, l’indipendenza rischia rapidamente di trasformarsi in perdita di controllo. Al contrario, progettare e costruire un ecosistema in cui autonomia e supervisione convivono consente di scalare in modo affidabile.

Il futuro dell’IA dipenderà infatti da un equilibrio dinamico tra questi due fattori, con l’obiettivo di avere sistemi che funzionano nel tempo e in contesti complessi. Perché quando l'intelligenza artificiale entra nei processi aziendali la qualità delle risposte rimane importante, ma diventano altrettanto essenziali la prevedibilità del comportamento, la governabilità del sistema e la capacità di gestire situazioni impreviste.