Microsoft ha annunciato Project Perception, un sistema di sicurezza agentica che coordina tre categorie di agenti AI specializzati e che sarà in preview pubblica a far data dal 3 agosto. Contestualmente, il colosso di Redmond ha presentato Microsoft AI-Cyber-1-Flash, il primo modello AI sviluppato internamente, focalizzato sull'analisi delle vulnerabilità software.

L'annuncio arriva in un momento in cui, come ben noto, gli attaccanti utilizzano l'AI per generare rapidamente exploit, scalare le campagne di attacco e ottenere un'efficienza senza precedenti. In questo contesto, la sicurezza modulata sugli attaccanti umani non tiene il passo, quindi Microsoft ha ridisegnato gli elementi della propria infrastruttura che consentono di percepire il rischio in modo continuo sull'intero patrimonio digitale.

Hayete Gallot, vicepresidente della divisione security di Microsoft, ha descritto Perception come il sistema pensato per permettere ai difensori di rispondere all'AI con l'AI, alla stessa velocità di scala con cui operano oggi gli attaccanti. Il sistema mette a disposizione agenti specializzati che analizzano i dati della security e i flussi di lavoro delle imprese, per offrire una difesa continua e proattiva, che lascia l'essere umano al centro di ogni decisione ad alto impatto.

Rosso, blu e verde

L'architettura di Perception si fonda su tre classi di agenti che collaborano in un ciclo continuo. I red agent individuano potenziali percorsi di attacco e vulnerabilità prima che possano essere sfruttati, con un’attività simile a quelle di red teaming. I blue agent analizzano i risultati prodotti dai red agent, li contestualizzano dal punto di vista del rischio e determinano quali richiedono effettivamente un intervento, analogamente a come farebbe un analista esperto nel triage degli alert. I green agent intervengono applicando azioni correttive concrete e rafforzando le difese dell'ambiente, così da trasformare una segnalazione in una correzione effettiva, senza bisogno di passaggi di consegna manuali a ogni fase del processo.

Gli agenti lavorano sull’infrastruttura completa dell'organizzazione, e forti di un contesto che comprende lo storico degli incidenti, le impostazioni di policy, le relazioni tra identità e segnali in tempo reale provenienti da endpoint, identità, cloud e applicazioni. Così facendo il lavoro non si basa sul dato grezzo, e può essere formulato direttamente quello che Microsoft definisce un ragionamento evidence grade, per distinguerlo dal pattern matching statistico. Quanto ai vincoli, sono i difensori a stabilire obiettivi e guardrail, e comunque ogni azione ad alto impatto è soggetta ad approvazione umana esplicita.

Project Perception si integra con MDASH, di cui al momento rappresenta l’evoluzione più ampia, per orchestrare agenti e modelli lungo l'intero stack di tecnologie di sicurezza basate su AI.

L’analisi delle vulnerabilità software

Microsoft ha annunciato anche Microsoft AI-Cyber-1-Flash, sviluppato nell'ambito della strategia multi-modello dell'azienda. Il modello ha un'architettura suddivisa in più sottosistemi specializzati, che vengono attivati solo in parte a seconda del tipo di richiesta. Su un totale di 137 miliardi di parametri, ne vengono effettivamente utilizzati circa 5 miliardi per ogni singola analisi di modo da ridurre i costi di calcolo e accelerare le risposte rispetto a un modello che sfrutta sempre tutti i suoi parametri. Il modello può inoltre analizzare in una sola sessione fino a 256.000 token senza perdere il contesto, che equivalgono a intere codebase di grandi dimensioni.

Dal punto di vista dello sviluppo, MAI-Cyber-1-Flash nasce dal fine tuning di MAI-Code-1-Flash, il modello Microsoft già utilizzato per la scrittura di codice in GitHub Copilot e Visual Studio Code, ulteriormente addestrato con dati specifici di sicurezza per riconoscere vulnerabilità invece che generare codice. Il modello è stato progettato per gestire in autonomia fino al 90 per cento dei task all'interno di MDASH, così da riservare l'impiego di modelli più costosi (GPT-5.4 in questo caso) al restante 10 per cento di attività particolarmente complesse. Questo approccio, secondo quanto pubblicato sul blog di Microsoft AI, consente di ridurre i costi operativi senza sacrificare le prestazioni nell’analisi delle vulnerabilità in codebase complesse.

Sul fronte delle prestazioni, Microsoft cita come benchmark principale CyberGym, una suite di valutazione che comprende oltre 1.500 istanze di test derivate da 188 progetti software reali. Integrando MAI-Cyber-1-Flash in MDASH, Microsoft dichiara di aver superato i risultati ottenuti dai modelli concorrenti di OpenAI e Anthropic sullo stesso test. Inoltre, il CEO Satya Nadella ha sottolineato che la combinazione con MDASH garantirebbe queste prestazioni a un costo dimezzato rispetto ai modelli leader di mercato.

Microsoft sottolinea che il modello è appositamente addestrato per compiti difensivi, come la correzione dei bug, e non per compiti offensivi quali per esempio la creazione di exploit o la distribuzione di malware. Tuttavia, il model card pubblicato da Microsoft AI riconosce che l'identificazione e la verifica di vulnerabilità sono capacità potenzialmente dual use se usate a scopo malevolo. Per limitare questo rischio, l'accesso al modello è ristretto a un numero selezionato di clienti MDASH tramite Azure AI Foundry in modalità private preview, con le candidature soggette a un processo di revisione e approvazione. Il modello stesso ha attraversato una fase di controllo da parte dell'AI Red Team interno di Microsoft, test adversariali dedicati e una valutazione condotta da una terza parte esterna, come riportato da Help Net Security.

Sul piano tecnico, Perception introduce anche il concetto di Security Compute Unit come unità di misura per un modello di pricing a consumo, sebbene Microsoft non abbia ancora pubblicato le tariffe nel dettaglio.