Il rischio reale dell'AI enterprise non sono gli agenti autonomi. È la complessità tra di loro

Il rischio reale dell'AI enterprise non sono gli agenti autonomi. È la complessità tra di loro.

Executive Briefing — Settembre 2026

Quando le aziende deployano fleet di agenti AI invece di sistemi singoli, il pericolo vero non è un agente che si mette a fare il matto da solo. È la complessità emergente delle loro interazioni: una ragnatela di chiamate a cascata, permessi dimenticati e gap di accountability che nessuna checklist può chiudere.

1. Il problema che nessuno vede arrivare

Le aziende non deployano un agente e lo guardano girare. Deployano fleet: bot di supporto, agenti di retrieval, layer di orchestrazione, ognuno che chiama API, delega ad altri agenti, si infila in sistemi che non erano stati progettati per decisioni automatiche. Lo scenario che dovrebbe farvi perdere il sonno non è un singolo agente che combina un guaio. È cento agenti che fanno esattamente quello per cui sono stati costruiti, tutti insieme, in combinazioni che nessuno ha disegnato.

La complessità non cresce linearmente col numero di agenti. Aggiungi un secondo agente e aggiungi una connessione. Aggiungi il decimo e potenzialmente aggiungi decine di connessioni, perché ora qualsiasi agente può chiamarne un altro, e ogni chiamata può scatenarne una terza altrove. Un ticket di supporto che prima toccava un solo sistema oggi può passare attraverso quattro agenti prima che un essere umano lo veda. E ogni passaggio è un punto decisionale non approvato.

La maggior parte dei programmi AI enterprise si blocca quando gli umani responsabili perdono il filo. Chiedete a un team security quali agenti possono raggiungere quali sistemi, e otterrete silenzio. Chiedete quale agente ha triggered quale downstream action tre salti fa. Ancora silenzio.

2. Perché le checklist non funzionano

L'istinto è trattarlo come compliance: approva l'agente, registralo, passa oltre. Ma una checklist valuta un singolo punto nel tempo. La complessità corre lungo una catena, e non puoi governare una catena con una pila di approvazioni one-time più di quanto puoi dire che una dieta è riuscita perché hai mangiato una verdura una volta.

Due modalità di guasto dominano.

Permessi che si allargano. Qualcuno builda un agente per riassumere ticket di supporto e gli dà accesso API ampio perché fare il refactor dei permessi avrebbe richiesto un altro sprint. Sei mesi dopo, quello stesso agente ha un percorso nel sistema dei pagamenti. Nessuno ricorda di averlo approvato. Perché nessuno l'ha fatto.

Proprietà che si assottiglia. Cinque agenti toccano un workflow, qualcosa si rompe al quarto passo, e ti ritrovi a chiedere chi è responsabile di un link che a nessuno è stato assegnato, perché l'organigramma si è fermato a "deploya l'agente" e non è mai arrivato a "indica l'umano che risponde."

Questa è una storia di governance infrastructure che non ha tenuto il passo con il comportamento reale degli agenti: interconnessi, a cascata, che moltiplicano più velocemente dei processi creati per tracciarli.

3. Cosa dice la ricerca

Il problema non è teorico. Un sondaggio 2026 su oltre 1.600 leader aziendali globali mostra che l'85% delle aziende punta ad adottare AI agentica entro tre anni, ma il 76% riconosce che la propria infrastruttura operativa non la può supportare. Solo il 21% ha una governance matura per agenti autonomi. Gartner proietta che il 40% dei progetti agentic AI fallirà entro il 2027 per costi crescenti, valore di business poco chiaro e controlli di rischio inadeguati.

Il lavoro accademico formalizza i failure mode:

• Agent sprawl. Le piattaforme low-code rendono la creazione di agenti accessibile a tutti, producendo proliferazione non controllata di agenti ridondanti, frammentati e non governati tra team e funzioni.
• Governance gap. Solo il 21% dei leader ha governance matura. Il divario tra velocità di adozione e prontezza di governance è netto.
• Accountability diffusion. Nelle architetture multi-agente, la responsabilità si assottiglia lungo lo stack fino a concentrarsi di default sull'operatore enterprise, anche se quest'ultimo non aveva visibilità reale sulla catena decisionale.

Uno studio sulla governance delle identità macchina ha scoperto che agenti AI, service account e token API superano di oltre 80 a 1 le identità umane negli ambienti enterprise, eppure non esiste un framework integrato per governarli. Le conseguenze sono misurabili: un singolo agente non governato ha prodotto perdite tra 5.4 e 10 miliardi di dollari nel outage CrowdStrike del 2024.

I sistemi multi-agente LLM mostrano tassi di fallimento in produzione tra il 41% e l'86.7%, con quasi il 79% dei fallimenti originati da problemi di specifica e coordinamento, non da limiti dei modelli.

4. La superficie d'attacco tra agenti

La security research aggiunge un altro strato. Uno studio ha rivelato che l'82% dei modelli AI state-of-the-art è suscettibile a inter-agent trust exploitation, con un ulteriore 41% vulnerabile a prompt injection diretti. Quando gli agenti operano in architetture multi-agente, creano subagenti, delegano subtask e passano istruzioni e credenziali attraverso catene le cui relazioni di trust sono raramente verificate cryptographicamente.

La delega agente-to-agente è un potenziale accountability gap e una potenziale superficie di privilege escalation. Ogni boundary di delega è un punto dove un attaccante può pivotare, dove un permesso malconfigurato può cascadare, dove un disaccordo semantico tra agenti può produrre risultati che nessun agente singolo ha previsto.

5. Cosa funziona davvero

La soluzione parte dall'identity. Ogni agente deve esistere come entità propria, non come permesso ombra preso in prestito da chi lo ha deployato. Un nome nel registro. Un'autorità scopedata. Un umano sponsor che risponde di quello che fa.

Ma l'identity è necessaria, non sufficiente.

Il pezzo più difficile è l'oversight che vale per tutta la catena, non solo per ogni singolo link. Devi vedere cosa ha fatto un agente, cosa ha scatenato downstream, e dove finisce quella traccia in tempo reale, non in un report che qualcuno tira fuori una volta al trimestre. Se ti fermi all'identity, ti ritrovi con un archivio di agenti perfettamente documentati che operano dentro un sistema che nessuno può spiegare.

L'oversight da solo ti dice cosa è già successo. Guardare una catena non è la stessa cosa che controllarla. L'enforcement è il pezzo che quasi tutti i programmi saltano: la capacità di bloccare una chiamata fuori policy prima che esegua, non solo registrarla per qualcuno che la trova in una revisione tre settimane dopo. Una dashboard che ti mostra che un agente ha violato lo scope cinque minuti fa è un tool di monitoring. Un sistema che blocca la violazione prima che accada è governance.

Le aziende serie su agent accountability hanno bisogno di entrambi. La maggior parte ha costruito solo il primo.

6. Il cammino

La complessità non è un motivo per frenare. Le aziende che ci riescono non stanno rallentando. Stanno costruendo verso Human-Agent Harmony, dove scala e accountability crescono insieme invece di scambiarsi.

Il rischio reale non era un singolo agente che fa esattamente quello per cui è stato costruito. Sono cento agenti che lo fanno tutti insieme, in combinazioni non progettate. Quella moltiplicazione è quello che tiene l'AI enterprise bloccata in pilot forever invece di arrivare in produzione.

Risolvi la complessità e l'autonomia smette di essere il villain. Diventa il punto.

Fonti

1. VentureBeat — Enterprise AI's real risk isn't autonomous agents. It's the complexity between them. (Rory Blundell, Gravitee, 2026)
2. arXiv — Governing the Agentic Enterprise: A Governance Maturity Model for Managing AI Agent Sprawl in Business Operations (2604.16338)
3. arXiv — Who Governs the Machine? A Machine Identity Governance Taxonomy (MIGT) for AI Systems (2604.06148)
4. Arion Research — Orchestrating the Hybrid Workforce, Part 7: Orchestration Governance, Trust, and Accountability
5. arXiv — Semantic Consensus: Process-Aware Conflict Detection and Resolution for Enterprise Multi-Agent LLM Systems (2604.16339v1)
6. Lumenova AI — Taming Complexity: A Guide to Governing Multi-Agent Systems
7. Token Security — Collaborative AI Agents: Securing Multi-Agent Networks