Il team di Rhei28/10/26, 16:294 min read

Governance AI: chi può fermare gli agenti AI in azienda

6:41

Policy, comitati e budget per la governance dell'AI crescono più in fretta della capacità di intervenire sui sistemi in produzione. Per chi guida le operazioni la governance si misura su chi può sospendere un agente AI e su quanto rapidamente riesce a farlo.

Governance dell'AI sulla carta: più regole, meno capacità di risposta

Secondo l'AI Index 2026 di Stanford le organizzazioni senza regole di AI responsabile sono scese in un anno dal 24% all'11%. Nello stesso periodo gli incidenti AI documentati pubblicamente sono passati da 233 a 362 e la quota di organizzazioni che giudica eccellente la propria risposta agli incidenti è calata dal 28% al 18%.

Su AI4Business Giovanni Sisinna chiama questo scarto il paradosso della governance sulla carta: le regole dicono cosa fare, la governance è la capacità di farlo quando serve. Adottare uno strumento AI richiede minuti, mentre costruire i processi per controllarlo richiede mesi. Nel frattempo gli agenti AI entrano nei processi di vendita, assistenza e gestione ordini, spesso senza comparire in nessun inventario aziendale.

Chi può sospendere un agente AI e con quale autorità

Un comitato che può solo raccomandare osserva i sistemi AI senza governarli. Lo stesso vale per l'analista che vede un'anomalia nei log e non ha il potere di intervenire. Ogni agente AI in produzione ha bisogno di un responsabile nominato fin dalla progettazione, di una voce nell'inventario, del potere di sospensione e di un percorso di escalation provato a intervalli regolari.

La supervisione umana deve anche essere praticabile per chi la esercita. Nella class action contro UnitedHealth sull'algoritmo nH Predict, usato per le coperture delle cure post-acute nei piani Medicare Advantage, i ricorrenti sostengono che nove dinieghi su dieci contestati in appello siano stati ribaltati e che il personale fosse spinto a restare entro l'1% della durata di degenza stimata dal sistema. UnitedHealth respinge questa ricostruzione e afferma che lo strumento non decide le coperture. A marzo 2026 un giudice federale del Minnesota ha ordinato all'azienda di consegnare documenti interni, comprese le valutazioni delle prestazioni e le retribuzioni di coordinatori e direttori medici. Quando scostarsi dalla proposta dell'algoritmo ha un costo per chi lo fa, la persona nel processo firma decisioni che non ha preso.

Autonomia degli agenti AI: cosa possono fare e cosa è permesso

Un agente AI collegato al CRM e all'ERP può tecnicamente modificare un ordine, aprire un reso o cambiare un fido. Il livello di autonomia concesso si decide prima del rilascio, in base al rischio della decisione, alla reversibilità dell'errore e alla supervisione disponibile. Se il rischio resta inaccettabile anche con l'autonomia al minimo, l'agente non va in produzione.

Secondo lo stesso AI Index il 62% delle organizzazioni indica sicurezza e rischio come primo ostacolo alla diffusione degli agenti AI. Tre scelte di progetto riducono quel rischio:

Identità e permessi tracciati centralmente. Ogni agente ha un'identità propria, un responsabile e permessi che non si allargano senza approvazione.
Limiti scritti nelle integrazioni. Soglie e divieti stanno nelle regole dei sistemi, perché un'istruzione nel prompt può essere ignorata o aggirata.
Arresto in caso di guasto. Se un controllo non risponde, l'agente si ferma e passa il caso a una persona.

AI Act e supervisione umana: cosa misurare

Il Regolamento (UE) 2026/1744, il Digital Omnibus sull'AI in vigore dal 27 luglio 2026, ha spostato al 2 dicembre 2027 gli obblighi per i sistemi ad alto rischio dell'Allegato III e al 2 agosto 2028 quelli per l'AI integrata in prodotti regolati. Gli obblighi di trasparenza dell'articolo 50 si applicano invece dal 2 agosto 2026. Il rinvio lascia il tempo per costruire processi ed evidenze di supervisione umana che reggano a una verifica.

Una governance dichiarata si dimostra con pochi indicatori, seguiti nel tempo e portati con regolarità al vertice:

Tasso di intervento umano. Poche correzioni su molte decisioni possono indicare approvazioni di facciata.
Tempo di revisione. Revisioni troppo rapide segnalano fiducia automatica nella proposta dell'agente o carichi di lavoro eccessivi.
Tempo di sospensione e ripristino. Quanto serve per fermare un agente e rimetterlo in servizio, misurato con prove periodiche.
Eccezioni aperte. Ogni deroga alle regole ha un responsabile e una scadenza.

Conclusione

La governance dell'AI si giudica nel momento in cui un agente va fermato: serve una persona con l'autorità per farlo e un percorso di arresto già provato. In Rhei attiviamo l'Automazione Intelligente con agenti AI che partono sotto supervisione umana completa. Il modello human-in-the-loop (HITL), cioè la validazione umana delle decisioni dell'agente, è configurabile per ogni agente e si accompagna a un comando di arresto (kill switch), al registro delle decisioni e a una dashboard di supervisione. L'autonomia cresce quando i KPI dimostrano che l'agente è affidabile.

Sapete chi può sospendere ciascuno dei vostri agenti AI e in quanto tempo? Partite da Mappa della Complessità: una fotografia di processi, dati e punti di decisione su cui assegnare responsabili e soglie di intervento agli agenti AI.

Fonti

Spunto:

AI4Business, Giovanni Sisinna — “Governance AI: perché le regole non bastano e cosa serve davvero” (27/10/2026)

Fonti ufficiali verificate:

Un percorso fatto di tappe. Ogni tappa produce valore.