Dire che c'è un umano nel loop non basta: uno stagista che spunta una casella e un esperto che valuta un'eccezione non offrono lo stesso controllo. La competenza per supervisionare gli agenti AI è limitata e va spesa dove cambia il risultato.
Perché «c'è un umano nel loop» dice troppo poco?
Il modello human-in-the-loop (HITL), cioè la supervisione umana sulle decisioni degli agenti AI, viene spesso trattato come un interruttore: la persona c'è oppure non c'è. Scott Brinker, autore della newsletter chiefmartec, lo smonta con un esempio. Uno stagista estivo che impiega 15 secondi a spuntare una casella di conformità e un esperto con vent'anni di esperienza che passa 45 minuti su una decisione ambigua sono entrambi, tecnicamente, «nel loop». Valore, costo e impatto dei due interventi non sono paragonabili.
Brinker propone di leggere la supervisione come un problema di allocazione delle risorse, simile a quello che si affronta con i modelli: quanta capacità serve e quanto tempo di elaborazione dedicare a ogni passaggio. Per le persone le due variabili diventano la competenza richiesta e lo sforzo dedicato. Incrociandole si ottengono quattro tipi di intervento:
- Verifica. Ha funzionato? Un controllo rapido che l'esecuzione corrisponda a quanto previsto.
- Valutazione. Ha senso? Un'indagine che raccoglie prove e ragiona sul caso, anche senza grande esperienza.
- Discernimento. È una buona cosa? Il giudizio rapido di chi conosce a fondo il mercato, il cliente o il marchio.
- Saggezza. Cosa dovremmo fare? Il compromesso ponderato su decisioni delicate, come un'eccezione di prezzo o il via libera a una campagna.
Brinker richiama la distinzione di Daniel Kahneman tra pensiero veloce e pensiero lento. Il discernimento è veloce perché comprime anni di esperienza in pochi secondi. Valutazione e saggezza sono lente e richiedono tempo. Per chi guida le operazioni la conseguenza è pratica: ogni punto di controllo di un processo con agenti AI chiede un tipo preciso di persona.
In quale punto del ciclo deve stare la persona?
La seconda variabile è la posizione. Brinker ne individua cinque:
- Nel ciclo. L'agente si ferma e aspetta l'approvazione prima di proseguire.
- Sul ciclo. L'agente lavora mentre una persona lo osserva e può intervenire.
- Al margine. L'agente gestisce i casi ordinari e passa le eccezioni a una persona.
- Prima del ciclo. Le persone fissano obiettivi, regole, limiti e criteri di escalation.
- Dopo il ciclo. Le persone verificano i risultati e migliorano il sistema nel tempo.
L'esempio viene dal marketing. Un responsabile che approva ogni singolo messaggio generato dall'agente spende la propria competenza su centinaia di micro-decisioni. Se dedica un'ora a definire le regole del messaggio prima del ciclo e poi controlla un campione dopo, ottiene più leva con meno tempo. La tesi di Brinker è netta: l'uso più efficace della competenza umana è dare forma alle decisioni che il sistema prenderà, invece di esaminarle una per una.
Regole, ragionamento o responsabilità: chi decide cosa?
Un flusso con agenti AI combina tre componenti, che Brinker chiama le tre R. Prendiamo un agente che prepara le offerte commerciali:
- Regole. Passaggi deterministici e vincoli rigidi: listino, sconto massimo, condizioni di pagamento ammesse.
- Ragionamento. Il modello linguistico interpreta richieste troppo varie per essere codificate una per una.
- Responsabilità. La persona entra dove qualcuno deve rendere conto della scelta o esercitare giudizio e gusto.
Per decidere dove collocare la responsabilità servono tre criteri:
- Incertezza. Più il caso è ambiguo, più sforzo e tempo di riflessione richiede.
- Conseguenze. Più l'errore costa, più esperienza serve.
- Reversibilità. Più l'azione si annulla facilmente, più la persona può stare lontana dalla singola decisione.
I criteri si combinano. Un'offerta con una richiesta poco chiara ma di valore modesto, correggibile con una mail, può passare senza un controllo puntuale. Un'eccezione di prezzo su un cliente strategico è un caso semplice da leggere, eppure le conseguenze chiedono un esperto: lì serve saggezza, cioè tempo ed esperienza insieme.
Tre decisioni per chi guida le operazioni
In un progetto di automazione dei processi aziendali con agenti AI, il ruolo delle persone si progetta come il resto del flusso:
- Mappare i punti di controllo. Per ogni passaggio supervisionato indicate il tipo di intervento, la posizione nel ciclo e chi lo copre. Un'approvazione senza questi tre elementi finisce in una serie di clic.
- Spostare le ore senior prima e dopo il ciclo. Regole, soglie e criteri di escalation all'inizio; analisi degli errori ricorrenti alla fine. Lì l'esperienza si moltiplica su migliaia di decisioni.
- Proteggere chi impara. Il discernimento si costruisce verificando e confrontandosi con un senior. Uno studio di Stanford registra un calo relativo del 13% dell'occupazione dei 22-25enni nei mestieri più esposti all'AI: se l'automazione elimina i passaggi in cui si impara, mancheranno i supervisori di domani.
Conclusione
Brinker chiude con un invito: non sprecate un esperto per spuntare una casella. Un agente AI ben progettato concentra il bisogno di persone competenti nei punti in cui contano. Le aziende che trattano la supervisione come un adempimento avranno controlli solo formali e senior sovraccarichi. Chi progetta tipo, posizione e responsabile di ogni intervento avrà agenti più affidabili. In Rhei gli agenti AI nascono con supervisione umana progressiva: partiamo da quali decisioni contano e da chi deve prenderle.
Sapete quali punti dei vostri processi richiedono una verifica e quali l'esperienza di un senior? Partite da Mappa della Complessità: una fotografia chiara di processi, dati e decisioni da cui attivare un'Automazione Intelligente governata.
Fonti
Spunto:
Fonti ufficiali verificate: