Approfondimenti

Agenti AI e cultura aziendale: chi scrive le regole

Scritto da Il team di Rhei | 06/11/26, 14:56

Per lavorare, gli agenti AI hanno bisogno di regole esplicite su che cosa sia un buon risultato e su che cosa possano decidere da soli. Chi scrive quelle regole sta mettendo per iscritto la cultura dell’azienda, spesso senza che il vertice lo sappia.

Cultura aziendale: le regole che nessuno ha mai scritto

Lisa J. Caswell e David Elbaz di Spencer Stuart raccontano di un analista davanti a una richiesta che giudica problematica: non la rifiuta, rallenta, fa domande di chiarimento e lascia che si esaurisca da sola. Nessuna policy autorizza quel veto silenzioso, eppure descrive come l’azienda lavora nella realtà.

Un agente AI non conosce queste regole: qualcuno deve scriverle. Secondo gli autori l’AI non cambia subito la cultura aziendale: prima la trascrive. Spencer Stuart chiede chi stia tenendo la penna.

Agenti AI: cinque punti in cui la cultura entra nei sistemi

I valori si definiscono al vertice. Le regole operative nascono più in basso, da chi configura gli strumenti, oppure arrivano dai fornitori con le impostazioni predefinite. Un gruppo che acquista decine di prodotti con funzioni AI eredita le scelte di decine di aziende diverse. Spencer Stuart individua cinque punti in cui questo accade:

  • Acquisti. Scegliere un software significa adottare le regole già scritte dal fornitore.
  • Configurazione e impostazioni predefinite. Restano quelle del fornitore finché qualcuno non le cambia; nessun obiettivo aziendale chiede di farlo.
  • Prompt e istruzioni di sistema. Li scrivono i singoli team, spesso senza revisione. Si modificano in pochi minuti e si ritrovano a fatica.
  • Soglie di autonomia. Stabiliscono che cosa l’agente decide da solo e che cosa passa a una persona. Di rado qualcuno le fissa apertamente.
  • Criteri di valutazione. Definiscono che cosa il sistema considera un buon risultato. Le persone si adattano a quei criteri.

Oggi nessuna di queste scelte passa dal CEO. Gli autori citano una piattaforma aziendale che, con una nota di rilascio, ha spostato la definizione di «soluzione» fatturabile dalla risoluzione di un problema del cliente al suo esame: a parità di uso la fattura è salita, senza il consenso dei clienti. In un’altra azienda il sistema acquistato per segnalare i clienti a rischio ha trovato quattro significati diversi dell’espressione «a rischio».

Regole sbagliate nei sistemi automatici: tre casi noti

Una regola scritta male in un sistema viene applicata a ogni pratica, ogni giorno. Nel 2018 Reuters ha rivelato che Amazon aveva abbandonato uno strumento di selezione addestrato su dieci anni di candidature, in prevalenza maschili, che penalizzava i curricula con la parola «women’s». Nel febbraio 2024 Klarna dichiarava che il suo assistente AI svolgeva il lavoro di 700 operatori del servizio clienti; nel maggio 2025 il CEO Sebastian Siemiatkowski ha detto a Bloomberg che l’azienda tornava ad assumere persone, perché il costo era stato un criterio di valutazione troppo dominante. In Australia il programma Robodebt ha calcolato in automatico, dal 2015 al 2019, i debiti dei beneficiari di sussidi. La commissione reale d’inchiesta lo ha definito un meccanismo rozzo e crudele, né equo né legale.

Su oltre 230 aziende analizzate da Spencer Stuart con il Culture Alignment Framework, lo stile orientato ai risultati è dominante nell’89% dei casi e quello orientato alla cura delle persone nel 63%. Per gli autori l’AI tende ad amplificare la prima componente: più velocità, meno confronto e metriche che diventano la definizione stessa di prestazione.

Le regole scritte nei sistemi restano quando le persone cambiano: per gli autori, cambiare il CEO potrebbe trasformare l’organizzazione meno di quanto i consigli di amministrazione presumano.

Cultura aziendale e AI: quattro decisioni per il vertice

Spencer Stuart propone quattro interventi:

  • Un responsabile con nome e cognome per ogni sistema che codifica decisioni. Deve essere una singola persona, abbastanza senior perché la sua scelta diventi policy e abbastanza vicina al lavoro da conoscere le impostazioni attuali.
  • Un elenco verificato delle attività da non automatizzare. Ogni voce indica un responsabile e il guasto che previene. Senza questi due elementi la voce resta una preferenza.
  • Riconoscimento per chi trova gli errori dei sistemi. Verifica: chi è stato promosso l’anno scorso per aver segnalato un errore dell’AI?
  • Le soglie di autonomia sulle decisioni che toccano clienti, obblighi normativi e persone vanno portate al consiglio di amministrazione per informazione, senza chiederne l’approvazione.

Per i sistemi ad alto rischio l’articolo 26 dell’AI Act chiede a chi li utilizza di affidare la sorveglianza umana a persone fisiche con la competenza, la formazione e l’autorità necessarie.

Conclusione

La cultura di un’azienda si sta trasferendo nei prompt, nelle soglie e nelle impostazioni dei sistemi AI. Se nessuno lo decide, la scrivono i fornitori e i singoli team. Scegliere chi la scrive e rivederla a intervalli regolari spetta al vertice.

In Rhei attiviamo l’Automazione Intelligente partendo da queste scelte: per ogni agente AI definiamo i dati su cui opera, le soglie di autonomia e le persone che lo supervisionano. Ogni agente parte con supervisione umana completa secondo il modello human-in-the-loop (HITL): una persona valida le sue decisioni. L’autonomia cresce quando i KPI dimostrano che l’agente è affidabile. Le definizioni condivise, come «cliente a rischio», restano una sola per tutta l’azienda.

Sapete chi ha scritto le regole che i vostri sistemi AI applicano ogni giorno? Partite da Mappa della Complessità: una fotografia di sistemi, flussi e punti di decisione per sapere dove sono scritte le vostre regole operative e chi le supervisiona.


Fonti

Spunto:

Fonti ufficiali verificate:
Visualizza articolo completo