La nuova delega

Gli agenti di IA stanno passando dal rispondere alle domande all’agire. Possono analizzare un mercato, preparare un contratto, modificare software, coordinare un progetto e continuare a lavorare anche dopo la fine della conversazione iniziale. È un aumento profondo della capacità d’azione. Ed è anche uno spostamento del luogo in cui risiede la responsabilità.

Molte organizzazioni trattano ancora l’IA come un’interfaccia più veloce. La prospettiva più precisa è quella della delega: un mandante affida a un agente un obiettivo, informazioni, strumenti e un certo margine di discrezionalità. Se consideriamo il sistema in questo modo, la domanda decisiva non è più se il modello sia intelligente. È chi abbia l’autorità di decidere, agire e assumersi le conseguenze.

L’autorità è un sistema

L’autorità umana non si preserva inserendo un pulsante di approvazione alla fine di ogni flusso di lavoro. Una persona stanca che approva una proposta opaca non esercita una supervisione reale. L’autorità richiede contesto: lo scopo dell’azione, le prove che la sostengono, i vincoli applicabili, le alternative scartate e le conseguenze di un errore.

Il sistema ha quindi bisogno di confini espliciti. Alcune azioni possono essere osservate, altre preparate, altre ancora eseguite in modo reversibile; alcune richiedono invece l’autorizzazione di una persona identificata. Questi livelli vanno progettati in base alle conseguenze, non alla difficoltà tecnica apparente di un’azione.

Si consideri un agente che prepara di notte una modifica contrattuale. Al mattino un responsabile riceve un riassunto, una raccomandazione e un pulsante di approvazione. La riunione successiva è già in ritardo; le clausole di eccezione sono chiuse; l’alternativa scartata non è visibile. Premere approva sembra supervisione. È una firma su una decisione di cui non sono stati esaminati scopo, prove e reversibilità. L’autorità è venuta meno prima che il pulsante fosse premuto.

Un contratto decisionale

Un flusso di lavoro efficace per un agente parte da un contratto decisionale essenziale: il risultato perseguito, le prove considerate valide, i vincoli che non possono essere oltrepassati, la persona titolare della decisione e la dimostrazione necessaria per dichiarare concluso il lavoro. Che cosa conti come prova è già una decisione sul significato. Il significato prima dell’automazione è la distinzione precedente: se quel significato resta implicito, il contratto autorizza una confusione.

Questo contratto concede all’agente spazio d’azione, mantenendo sostanziale il ruolo umano. L’agente può cercare ampiamente, confrontare opzioni, produrre artefatti, verificare ipotesi e portare alla luce conflitti. La persona resta responsabile del significato dell’obiettivo e delle scelte irreversibili compiute in suo nome.

Il fallimento opposto è altrettanto reale. Se ogni bozza reversibile, ogni ricerca e ogni confronto devono attendere una persona, l’attenzione si spende sul movimento invece che sulla scelta irreversibile. Le persone cliccano code che non possono davvero leggere. Lo scopo di un contratto decisionale non è aumentare i varchi. È avere meno autorizzazioni nominate dove le conseguenze sono alte, e più spazio per l’agente dove un errore può ancora essere disfatto.

Apprendere, non solo controllare

Una buona governance non dovrebbe limitarsi a prevenire gli errori. Dovrebbe migliorare la decisione successiva. Ogni azione importante dovrebbe lasciare una traccia: che cosa si riteneva vero, che cosa è stato approvato, che cosa è accaduto e che cosa ha imparato l’organizzazione. Senza questo ciclo, la supervisione diventa burocrazia e l’automazione ripete più velocemente le incomprensioni di ieri.

L’obiettivo non è mantenere le persone in ogni passaggio meccanico. È mantenerle nei punti in cui scopo, legittimità, giudizio e responsabilità sono reali. L’IA propone. Le persone approvano, eseguono e imparano. Nel tempo, sia le persone sia il sistema imparano a distinguere meglio questi ruoli. Costruire aziende che imparano è la prova di quel ciclo: la decisione successiva deve poter cambiare.

Torna agli scritti