La nuova delega

Gli agenti di IA stanno passando dal rispondere alle domande all’agire. Possono analizzare un mercato, preparare un contratto, modificare software, coordinare un progetto e continuare a lavorare anche dopo la fine della conversazione iniziale. È un aumento profondo della capacità d’azione. Ed è anche uno spostamento del luogo in cui risiede la responsabilità.

Molte organizzazioni trattano ancora l’IA come un’interfaccia più veloce. La prospettiva più precisa è quella della delega: un mandante affida a un agente un obiettivo, informazioni, strumenti e un certo margine di discrezionalità. Se consideriamo il sistema in questo modo, la domanda decisiva non è più se il modello sia intelligente. È chi abbia l’autorità di decidere, agire e assumersi le conseguenze.

L’autorità è un sistema

L’autorità umana non si preserva inserendo un pulsante di approvazione alla fine di ogni flusso di lavoro. Una persona stanca che approva una proposta opaca non esercita una supervisione reale. L’autorità richiede contesto: lo scopo dell’azione, le prove che la sostengono, i vincoli applicabili, le alternative scartate e le conseguenze di un errore.

Il sistema ha quindi bisogno di confini espliciti. Alcune azioni possono essere osservate, altre preparate, altre ancora eseguite in modo reversibile; alcune richiedono invece l’autorizzazione di una persona identificata. Questi livelli vanno progettati in base alle conseguenze, non alla difficoltà tecnica apparente di un’azione.

Un contratto decisionale

Un flusso di lavoro efficace per un agente parte da un contratto decisionale essenziale: il risultato perseguito, le prove considerate valide, i vincoli che non possono essere oltrepassati, la persona titolare della decisione e la dimostrazione necessaria per dichiarare concluso il lavoro.

Questo contratto concede all’agente spazio d’azione, mantenendo sostanziale il ruolo umano. L’agente può cercare ampiamente, confrontare opzioni, produrre artefatti, verificare ipotesi e portare alla luce conflitti. La persona resta responsabile del significato dell’obiettivo e delle scelte irreversibili compiute in suo nome.

Apprendere, non solo controllare

Una buona governance non dovrebbe limitarsi a prevenire gli errori. Dovrebbe migliorare la decisione successiva. Ogni azione importante dovrebbe lasciare una traccia: che cosa si riteneva vero, che cosa è stato approvato, che cosa è accaduto e che cosa ha imparato l’organizzazione. Senza questo ciclo, la supervisione diventa burocrazia e l’automazione ripete più velocemente le incomprensioni di ieri.

L’obiettivo non è mantenere le persone in ogni passaggio meccanico. È mantenerle nei punti in cui scopo, legittimità, giudizio e responsabilità sono reali. L’IA propone. Le persone approvano, eseguono e imparano. Nel tempo, sia le persone sia il sistema imparano a distinguere meglio questi ruoli.

Torna agli scritti