Punto di partenza

Voglio che l'evoluzione delle macchine dia alle persone più spazio per dare forma alla propria vita. Se ricaviamo il futuro umano soltanto da ciò che le macchine sanno fare, la domanda su come vogliamo vivere esce dalla discussione. Preferisco discutere di come il futuro dovrebbe essere, e contribuire a costruirlo.

Tutto il resto di questo sito cerca di rendere precisa questa convinzione. Ne nascono domande più circoscritte: che cosa intende davvero un'organizzazione prima di automatizzare; chi detiene l'autorità quando gli agenti agiscono; come un'organizzazione può imparare da ciò che fa; quando una predizione smette di osservare il mondo e comincia a produrlo; dove tutto questo debba vivere mentre i modelli continuano a cambiare; e quale civiltà risulta, nel loro insieme, da questi sistemi.

L'argomento in sei passi

Ogni passo è sviluppato per intero in un saggio. Letti in quest'ordine, formano un'unica linea di pensiero: dalla civiltà ai meccanismi quotidiani del significato, dell'autorità, dell'apprendimento e della causalità, fino allo strato che deve custodirli.

  1. Unicità e terreno comune

    Il progresso è un ciclo: prospettive irriproducibili contribuiscono in modo sicuro a un fondamento che la società può condividere, e quel fondamento apre spazio alla differenza successiva. Contribuire non significa essere espropriati: l'unicità richiede sia la libertà di condividere sia quella di trattenere. Le macchine dovrebbero accelerare questo ciclo, non sostituire le persone che ne fanno parte.

    SaggioL’evoluzione delle macchine e il futuro umano

  2. Il significato come infrastruttura

    Ogni automazione poggia su un input nascosto: che cosa l'organizzazione intende per cliente, per progetto completato, per fonte autorevole. Quando quel significato resta implicito, l'automazione trasforma l'ambiguità in infrastruttura. Il rimedio è un accordo piccolo e vivo sui significati che hanno conseguenze operative.

    SaggioIl significato prima dell’automazione

  3. L'autorità come sistema

    Gli agenti trasformano l'IA da interfaccia in delega, e la delega sposta la responsabilità. Un pulsante di approvazione non è autorità. L'autorità richiede scopo, evidenze, vincoli, alternative scartate e un responsabile nominato per le scelte irreversibili, lasciando spazio all'agente dove un errore si può ancora correggere.

    SaggioL’autorità umana nell’epoca degli agenti

  4. L'apprendimento come conseguenza collegata

    Un'organizzazione impara solo quando decisione, autorità, esecuzione ed esito osservato restano collegati abbastanza da cambiare la decisione successiva. Quando gli esiti arrivano tardi o sono rumorosi, una registrazione onesta conserva la domanda aperta invece di fabbricare una lezione.

    SaggioCostruire aziende che imparano

  5. La predizione come intervento

    Quando una previsione assegna personale, credito o controlli, contribuisce a creare il futuro con cui verrà giudicata. L'accuratezza dopo l'allocazione può essere la registrazione del ciclo decisionale, non la lettura di un futuro indipendente. La domanda è anche quale futuro sia diventato più probabile.

    SaggioUna predizione che alloca osserva il futuro?

  6. Un significato che sopravvive al modello

    I modelli generano e gli agenti agiscono, ma nessuno dei due conserva ciò di cui un'organizzazione ha bisogno per restare sé stessa. Lo strato durevole somiglia a un sistema operativo: custodisce significato, autorità, memoria e causalità attraverso i modelli, così che sostituire un modello diventi un esperimento e non un azzeramento.

    SaggioNon un modello, ma un sistema operativo

Principi

Il significato prima del meccanismo.
Il significato non è documentazione aggiunta a sistema finito. È il substrato da cui un sistema affidabile può essere costruito.
I modelli prima dell'automazione.
Prima di chiedergli di agire in fretta, un sistema deve saper dire che cosa sa, che cosa gli è permesso fare, quali prove deve conservare e quando deve fermarsi per una persona.
Le evidenze prima della certezza.
Imporre una lezione a evidenze tardive o rumorose significa fabbricare certezza. Occorre registrare ciò che resta ignoto e lasciare che la domanda aperta ritorni quando ritorna una scelta simile.
L'autorità umana dove le conseguenze sono reali.
Essere bravi in un compito è una ragione per vederselo affidare. Non conferisce l'autorità di decidere per che cosa gli altri debbano vivere.

Premesse che non accetto

  • Che il valore umano dipenda dal superare le macchine. Se così fosse, si ridurrebbe a ogni loro miglioramento.
  • Che, man mano che le macchine diventano più capaci, non serva più chiedersi che cosa vogliano le persone. Più futuri diventano possibili, più conta quali scegliamo.
  • Che un pulsante di approvazione alla fine di un flusso di lavoro equivalga all'autorità umana.
  • Che un aumento dell'accuratezza dopo l'adozione dimostri che un modello ha letto il futuro.
  • Che l'intelligenza di un'organizzazione sia il modello che sta usando in quel momento.
  • Che il terreno comune richieda a tutti di condividere gli stessi valori. Dovrebbe offrire le condizioni per vivere insieme con valori diversi.

Domande aperte

Sono domande ancora vive. Alcune sono quelle su cui sto lavorando; altre sono limiti che i saggi nominano senza risolverli.

Domande attuali

  • Come si può rappresentare computazionalmente il significato?
  • Che cosa deve restare sotto l'autorità umana mentre gli agenti acquisiscono autonomia?
  • Come può un'organizzazione diventare un sistema capace di apprendere?
  • Che cosa serve per restituire l'unicità umana al terreno comune della società senza perderla?

Irrisolte nei saggi

  • Quando l'unicità entra nel terreno comune, chi decide che cosa è sicuro, senza che la sicurezza diventi un altro nome per l'ordine esistente?
  • Le IA future dovrebbero essere trattate come soggetti con esperienze e interessi propri? Non ne nego la possibilità; non ho ancora risolto la questione.
  • Come può un'organizzazione imparare da esiti che arrivano anni dopo, mescolano più decisioni o sono troppo rumorosi per isolarne una causa?
  • Come può uno strato condiviso di significato ammettere varianti locali senza frammentarsi in definizioni incompatibili?

I sistemi come esperimenti

Le idee vengono prima. I sistemi sono il luogo in cui incontrano la realtà, e le aziende sono i veicoli attuali per costruirli. Ogni sistema qui sotto mette alla prova una tesi; nessuno di essi è l'identità di questo sito.

Come tratto queste idee

Cerco di partire da una domanda reale, di distinguere l'osservazione dall'ipotesi, dall'argomento e dal principio, di rendere visibili le assunzioni che contano e di conservare le condizioni in cui una tesi potrebbe rivelarsi sbagliata.

Sono posizioni di lavoro, non una dottrina compiuta. Quando evidenze o argomenti cambiano il mio punto di vista, questa pagina viene rivista, non difesa.