L’evoluzione delle macchine e il futuro umano

Un futuro che contribuiamo a costruire

Gli agenti di IA e i robot sostituiranno il lavoro umano. Ogni volta che sento questa affermazione, mi ritrovo a riflettere su come è posta la domanda. Dobbiamo capire che cosa può essere sostituito. Ma se ricaviamo il futuro umano unicamente da ciò che le macchine sanno fare, la domanda su come vogliamo vivere viene espulsa dalla discussione.

Preferisco discutere di come dovrebbe essere il futuro e lavorare per realizzarlo, piuttosto che prevederlo e lamentarne l’esito. Nel mio piccolo, ho trasformato alcune cose in cui credevo in cose che esistono. Questa esperienza mi spinge ad assumermi una responsabilità che va oltre la costruzione di singoli sistemi: voglio considerare ciò che quei sistemi portano nelle vite umane e nella società nel suo insieme.

La mia posizione è chiara. Voglio che l’evoluzione delle macchine offra alle persone più spazio per dare forma alla propria vita. Non basta continuare a cercare lavori che soltanto gli esseri umani possano svolgere. Serve una relazione in cui le differenze individuali arricchiscano la società e la società coltivi le differenze che verranno.

Unicità e terreno comune

Ogni persona ha un corpo diverso, cresce in un ambiente diverso e accumula esperienze diverse. Anche quando incontriamo le stesse informazioni, differiamo in ciò che notiamo, nel modo in cui lo interpretiamo e in ciò a cui attribuiamo valore. Sono differenze nel nostro modo di vedere il mondo.

Al tempo stesso, in quanto esseri umani, condividiamo sensazioni e concetti che ci permettono di comprenderci. Né la sola differenza né la sola somiglianza possono spiegare la società umana.

Qui definisco l’unicità come la prospettiva irriproducibile e la fonte di creazione di valore che una persona o un’organizzazione possiede. Definisco il terreno comune come una base che la società può condividere e sulla quale può concordare. Intendo il progresso della civiltà come un processo in cui l’unicità contribuisce continuamente e in sicurezza a quel terreno comune.

Questo contributo non significa cancellare le differenze o rendere tutti uguali. Significa che un’intuizione nata dall’esperienza particolare di qualcuno può diventare conoscenza, tecnologia o istituzione utilizzabile da altri. Quella base condivisa, a sua volta, apre lo spazio a nuove forme di unicità. La civiltà avanza attraverso questo movimento in entrambe le direzioni.

Questa visione non misura il valore di una persona dalla quantità del suo contributo alla società. Un’idea che nessuno ancora comprende, o un’attività che non diventerà mai utile agli altri, può comunque essere parte della vita di una persona. L’unicità richiede sia la libertà di condividere sia quella di trattenere qualcosa senza condividerlo. Se tutto deve essere ceduto alla società, il contributo diventa estrazione.

L’infrastruttura che permette alle differenze di fiorire

L’unicità non comincia e non finisce dentro un individuo. Senza spazio per parlare o opportunità di sperimentare, un’idea può scomparire prima di raggiungere la società. L’educazione deve trasmettere conoscenze condivise, lasciando spazio alle domande a cui quelle conoscenze non sanno rispondere. Un’economia deve offrire una possibilità di sopravvivere ai tentativi il cui valore non è ancora compreso, oltre che a ciò per cui la domanda è già stata dimostrata.

Una società che reprime un’idea soltanto perché diverge dalle pratiche consolidate perde una fonte di progresso. Tuttavia, la novità da sola non può giustificare lo smantellamento degli assetti da cui le persone dipendono. Qui emerge una domanda inevitabile: quando parliamo di contribuire in sicurezza al terreno comune, chi decide che cosa è sicuro?

Se decidono soltanto coloro che già detengono l’autorità, il terreno comune può diventare un altro nome per la conservazione dell’ordine esistente. Nemmeno il sostegno della maggioranza, di per sé, giustifica il concentrare su una minoranza il peso del cambiamento. Il terreno comune dovrebbe offrire le condizioni per vivere insieme con valori differenti, invece di imporre a tutti gli stessi valori.

Voglio quindi distinguere la libertà di avere ed esprimere un’idea dall’autorità di applicarla agli altri. Un’idea ha bisogno di spazio per esistere anche prima che la società la condivida. Quando entra nella vita altrui attraverso un’istituzione o una tecnologia, le persone coinvolte devono poter accedere alle informazioni pertinenti e avere la possibilità di opporsi. Dovremmo limitare l’ambito degli esperimenti, rivedere ciò che può essere rivisto alla luce dei risultati e richiedere giustificazioni più solide per gli oneri irreversibili.

Riconoscere le obiezioni non conferisce a una persona il potere di fermare tutto. A volte una decisione deve essere presa senza consenso. Diventa allora necessario spiegare quali interessi siano stati privilegiati e perché, e chiedere ai responsabili di apportare correzioni quando emergono danni o esclusioni. Chi non era d’accordo deve conservare, dopo la decisione, una base sicura per vivere e per parlare.

La civiltà, gli Stati, il diritto, le economie, l’educazione e la tecnologia creano insieme queste condizioni. La sicurezza è una base che permette alle persone di partecipare al cambiamento senza essere ridotte al silenzio dal timore di perdere i mezzi di sostentamento. Questa base protegge l’unicità; l’unicità ne rivela i difetti e contribuisce a rinnovarla. È questo il ciclo che voglio chiamare progresso.

A che cosa servono le macchine?

Le persone hanno creato strumenti e macchine per ridurre pericoli e fatiche e per arricchire la propria vita. Telai, locomotive ed elettrodomestici hanno cambiato il lavoro che i corpi umani dovevano svolgere. I personal computer hanno esteso l’elaborazione delle informazioni agli individui, mentre internet ha moltiplicato le vie attraverso cui condividere a distanza conoscenze e risultati del proprio lavoro.

Naturalmente, lo sviluppo delle macchine non ha sempre reso tutti più sicuri o più prosperi. I risultati dipendono da chi le possiede, da chi può usarle e da come sono distribuiti benefici e oneri. Dobbiamo considerare le capacità di una tecnologia insieme agli scopi per cui viene impiegata.

L’IA estende questa domanda. Man mano che alle macchine può essere affidata una gamma più ampia di lavori legati all’informazione, la quantità di elaborazione svolta è soltanto una parte di ciò che conta. Quali vite permette alle persone di condurre questa capacità? A che cosa offre loro spazio per pensare e per provare? Se una maggiore produttività si limita a riempire il tempo liberato con altra elaborazione e restringe i modi in cui le persone possono scegliere di vivere, resta al di sotto della ricchezza che cerco.

Ciò che il dibattito sulla sostituzione trascura

Quando affidiamo un lavoro all’IA, dobbiamo capire da che cosa dipende. L’automazione avanza più facilmente dove procedure e criteri di valutazione sono condivisi. Ma non voglio trasformare questa distinzione in una divisione permanente in cui gli esseri umani creano e l’IA elabora.

Supponiamo che l’IA arrivi a generare idee più originali degli esseri umani, a giudicare con maggiore precisione e a svolgere gran parte del nostro lavoro. Verrebbe meno la ragione per mantenere gli esseri umani al centro? Se il valore umano dipende da una capacità superiore rispetto alle macchine, quel valore si riduce ogni volta che le macchine migliorano. Rifiuto questa premessa.

Essere bravi in un compito è una ragione per vederselo affidare. Ma non conferisce, di per sé, l’autorità di decidere per che cosa debbano vivere gli altri. Tra gli esseri umani, una maggiore capacità non attribuisce a una persona il possesso della vita di un’altra. Un confronto tra capacità non può conferire questa autorità nemmeno a una macchina.

Trattare le persone come fini non significa sostenere che il giudizio umano sia sempre corretto. La proposta di una macchina può rivelare un mio errore e cambiare il mio giudizio. Ciononostante, voglio che chi vive una vita conservi lo spazio per riconsiderare ciò che conta e scegliere un modo diverso di vivere. L’unicità umana merita protezione perché è legata alla vita di qualcuno, non perché può produrre una risposta più rara di quella di una macchina.

Se in futuro l’IA debba essere trattata come un soggetto dotato di esperienze e interessi propri è una domanda che dovremo affrontare separatamente. Qui non occorre negare questa possibilità. Il solo aumento delle capacità dell’IA non giustifica il trasformare le vite e l’autodeterminazione delle persone già esistenti in mezzi per migliorare le macchine.

Integrare il ciclo nella tecnologia

Ciò che voglio costruire è un percorso tecnologico attraverso cui l’unicità umana possa emergere, essere preservata e contribuire in sicurezza al terreno comune della società. L’IA dovrebbe fungere da mezzo capace di accelerare questo ciclo.

Immaginiamo che un insegnante noti come uno studente che non parla durante la lezione riesca a esprimere ciò che ha compreso attraverso i disegni, e adatti di conseguenza la lezione. È un esempio ipotetico, ma mostra la difficoltà di trasformare l’osservazione di una persona in conoscenza per gli altri. Estrarre soltanto la regola secondo cui i disegni migliorano i voti eliminerebbe le circostanze dello studente, la relazione con l’insegnante e ciò che è stato effettivamente accertato in quel contesto.

Entro i limiti che le persone coinvolte ritengono opportuno condividere, l’IA potrebbe aiutare a descrivere le condizioni che hanno prodotto l’adattamento, che cosa è cambiato e che cosa resta ignoto. Un altro insegnante potrebbe valutare se sia adatto alla propria classe, provarlo su piccola scala e restituire ciò che non ha funzionato. A essere condivisa è la parte che può aiutare altri a imparare proteggendo lo studente, non l’intera vita privata dello studente.

Se questo adattamento fosse imposto a tutti come unico modo ottimale di insegnare, la condivisione inizierebbe a soffocare nuove unicità. Se invece le condizioni e i limiti originari restano rintracciabili, e le persone possono sperimentare approcci diversi e rivedere lo stesso metodo condiviso, una scoperta diventa la base per la successiva. La stessa tecnologia può produrre effetti diversi sulla civiltà a seconda della relazione che crea.

Questo esempio non significa che la tecnologia possa risolvere da sola i problemi dell’educazione o dell’economia. Senza tempo per sperimentare o margine per assorbire il fallimento, distribuire conoscenza non completa il ciclo. Dobbiamo costruire le condizioni che permettono alle persone di agire in base alla conoscenza insieme ai sistemi che producono risultati attraverso l’IA.

I sistemi che voglio realizzare conserverebbero le condizioni che stanno dietro a un risultato, i limiti di ciò che può essere condiviso, le circostanze in cui non si applica e un percorso per correggerlo in seguito. Il solo volume di elaborazione non può dirci se la realizzazione ha avuto successo. Un miglioramento nato da una persona prima inascoltata può raggiungere altri? I risultati del suo utilizzo ritornano? Possono cambiare il metodo originario? Voglio verificare come risultato della tecnologia l’intero movimento in entrambe le direzioni.

Un ottimismo che mettiamo in pratica

Gli esseri umani sono venuti prima; le macchine sono emerse dall’attività umana. Ma questo ordine storico, da solo, non è la ragione per attribuire valore alle persone. Ogni persona oggi in vita ha una vita che non può essere trattata soltanto come una risorsa da spendere per il progresso delle macchine. Credo che dovremmo far avanzare la tecnologia per arricchire quelle vite.

Vale la pena perseguire un’IA che migliora l’IA quando serve a questo scopo. Gli esseri umani non devono restare in ogni passaggio. Ma rifiuto la conclusione secondo cui, man mano che le macchine diventano più capaci, non sia più necessario chiederci che cosa vogliono le persone. Più futuri diventano possibili, più conta quale scegliamo.

Trovo bellezza nelle persone che si connettono conservando la propria unicità e creano qualcosa che nessuna di loro avrebbe potuto realizzare da sola. Questa connessione non richiede che tutti diano la stessa risposta. Le nostre differenze ci permettono di vedere ciò che da soli non potremmo vedere e di raggiungere luoghi che da soli non potremmo raggiungere. Voglio che le macchine amplino questa possibilità.

Essere ottimisti sul futuro significa guardare i pericoli, prendere sul serio punti di vista differenti e agire comunque nella convinzione di poter costruire qualcosa di migliore. L’unicità contribuisce al terreno comune; quella base permette a nuove unicità di emergere. Voglio che l’evoluzione delle macchine diventi una forza che amplia questo ciclo. Voglio stare, insieme agli altri, dalla parte di chi costruisce il futuro, invece di restare tra coloro per i quali viene deciso.