Perché ho scritto un libro di filosofia per chi dirige un’azienda, e che cosa c’è dentro per chi non ha tempo di leggerne uno
Da vent’anni entro nelle aziende degli altri. Negli ultimi tre, in quasi tutte, ho trovato la stessa scena: qualcuno ha comprato uno strumento di intelligenza artificiale, lo strumento funziona, i numeri migliorano, e il titolare ha un disagio che non sa nominare. Non è contrario alla tecnologia — l’ha pagata lui. Non è spaventato — ha visto i risultati. Ha l’impressione che qualcosa stia cambiando nel modo in cui la sua impresa prende le decisioni, e non trova le parole per dirlo in riunione.
Il libro che esce il 28 dicembre per Persiani, Intelligenza artificiale, fioritura umana, è nato per dare un nome a quel disagio. È un libro di filosofia, e lo dico subito perché non si creino equivoci: dentro ci sono Aristotele, Husserl, Hannah Arendt, e sette domande rivolte alla macchina — può comprendere, creare, decidere, amare, avere uno scopo, sbagliare, fiorire? Ma è scritto per essere letto da chi non ha mai aperto un libro di filosofia, e tre delle sue storie si svolgono dentro organizzazioni che somigliano molto a quelle in cui lavoro.
Nessuno ha deciso
Una la racconto qui, perché è quella che un imprenditore riconosce al volo.
Una testata locale, sette redattori, un bilancio che non è mai stato comodo. La proprietà installa un sistema che ogni mattina propone alla redazione una lista di argomenti ordinata per rendimento previsto, e per ogni articolo tre titoli con la stima dei clic. Nessuno impone niente: sono proposte. Diciotto mesi dopo il traffico è raddoppiato, il bilancio è in attivo per la prima volta da otto anni, due giovani vengono assunti. La macchina ha funzionato, e questo va detto con chiarezza perché il libro non è una lamentela contro la tecnologia: senza quel sistema il giornale avrebbe chiuso.
La direttrice si accorge del problema per una ragione minuscola. Un redattore le propone un’inchiesta lunga su una cooperativa di periferia, il sistema la colloca in fondo alla lista, e lei si sente chiedere una cosa che tre anni prima nessuno le avrebbe chiesto: «ma vale la pena?». Quello che la colpisce non è la domanda. È che, per rispondere, non le viene in mente niente.
Nessuno aveva deciso di smettere di fare inchieste. Semplicemente, ogni mattina, in una scelta fatta in trenta secondi fra dieci opzioni ordinate, l’inchiesta era sempre l’opzione meno conveniente. Duemila piccole decisioni ragionevoli, ciascuna difendibile, tutte nella stessa direzione. Questo, e non il licenziamento, è il modo in cui un’organizzazione perde il proprio scopo: un giorno alla volta, senza che nessuno abbia mai deciso di perderlo.
Decidere e ottimizzare
Il capitolo che preferisco, fra i sette, è quello sulla decisione, ed è anche il più scomodo per chi scrive libri come questo. Racconta di un pronto soccorso in cui un algoritmo assegna la priorità ai pazienti. Una giovane medica non si fida del colore sullo schermo, si affida al proprio occhio clinico, e sbaglia: la macchina aveva ragione, e un uomo paga la sua sicurezza con un pezzo di intestino. Tre settimane dopo la stessa medica non discute più il colore, perché ha imparato la lezione. Una donna aspetta quattro ore e muore.
Alla domanda su chi abbia deciso di farla aspettare non c’è risposta. Il fornitore dice che il sistema è solo un supporto. L’ospedale dice che il protocollo prevede il sistema. La medica dice che l’ultima volta che si era discostata aveva sbagliato. L’ingegnere che ha scritto la soglia lavora in un’altra città e non ha mai visto quella paziente. Nessuno ha deciso, e una decisione è stata presa.
Qui sta la distinzione che credo serva a chiunque guidi un’impresa, e che nel libro occupa un capitolo intero. Un algoritmo ottimizza: trova il massimo di una funzione, e lo fa meglio di noi — in moltissimi casi, molto meglio. Decidere è un’altra cosa. Decidere significa collocarsi nel punto in cui le conseguenze tornano indietro, poter essere chiamati a rispondere, sapere che ciò che si è fatto resterà fatto. Un massimo non ha mai dovuto rispondere di niente. E un’organizzazione che automatizza una decisione senza chiedersi chi ne resterà esposto non ha preso una decisione migliore: l’ha sciolta.
Che cosa costa dire di no
La formula che compare in ogni contratto e in ogni normativa è che «la decisione resta all’essere umano». Nella maggior parte delle aziende che ho visto è una finzione, e non perché qualcuno menta.
Basta guardare che cosa costa seguire il suggerimento della macchina e che cosa costa discostarsene. Seguirlo è gratis: nessuna motivazione, nessuna traccia, e se va male c’è un protocollo che è stato rispettato. Discostarsene richiede una giustificazione scritta, tempo che non c’è, e l’assunzione personale di un rischio con nome e cognome. Dopo un anno, in un’organizzazione così costruita, non si discosta più nessuno — e nelle procedure resta scritto, ed è vero sulla carta, che l’ultima parola spetta a una persona.
La domanda giusta non è dunque se ci sia un uomo nel circuito. È: che cosa costa, a quell’uomo, dire di no? E la sua gemella, più scomoda: chi glielo dà, quel margine? Il margine non è una qualità morale. È una posizione — un contratto, un compenso che non dipende dal pezzo, il tempo per pensare — e le posizioni non le decide chi le occupa. Le decide chi progetta l’organizzazione. Chiedere coraggio a chi non ha margine è un modo elegante per scaricare su di lui un costo deciso altrove.
Sei domande da portare in riunione
Il libro non offre dieci regole, e non per snobismo: le regole funzionano quando il problema è procedurale, e questo non lo è. Offre sei domande, che sono quelle che ho visto fare pochissime volte in quindici anni di riunioni.
Che cosa sto delegando alla macchina: l’esecuzione di ciò che ho già capito, o la parte in cui non ho ancora capito niente? Da fuori le due deleghe sono indistinguibili, perché in entrambi i casi il risultato arriva prima. Ma la seconda è il tratto in cui si imparava qualcosa, e vale soprattutto per i più giovani — i dati di Stanford di quest’estate dicono che l’occupazione dei ventenni nelle professioni più esposte all’IA è del 19 per cento sotto quella dei coetanei, e che il calo passa per le assunzioni che non avvengono, non per i licenziamenti. Questo strumento elimina un errore, o elimina un contatto? Quando andrà male, chi resterà esposto — non sulla carta: chi verrà cercato, chi non dormirà? Che cosa costa a questa persona dire di no? Questo sistema occupa il posto di qualcuno, o lo aiuta a raggiungerlo? E l’ultima, la più noiosa, l’unica che protegge tutte le altre: che cosa, qui, conta e non si può misurare — e chi lo dirà ad alta voce, se non lo dico io?
Nessuna di queste domande ha una risposta valida in generale. Ognuna ne ha una in ciascuna azienda, e la risposta cambia. È la ragione per cui ho scritto un libro di filosofia e non un manuale: una regola dice che cosa fare prima di aver guardato la situazione, una domanda obbliga a guardarla.
Un libro che dà ragione alla macchina
Devo dire un’ultima cosa, perché chi legge questo giornale ha poca pazienza per i discorsi contro la tecnologia, e fa bene. In due dei sette capitoli la macchina ha ragione contro un essere umano che si fidava del proprio istinto. Sono le pagine che mi è costato di più scrivere, e sono quelle senza le quali il resto non varrebbe niente. Il titolo del libro contiene una virgola, fra «intelligenza artificiale» e «fioritura umana», e quella virgola segna lo spazio in cui qualcuno, davanti a un risultato che arriva in tre secondi, decide ancora che cosa ha valore. Le macchine non ce lo toglieranno. Possiamo però smettere di usarlo da soli, una decisione ragionevole alla volta, e nessuna statistica se ne accorgerà in tempo.
Intelligenza artificiale, fioritura umana (Persiani, collana «I libri dei martedì di san Domenico», 150 pagine, 14,90 euro) esce il 28 dicembre ed è in preordine su fiorituraumana.it.
