Principi, codici etici, linee guida e regolamenti non indicano sempre quale sia la decisione giusta quando l’intelligenza artificiale entra concretamente in un’impresa, in un ospedale, in un’amministrazione o in un processo decisionale.
È da questa distanza tra principi generali e situazioni reali che prende avvio la conversazione con Mario De Caro, professore ordinario di Filosofia morale a Roma Tre, dove tiene la Cattedra UNESCO in Ethics of Artificial Intelligence and Practical Wisdom, e Visiting professor alla Tufts University (USA). Al centro dell’intervista ci sono il concetto di “saggezza pratica”, i limiti della delega alle macchine, la distribuzione delle responsabilità, la necessità di mantenere una componente di giudizio umano e il ruolo della formazione.
Secondo De Caro, uno dei problemi decisivi non consiste soltanto nello stabilire regole per l’intelligenza artificiale, ma nell’imparare – e insegnare anche ai sistemi – a riconoscere le specificità morali delle diverse situazioni. Una capacità che diventa ancora più rilevante man mano che l’AI acquista autonomia e viene utilizzata in ambiti sempre più delicati.
Quanto possiamo delegare all’intelligenza artificiale
Qual è il dilemma etico più urgente posto oggi dall’intelligenza artificiale?
Ce ne sono diversi e a vari livelli. Secondo me il punto principale è quanto delegare all’AI. Per capire il problema dobbiamo considerare anche la potenza dei sistemi attuali. Un normale cellulare, oggi, è enormemente più potente del computer di bordo dell’Apollo 11; e un telefonino è poco rispetto ai supercomputer sui quali girano sistemi di intelligenza artificiale come i large language models, per esempio ChatGPT, Gemini o DeepSeek. Si raggiungono velocità di calcolo incredibili. Ma il punto rilevante è soprattutto il modo in cui funziona l’intelligenza artificiale contemporanea, e in particolare il deep learning: è data driven, non rule based. Non ci sono necessariamente regole esplicite coscienzache stabiliscono dall’inizio tutto ciò che un sistema deve o non deve fare. Il sistema apprende dall’esperienza, in forme supervisionate o non supervisionate. Se vogliamo implementare un’etica in questi sistemi, quindi, serve pensare anche a un’etica che possa essere appresa “dal basso”, educando e istruendo i sistemi su come comportarsi. Questo vale anche per una piccola azienda che voglia costruire o adattare un sistema a determinati comportamenti. Il problema diventa allora: qual è l’etica più adeguata? Possiamo distinguere, semplificando, tra etiche generaliste ed etiche contestualiste. Le prime sono quelle a cui pensiamo immediatamente: i Dieci Comandamenti, l’etica deontologica di Kant, l’utilitarismo. Sono costruite attorno a principi generali: non mentire; non trattare gli altri soltanto come mezzi; massimizzare il benessere o l’utilità generale. Il problema è che i principi generali possono incontrare eccezioni. Prendiamo il divieto di mentire. Ci sono situazioni nelle quali mentire non è soltanto moralmente possibile, ma può diventare moralmente doveroso. Se nascondo in casa una persona perseguitata che sarebbe torturata e uccisa e i suoi persecutori mi chiedono se si trova da me, applicare alla lettera il principio “non mentire” conduce a una conclusione difficilmente accettabile. Ogni situazione etica ha una propria specificità. Per questo è tornato ad avere importanza un modo di pensare l’etica che viene dall’antichità, e in particolare da Aristotele: l’idea della saggezza pratica, cioè la capacità di discernere, nella situazione particolare, quale sia la scelta giusta senza limitarsi ad applicare rigidamente una regola. A seconda dei casi si può ragionare in termini deontologici, utilitaristici oppure riconoscere le caratteristiche specifiche della situazione e degli attori coinvolti. In questa prospettiva possiamo immaginare anche un’etica insegnata ai sistemi artificiali caso per caso, attraverso il training. Come insegniamo a un sistema a riconoscere oggetti o ad affrontare determinate situazioni nella guida autonoma, possiamo cercare di insegnargli a riconoscere anche le caratteristiche moralmente rilevanti delle situazioni. L’idea è quindi abbandonare la convinzione che basti individuare principi capaci di risolvere automaticamente qualsiasi problema e riconoscere il peso del contesto.
I rischi del presente: lavoro, disuguaglianze e sistemi imprevedibili
Si parla molto dei rischi futuri dell’intelligenza artificiale. Quali danni stiamo già sottovalutando nel presente?
Ce ne sono diversi. Uno riguarda il mondo del lavoro. L’AI vi sta entrando in modo molto rapido e i lavori stanno cambiando a una velocità incredibile. Alcuni scompaiono o sono destinati a trasformarsi; altri richiederanno competenze nuove e molto specifiche. I cittadini devono essere messi nelle condizioni di capire che cosa sta succedendo, quali siano i pregi e i difetti dell’intelligenza artificiale e come utilizzarla per ottenere i maggiori benefici possibili. Questo implica ripensare anche il welfare per chi perde il lavoro e, soprattutto, il sistema dell’istruzione. Non possiamo più pensare che una persona studi fino alla scuola dell’obbligo o all’università e che poi il percorso di apprendimento finisca. I cambiamenti sono radicali e rapidissimi. Mondo del lavoro e istruzione sono, a mio avviso, due questioni sottovalutate. Un altro problema è la concentrazione dell’intelligenza artificiale e della ricchezza che produce in pochissime mani. Ci sono grandi fortune che continuano a crescere mentre aziende tecnologiche licenziano lavoratori, compresi programmatori, e aumentano le attività che possono essere svolte dall’AI. Si pone quindi un problema sociale: come distribuire le enormi ricchezze generate da queste tecnologie? Allo stesso tempo esistono lavoratori impegnati nelle attività meno visibili e meno remunerate, per esempio in alcune fasi di fine tuning o di valutazione delle risposte dei sistemi. Poi c’è il grande allarme secondo cui l’intelligenza artificiale potrebbe addirittura distruggerci. Su questo, secondo me, c’è molta fantascienza e c’è anche un interesse economico delle grandi aziende a mantenere alta l’attenzione sulle potenzialità dell’AI. Anthropic e OpenAI, per esempio, hanno interesse a far parlare delle enormi potenzialità dei loro sistemi e anche a presentarsi come aziende attente al problema della sicurezza. Al momento considero risibile lo scenario in cui l’AI formuli autonomamente un piano per prendere possesso del mondo, schiavizzarci o sterminarci. Per uno scenario del genere sarebbe necessaria una forma di coscienza artificiale. Ma se la coscienza artificiale sia possibile, e a maggior ragione se sia prossima alla realizzazione, è uno dei dibattiti più controversi. Geoffrey Hinton, per esempio, sostiene che praticamente ci siamo arrivati, e David Chalmers ha formulato previsioni sulla possibilità di pervenire alla coscienza artificiale in un futuro relativamente vicino; altri, come Luciano Floridi, sostengono invece che la coscienza artificiale è di fatto irrealizzabile. E anche le teorie scientifiche della coscienza divergono profondamente: vanno citate, per esempio, quelle di Dehaene, Tononi, Dennett e Penrose, che sono estremamente diverse tra loro. Il problema è che non sappiamo ancora con chiarezza che cosa sia la coscienza umana e come emerga dal cervello. Per questo, oggi, lo scenario di una macchina cosciente che decida deliberatamente di sconfiggerci rimane, a mio avviso, fantascientifico. Ciò non significa che non esistano rischi enormi. L’AI è pervasiva, opera con sistemi probabilistici estremamente complessi e i suoi comportamenti possono essere difficili da prevedere. Inoltre non stiamo più parlando soltanto di large language models che rispondono a un prompt. Esiste l’agentic AI: sistemi che ricevono un compito, elaborano sottocompiti e possono prendere decisioni e agire di conseguenza. L’intelligenza artificiale è utilizzata nei sistemi finanziari, nelle università, nei sistemi statali e in quelli militari. Il rischio reale, quindi, è anche che qualcosa vada storto non perché la macchina “voglia” produrre un determinato danno, ma perché i suoi comportamenti non sono completamente prevedibili e possono diventare pericolosi.
Che cosa significa “saggezza pratica”
Che cosa significa applicare la saggezza pratica quando bisogna decidere se e come usare l’intelligenza artificiale?
Innanzitutto significa capire che l’AI non è infallibile, ma non lo siamo neanche noi. Dobbiamo avere un’idea realistica delle capacità e dei limiti dell’intelligenza artificiale e, nello stesso tempo, delle nostre capacità e dei nostri limiti. La psicologia ci ha insegnato che siamo più opachi a noi stessi di quanto ci piacerebbe pensare. Non è corretto immaginare da una parte esseri umani che sanno perfettamente che cosa fare e dall’altra un’AI pericolosa perché può sbagliare. Possiamo sbagliare entrambi. Dal punto di vista etico, inoltre, ogni situazione fa storia a sé. In alcuni casi una norma può incontrare un’eccezione perché è in gioco un bene considerato superiore. La capacità di riconoscere queste situazioni può essere allenata. Prendiamo una piccola azienda che debba affrontare problemi ambientali. Non sempre esiste una regola capace di specificare anticipatamente che cosa fare in ogni circostanza. Possiamo invece immaginare casi relativi all’inquinamento, al consumo dell’acqua, all’uso delle risorse o della potenza computazionale e addestrare i sistemi a distinguere comportamenti appropriati e comportamenti inappropriati. A quel punto nasce inevitabilmente un’altra domanda: quale etica dobbiamo insegnare? Le culture non hanno tutte gli stessi principi. Secondo me, però, dire semplicemente che “ognuno ha la propria etica” è una risposta insufficiente. Antropologia e sociologia ci mostrano anche quanto le culture abbiano in comune. Esistono certamente differenze, ma ci sono principi fondamentali sui quali possiamo trovare ampie convergenze. L’eguaglianza degli esseri umani, per esempio, non può essere abbandonata semplicemente dicendo che una determinata cultura la pensa diversamente. Lo stesso vale per la schiavitù o per la negazione dell’istruzione alle donne. Le differenze culturali esistono, e per quanto possibile vanno rispettate, ma questo non significa che dobbiamo considerare tutte le posizioni etiche ugualmente valide.
Perché principi, codici e checklist non sono sufficienti
Perché codici etici, principi e checklist, secondo lei, non bastano?
Perché contengono regole generali che, in alcuni casi, possono risultare inapplicabili o possono avere eccezioni. Soprattutto, non possono prevedere tutte le situazioni che si presentano sul campo. Per questo diventa fondamentale anche il modo in cui addestriamo i sistemi, compresa la fase di fine tuning quando li adattiamo a compiti specifici. Bisogna prepararli a riconoscere situazioni differenti. Pensiamo ai veicoli a guida autonoma. Si possono costruire casi nei quali una macchina debba scegliere un comportamento per evitare di investire delle persone. Nell’intervista ho citato anche discussioni riconducibili alla Corte costituzionale tedesca: situazioni nelle quali un veicolo potrebbe arrivare a dover deviare contro un ostacolo pur di non uccidere, per esempio, un gruppo di bambini. Bisogna pensare a queste situazioni e addestrare i sistemi a riconoscerle. L’intelligenza artificiale contemporanea funziona molto attraverso il riconoscimento di pattern. Naturalmente non possiamo presentare a una macchina tutti i casi possibili. Possiamo però presentargliene un numero sufficiente perché impari a riconoscere caratteristiche ricorrenti e moralmente rilevanti. In fondo qualcosa di simile accade anche nell’educazione dei bambini. Possiamo insegnare che, se una persona perde un portafoglio, bisogna restituirglielo. Ma anche una regola apparentemente semplice può avere eccezioni: se abbiamo appena visto quella persona rubare il portafoglio, la situazione cambia. La saggezza pratica dipende proprio dalla capacità di percepire le specificità morali delle situazioni, riconoscendo al tempo stesso le somiglianze tra casi diversi.
La saggezza pratica può essere insegnata?
La saggezza pratica può essere insegnata, oppure nasce soltanto dall’esperienza?
Deve esserci una forma di supervisione. Nell’apprendimento dell’intelligenza artificiale esistono modalità supervisionate e non supervisionate. I large language models, soprattutto nelle prime fasi, in buona parte si sono autoaddestrati su enormi quantità di contenuti disponibili online e hanno prodotto risposte probabilistiche. Senza successive correzioni, però, potevano commettere molti errori. Nella maggior parte dei casi sono dunque necessarie anche forme di supervisione umana. Se dobbiamo insegnare a un sistema, per esempio a un drone autonomo, quando un determinato comportamento possa essere considerato accettabile e quando no, dobbiamo presentargli molti casi e indicare le differenze. Questo è ancora più importante perché l’AI contemporanea può essere veloce, autonoma e opaca: spesso è difficile spiegare esattamente attraverso quale percorso interno un sistema sia arrivato a una conclusione o a un’azione. È il problema della cosiddetta explainable AI. Inoltre vediamo comportamenti che definirei creativi nei giochi, nella matematica e nell’arte. Con i sistemi di agentic AI stiamo concedendo ulteriore autonomia: non si limitano a rispondere ai prompt, ma possono decidere e agire in funzione di un obiettivo. Non possiamo pensare che imparino autonomamente l’etica più di quanto potremmo pensare che un bambino impari a comportarsi eticamente senza che nessuno glielo insegni.
Se l’AI provoca un danno, chi è responsabile?
Se una decisione presa con l’intelligenza artificiale danneggia qualcuno, chi ne risponde davvero?
È un problema molto difficile e non esiste una risposta univoca. Si parla di responsabilità condivisa. Può esserci una responsabilità del produttore, di chi ha costruito o venduto il sistema, dell’utente e, secondo me, quando il sistema è autonomo, bisogna cominciare a ragionare anche sul ruolo del sistema stesso. I gradi di responsabilità possono quindi essere diversi e distribuiti. Credo che siamo arrivati a un punto in cui dobbiamo riconoscere in qualche senso una componente di responsabilità anche ai sistemi autonomi. Naturalmente non significa attribuire loro una responsabilità identica a quella umana. Se non hanno coscienza e non hanno la capacità di soffrire, non sono “pazienti morali” e non avrebbe senso pensare a una punizione nel significato umano del termine. Non li mettiamo in prigione. Possiamo però intervenire sui sistemi: spegnerli se sono completamente inadeguati oppure correggerne i comportamenti. Contemporaneamente rimane la responsabilità di chi li utilizza. Pensiamo a un drone militare. Chi lo lancia sa che può produrre conseguenze sui civili. Se però la decisione finale di colpire viene lasciata autonomamente al sistema, entra in gioco anche il problema del comportamento della macchina, oltre a quello di chi l’ha prodotta e di chi l’ha impiegata. Qui entra in gioco l’Ethics by Design: dobbiamo costruire sistemi che, per quanto possibile, non siano in grado di compiere determinati comportamenti. In un sistema militare, per esempio, dovrebbe essere impedito un attacco in condizioni nelle quali il numero di civili coinvolti lo renda moralmente inaccettabile.
Che cosa significa mantenere un controllo umano significativo
Che cosa significa mantenere un controllo umano significativo sull’intelligenza artificiale?
Diventa sempre più complesso perché stiamo concedendo autonomia a questi sistemi. In parte ciò accade perché sono estremamente più veloci di noi in determinate operazioni. Dobbiamo però continuare a verificare e controllare quello che fanno. Un esempio che considero significativo è la matematica. Fino a poco tempo fa si diceva che l’AI non fosse in grado di comprendere veramente la matematica e che gli LLM commettessero anche errori di calcolo banali. Negli ultimi mesi, secondo me, la situazione è cambiata radicalmente. Cito un episodio molto recente relativo a [incerto: nome del matematico], indicato nell’intervista come un matematico di primissimo piano e Medaglia Fields. Raccontava di essersi trovato davanti a centinaia di paper e dimostrazioni matematiche pubblicati da OpenAI, relativi a centinaia di problemi. La sua reazione, per come l’ho riportata, è stata sostanzialmente questa: alcuni problemi sui quali pensava di lavorare per tutta la carriera erano improvvisamente stati risolti. Stiamo vedendo risultati che fino a poco tempo fa sembravano impensabili e sistemi diversi che cooperano per affrontare problemi matematici molto complessi. In proposito si può citare anche la soluzione di un problema di enorme rilevanza matematica, quello delle equazioni Navier-Stokes, uno dei cosiddetti “Millennium problems”. Quando dico che “la matematica come l’abbiamo conosciuta non esiste più” intendo che sta cambiando radicalmente l’attività di dimostrazione dei teoremi e, quindi, anche ciò che dovranno fare i matematici. Ho parlato anche con un collega che insegna al Caltech e il problema che mi poneva era proprio quale tipo di attività affidare in futuro ai dottorandi che vogliono occuparsi di matematica pura. Questo potrebbe verificarsi in altri ambiti scientifici.
Medicina: automazione e ruolo umano
In medicina stiamo assistendo a progressi enormi. Credo però che il medico continuerà ad avere un ruolo, anche se potrebbe trasformarsi profondamente. In futuro una parte importante del suo compito potrebbe essere mediare tra l’intelligenza artificiale e il paziente: spiegare la situazione, interpretarla e instaurare una relazione empatica. Ho citato, per esempio, un articolo sulle malattie rare. Secondo i dati che ricordavo, nel mondo vi sarebbero circa 300 milioni di persone affette da malattie rare e, nel campione preso in considerazione, le diagnosi corrette dei medici sarebbero state intorno al 20%, mentre quelle dell’AI avrebbero raggiunto circa l’80%. Sono numeri che mostrano, se confermati, quanto rapidamente possa cambiare il rapporto tra diagnostica umana e artificiale. Se l’AI arriva a formulare diagnosi più corrette, è ragionevole utilizzarla. Ma questo non elimina il ruolo umano del medico, soprattutto nell’interazione con il paziente. Oggi la situazione più diffusa rimane ancora quella della collaborazione. Non è però impossibile immaginare che, sul piano diagnostico, prognostico o terapeutico, l’intelligenza artificiale diventi progressivamente più importante. Nella ricerca e nello sviluppo di nuovi farmaci e terapie, del resto, l’AI ha già assunto un ruolo molto rilevante.
Quali decisioni non dovremmo delegare completamente
Quali decisioni non dovremmo delegare, anche se affidarle all’AI fosse più efficiente?
Un campo interessante è quello del diritto. Ho discusso recentemente di questi temi con alcuni giudici, in un incontro organizzato anche con il coinvolgimento di un giudice della Corte di Cassazione. In alcuni contesti l’intelligenza artificiale viene già utilizzata come supporto alle decisioni. Ho citato il caso della California e dell’impiego di sistemi algoritmici nelle decisioni sulla libertà condizionata. Si è visto che questi sistemi potevano incorporare bias: elementi come il contesto familiare, il gruppo etnico o la zona di provenienza potevano influire sulla valutazione del rischio di recidiva e quindi sulla probabilità di ottenere la libertà condizionata. È problematico perché il singolo individuo dovrebbe essere giudicato per il proprio caso concreto, non semplicemente tipizzato sulla base del gruppo al quale appartiene. Ma da questo non consegue automaticamente che l’essere umano sia sempre un decisore migliore. C’è infatti un altro studio, condotto su giudici chiamati a decidere sulla libertà condizionale, nel quale emergeva una forte variazione delle decisioni nel corso della giornata. Al mattino i giudici risultavano molto più favorevoli; avvicinandosi alla pausa, la percentuale delle decisioni favorevoli diminuiva drasticamente, per poi risalire dopo la pausa. Anche gli esseri umani, quindi, hanno bias. Possono dipendere non soltanto dalle persone che stanno giudicando, ma anche dal proprio stato fisico o mentale. La soluzione migliore potrebbe essere una collaborazione. Un sistema artificiale può segnalare a un giudice che le sue decisioni stanno diventando incoerenti nel corso della giornata. Allo stesso tempo il bravo giudice può comprendere le peculiarità di una singola persona che una classificazione statistica rischia di perdere. Almeno per ora, gli esseri umani possono essere più capaci di non tipizzare e di guardare al caso singolo. Questo è un esempio nel quale, a mio avviso, bisogna continuare a usare insieme giudizio umano e giudizio artificiale.
Anche la scuola deve cambiare
Lo stesso vale per l’insegnamento. È evidente che oggi si possa imparare molto attraverso l’intelligenza artificiale. Gli studenti la utilizzano per fare domande, per raccogliere informazioni e anche per farsi scrivere temi o paper. Ma il contatto con un docente umano rimane importante. Questo significa, però, che anche gli insegnanti devono studiare e capire come funziona l’AI, come utilizzarla e come viene utilizzata dai ragazzi. Non possiamo continuare a insegnare come si insegnava dieci anni fa, e nemmeno cinque anni fa. È cambiato tutto. La scuola dovrebbe essere il luogo nel quale insegniamo ai ragazzi e alle ragazze a usare l’intelligenza artificiale per trarne i maggiori benefici.
La carenza principale nelle aziende è capire che cosa sia davvero l’AI
Qual è la carenza più grave nel modo in cui aziende e professionisti affrontano l’etica dell’intelligenza artificiale?
Secondo me il problema principale è che manca ancora una sufficiente consapevolezza di che cosa siano questi sistemi. Continuo a sentire dire che l’intelligenza artificiale, in fondo, “fa quello che le diciamo”. Ma non è più una rappresentazione adeguata dei sistemi contemporanei. Ho citato i risultati ottenuti in matematica, i sistemi capaci di produrre strategie originali negli scacchi o nel Go e alcune produzioni artistiche. Ho ricordato anche il caso di un romanzo che ha recentemente generato un’asta tra importanti editori statunitensi e ottenuto un contratto molto rilevante prima che emergesse che era stato scritto dall’IA. Secondo me, in un certo senso si può giù parlare di creatività dell’intelligenza artificiale, nel bene e nel male, anche se ovviamente non possiamo attribuirle volontà, intenzioni o desideri. Alla nuova AI possiamo assegnare un obiettivo, ma il sistema può costruire sottobiettivi che il programmatore umano non aveva previsto. Esistono algoritmi che producono altri algoritmi e comportamenti che non erano stati esplicitamente programmati. Bisogna conoscere queste caratteristiche se vogliamo prendere decisioni responsabili.
Privacy, autonomia e sicurezza: le competenze etiche necessarie
Quali competenze etiche dovrebbe possedere chiunque utilizzi l’intelligenza artificiale nel proprio lavoro?
Dovrebbe innanzitutto sapere quali problemi possono sorgere quando deleghiamo all’intelligenza artificiale giudizi e decisioni. C’è il rischio di violare la privacy. Pensiamo alle aziende che utilizzano i dati dei propri clienti: esistono limiti oltre i quali non si dovrebbe andare nell’uso dei dati personali. C’è poi il problema dell’autonomia delle persone. Noi stessi prendiamo spesso decisioni senza essere pienamente consapevoli delle ragioni che ci condizionano. Ci illudiamo di sapere perché decidiamo una determinata cosa, ma in realtà siamo, almeno in parte, opachi a noi stessi. La pubblicità funziona proprio facendo leva su questi meccanismi. L’intelligenza artificiale può sfruttare questa nostra opacità in maniera estremamente potente e condizionarci in modi che possono superare i limiti del lecito o del moralmente accettabile. Ci sono poi problemi di sostenibilità, anche economica, e il crescente divario tra chi conosce questi strumenti e chi non li conosce. Questo divario è destinato, secondo me, ad aggravarsi. Non dobbiamo tutti diventare specialisti capaci di entrare nel dettaglio di una rete neurale artificiale. Ma dobbiamo capire che cos’è l’AI, come si comporta, quali sono le sue prerogative, quali i suoi limiti e quali effetti può produrre. E dobbiamo capire come utilizzarla senza violare diritti fondamentali come privacy, autodeterminazione e sicurezza.
Una decisione legale può essere comunque ingiusta
Una decisione conforme alla legge può essere comunque ingiusta?
Certamente. Esistono comportamenti eticamente scorretti che non sono necessariamente vietati dalla legge. Posso, per esempio, formulare affermazioni scorrette su una persona senza nominarla esplicitamente, facendo però capire a tutti di chi sto parlando. Potremmo trovarci davanti a un comportamento moralmente censurabile anche se non integra necessariamente un illecito. Lo spazio dell’immoralità è molto più vasto dello spazio dell’illegalità. Di solito ciò che è illegale è anche immorale, ma non vale sempre il contrario. Un tema particolare è poi quello della responsabilità oggettiva: possono esistere forme di responsabilità legale anche quando non è possibile attribuire al soggetto una responsabilità morale nel senso ordinario. Ho fatto l’esempio di una società sportiva che può essere chiamata a rispondere del comportamento di un tifoso, oppure di un incidente prodotto da un veicolo autonomo nel quale possano entrare in gioco forme di responsabilità anche in assenza della possibilità concreta di prevedere l’evento. Rispetto all’intelligenza artificiale è quindi importante capire che rispettare la legge non esaurisce il problema etico. Lo abbiamo già visto anche sul terreno ambientale. Prima dell’introduzione di determinate norme, alcune aziende sceglievano di ridurre l’inquinamento pur non essendo obbligate dalla legge, anche perché questo migliorava la loro immagine. Qualcosa di simile potrà accadere con l’AI.
Formare il giudizio attraverso i casi concreti
Come si allena il giudizio etico senza trasformare la formazione in una lezione astratta? Penso, per esempio, alle aziende.
Nelle aziende bisogna lavorare sui casi. Prendiamo una banca o un’assicurazione. L’ideale è preparare un insieme di situazioni nelle quali il sistema debba prendere una decisione e chiedersi come dovrebbe comportarsi. Se l’unico obiettivo assegnato alla macchina fosse massimizzare il profitto, potrebbe arrivare a decisioni ingiuste. Per esempio, potrebbe concedere un prestito garantito dalla casa a una persona che con grande probabilità non riuscirà a ripagarlo e finirà per perdere l’abitazione. Un bravo professionista umano può riconoscere una situazione di estrema debolezza della persona che ha davanti. Se quella funzione viene trasferita all’intelligenza artificiale, dovremo cercare di mettere anche il sistema nelle condizioni di riconoscere queste situazioni. Lo stesso problema si presenta con la profilazione: quanto possiamo utilizzare i dati di una persona per decidere se assicurarla, concederle un prestito o venderle un prodotto? E fino a che punto possiamo sfruttare una condizione di vantaggio nella vendita? Il marketing e il commercio conoscono da tempo forme molto sofisticate di influenza sul comportamento. Ho citato, per esempio, esperimenti secondo cui perfino il comfort della seduta sulla quale si trova un cliente potrebbe influenzare una trattativa commerciale. E ho ricordato una scena di un vecchio film con Danny DeVito nella quale un venditore conquistava la fiducia di donne anziane e sole facendo credere loro di avere trovato del denaro che in realtà aveva lasciato lui stesso per terra. Una volta ottenuta la fiducia, riusciva a vendere loro un prodotto di cui non avevano bisogno. È un esempio di comportamento manipolatorio. Se un sistema di intelligenza artificiale ha come unico obiettivo vendere, senza vincoli etici potrebbe individuare e utilizzare autonomamente tecniche di questo tipo. Bisogna quindi addestrarlo affinché non lo faccia.
Come formare le persone che devono controllare l’AI
Ma il giudizio etico deve essere esercitato anche dalle persone che controllano l’intelligenza artificiale. Come possiamo formarle senza ridurre tutto a lezioni troppo astratte?
Nelle imprese bisogna avere un approccio pragmatico. L’etica è fondamentale, ma bisogna riuscire anche a comunicarne il valore concreto. Possiamo guardare ancora una volta a quello che è successo sul terreno ambientale. Alcune aziende hanno scelto comportamenti meno inquinanti che potevano comportare costi economici maggiori, ma hanno ottenuto contemporaneamente un vantaggio in termini di reputazione. Credo che ci stiamo avvicinando a un momento nel quale poter dire “noi usiamo l’AI in modo etico” rappresenterà un plus per l’azienda, oltre a essere un comportamento moralmente apprezzabile. La seconda cosa da fare è organizzare corsi di aggiornamento per capire come funziona l’intelligenza artificiale. Se non sai che cosa sia un sistema e come funzioni, come puoi decidere in che modo addestrarlo o controllarlo? Il terzo passaggio consiste nell’individuare, settore per settore e caso per caso, le situazioni che il sistema deve imparare a discernere e le cose che può o non può fare. Con i grandi LLM non possiamo pensare che una singola azienda possa intervenire direttamente sull’intero modello. Ma i sistemi più piccoli e dedicati, che potranno diffondersi sempre di più nelle imprese, possono essere orientati verso determinati comportamenti. Credo quindi che vedremo diffondersi maggiormente comitati etici, educazione etica e attività di formazione. Anche nelle piccole imprese servono corsi di aggiornamento: l’intelligenza artificiale di oggi è profondamente diversa da quella di due anni fa. Occorre poi, eventualmente con l’aiuto di persone competenti, individuare gli ambiti specifici che ogni organizzazione deve saper affrontare quando utilizza sistemi di AI.
Tre indicazioni: una decisione, una competenza, una pratica
Per concludere, tre indicazioni concrete. Qual è una decisione che non dovremmo delegare all’intelligenza artificiale? Quale competenza dovremmo sviluppare? E quale pratica dovrebbe introdurre ogni organizzazione?
La decisione che mi preoccupa di più è quella relativa all’uso delle armi nucleari. Spero che non si arrivi mai a un sistema nel quale l’intelligenza artificiale possa decidere autonomamente. Anzi, auspico una forma di interazione tra AI ed esseri umani nella quale non possa decidere autonomamente né la macchina né un singolo essere umano. Anche gli esseri umani possono prendere decisioni terribili. Nel campo militare, quindi, il controllo sull’AI deve essere particolarmente rigoroso. Quanto alla competenza, parlerei soprattutto di una metacompetenza: dobbiamo capire che questi sistemi cambiano a una velocità incredibile e che quello che abbiamo imparato oggi potrebbe non essere sufficiente domani. La prima competenza è capire che dobbiamo continuare ad aggiornarci. Abbiamo visto opinioni sull’incapacità dell’AI di fare matematica essere superate, secondo me, nel giro di pochi mesi. Una trasformazione simile può verificarsi in molti altri ambiti. La pratica organizzativa che introdurrei è quindi l’aggiornamento continuo. Credo che almeno una volta all’anno le aziende dovrebbero informarsi e informare i propri dipendenti su che cosa sta accadendo nell’intelligenza artificiale nel proprio settore. Più in generale, sarebbe auspicabile che tutti i cittadini comprendessero come si sta trasformando l’AI. Questo, secondo me, è anche un compito dello Stato. L’intelligenza artificiale sta diventando straordinariamente pervasiva, autonoma e potente. I cittadini che non capiscono cosa sta succedendo rischiano di diventare cittadini di serie B.
Giudicare il risultato o il percorso?
Ultima domanda: dal punto di vista etico, come si valuta la capacità di giudicare? Dalla decisione presa o dal percorso seguito per arrivarci?
Servono entrambe le cose. Possiamo prendere una decisione giusta per una ragione sbagliata oppure una decisione sbagliata per una ragione giusta. Pensiamo alla medicina. Posso formulare casualmente una diagnosi corretta perché attribuisco a un determinato sintomo un significato che normalmente non ha. In quel caso il risultato è giusto, ma il procedimento utilizzato per arrivarci è sbagliato. Viceversa, una persona può seguire tutti i passaggi ragionevoli per arrivare a una decisione e, per ragioni che dipendono dalla complessità del mondo, giungere comunque a un risultato sbagliato. Anche nell’etica bisogna quindi fare entrambe le cose: ragionare nel miglior modo possibile e, nello stesso tempo, valutare se la scelta alla quale siamo arrivati sia effettivamente quella giusta.
