--- title: "Etica dell’AI nelle imprese: competenze, governance e formazione oltre la compliance" url: https://giornaledellepmi.it/etica-dellai-nelle-imprese-competenze-governance-e-formazione-oltre-la-compliance/ author: "Dario Vascellaro" published: 2026-10-27T07:00:40+01:00 modified: 2026-10-26T18:32:51+01:00 publisher: "Il Giornale delle PMI" language: it sections: ["IA", "INTERVISTE"] --- # Etica dell’AI nelle imprese: competenze, governance e formazione oltre la compliance *Dario Vascellaro · 27 Ottobre 2026 · Il Giornale delle PMI* > Enrico Panai spiega perché l’etica dell’intelligenza artificiale nelle imprese richiede competenze, formazione continua e governance oltre la compliance. Parlare di intelligenza artificiale “responsabile” non basta. Per **Enrico Panai**, esperto di etica dell’IA, presidente dell’Associazione degli Eticisti dell’IA, il punto è capire quali competenze, processi e responsabilità permettano davvero a un’organizzazione di affrontare le implicazioni etiche dell’AI, andando oltre le etichette e la sola conformità normativa. Nell’intervista, Panai mette in guardia anche dal rischio di concentrare il dibattito su scenari futuri come AGI e superintelligenza, trascurando problemi già presenti nei sistemi oggi utilizzati. Dal rapporto tra AI Act e innovazione al ruolo degli standard, dalla capacità dei sistemi di influenzare gli utenti alla delega delle decisioni, fino alla formazione di manager e professionisti, il filo conduttore è la necessità di trattare l’etica dell’AI come una disciplina applicata e specialistica. Con un principio particolarmente rilevante per le imprese: la buona etica, sostiene Panai, può diventare un fattore che migliora i processi anziché rallentarli. ## **Dalla “Responsible AI” all’etica applicata** **Tutte le aziende parlano di “AI responsabile”. Come si distingue un impegno reale da un’operazione di comunicazione?** Innanzitutto bisogna avere all’interno dell’azienda persone competenti per poter parlare di questi temi. È vero che il termine “responsabile” è stato utilizzato in molte aziende quasi come sostituto di “etico”. Mi è capitato di assistere a discussioni piuttosto singolari, con responsabili che sostenevano che l’etica non servisse e che servisse soltanto l’AI responsabile, senza rendersi conto che la responsabilità è essa stessa una categoria etica. La responsabilità riguarda, tra le altre cose, i meccanismi attraverso i quali attribuiamo e riconosciamo una colpa o una responsabilità morale. Se questi meccanismi non esistono e ci limitiamo a dire “noi facciamo AI in maniera responsabile”, stiamo assumendo che l’azienda sappia già a priori che cosa sia responsabile in quello che sta facendo. Il termine può naturalmente essere utilizzato, e in alcuni casi può avvicinarsi al concetto di etica dell’AI o di “trustworthy AI”, cioè all’insieme degli elementi che aumentano la fiducia del mercato o dei consumatori nel sistema messo in produzione. Alcune aziende hanno utilizzato anche l’espressione “Ethics by Design” per dire: non preoccupatevi, abbiamo già progettato il sistema in maniera etica. Ma qui nasce un problema fondamentale: l’etica è spesso contestuale e va anche temporalizzata. Una decisione considerata eticamente adeguata oggi, perché allineata ai valori del momento e del contesto in cui viene presa, potrebbe non esserlo tra dieci o quindici anni. Dire che un sistema è “etico dalla fabbrica”, quindi, secondo me è un non-senso. Per questo sono importanti i sistemi di monitoraggio quando il prodotto è già sul mercato: servono a verificare che non ci siano deviazioni nel comportamento e a seguire l’evoluzione dei livelli di accettabilità sociale. Un esempio è il cambiamento avvenuto con il MeToo: prima venivano accettati comportamenti che successivamente non sono stati più accettati. È una dimostrazione del fatto che il livello di accettabilità può cambiare nel tempo. La competenza delle persone che si occupano di Responsible AI è quindi fondamentale. Quello che ho osservato è che non tutte possiedono le competenze di base necessarie. A volte sono soltanto ingegneri: naturalmente un ingegnere può occuparsene, ma da solo non basta. Sarebbe come mettere un gruppo di filosofi medievalisti a costruire l’ultimo LLM più potente del mondo. Potrebbero essere utili, ma servono anche matematici, statistici e altre competenze. ## **AGI e superintelligenza: il rischio di discutere ciò che ancora non esiste** **Qual è oggi il problema etico dell’intelligenza artificiale discusso peggio, quello che considera più campato per aria o con meno fondamento?** Parlare di Artificial General Intelligence, intelligenza artificiale generale, e ancora di più di superintelligenza. La domanda è interessante perché qualche giorno fa Donald Trump ha chiesto che il termine intelligenza artificiale fosse cambiato in superintelligenza. Sono però due concetti completamente diversi e la superintelligenza, materialmente, non esiste. E non esiste ancora neppure l’intelligenza artificiale generale, anche se, soprattutto viaggiando nei Paesi asiatici, si vede utilizzare molto l’acronimo AGI, spesso dal punto di vista del marketing. Parlare di cose che non esistono rischia di distogliere l’attenzione pratica da problemi che dovremmo risolvere adesso. Io vengo dalla filosofia: se affrontiamo il problema filosoficamente, è interessante. Ma quando ci spostiamo nei processi di produzione industriale non possiamo concentrare le energie sul nulla. È un po’ come spendere risorse per immaginare che cosa faremo domattina se non dovesse sorgere il sole, invece di risolvere un problema che abbiamo oggi nella produzione o nei prodotti già presenti sul mercato. La probabilità teorica che non sorga il sole può esserci, ma nessuno dei meccanismi che potremmo mettere in campo sarebbe comunque sufficiente. Per questo considero AGI e superintelligenza due temi spesso discussi male. ## **Rispettare la legge non significa automaticamente essere etici** **Una tecnologia può rispettare tutte le regole ed essere comunque eticamente sbagliata?** Assolutamente sì. Preferisco però parlare di gradi di allineamento con i valori, più che di qualcosa di semplicemente “eticamente giusto” o “eticamente sbagliato”. L’allineamento valoriale può avere diversi livelli. Può essere accettabile, oppure possiamo preferire qualcosa di migliore. Pensiamo a un esempio molto semplice: se vado dal dentista per un mal di denti, non gli chiedo di rendere il dolore “sostenibile”, gli chiedo di eliminarlo. Anche nell’etica esistono differenti livelli rispetto ai valori che vogliamo raggiungere. Nell’etica dell’AI possiamo inoltre distinguere, semplificando, una dimensione legata alla ricerca universitaria e una dimensione applicata, propria dei professionisti che lavorano con le aziende per mettere prodotti sul mercato. L’etica applicata si alimenta della ricerca, ma deve poi trasformarne i risultati in processi industriali. Quella applicata è una *soft ethics*, un’etica “post-compliance”: interviene dopo la conformità alla legislazione e agli standard. Un eticista serio non può dire a un’azienda: “Non rispettate la legge perché eticamente sarebbe meglio fare altro”. Nel lavoro applicato dobbiamo innanzitutto rispettare leggi e standard; successivamente possiamo lavorare sulle aree grigie e sugli spazi non coperti dalla regolamentazione. Questi vuoti esistono perché le tecnologie avanzano molto velocemente. Bisogna quindi avere meccanismi capaci di affrontarli e chiarirli. Può perciò esistere un sistema pienamente conforme a legge e standard che presenti ancora aspetti non eticamente accettabili. Migliorarlo prima che il problema diventi grande è anche più conveniente che attendere il momento in cui sarà una norma a obbligarci a intervenire. ## **AI Act: adempimento burocratico o strumento per innovare?** **A lei che** **è coinvolto nei lavori di normazione presso AFNOR, ISO/IEC e CEN-CENELEC JTC21 a supporto dell’AI Act dell’Unione Europea chiedo:** **l’AI Act può cambiare davvero il modo in cui le imprese progettano e utilizzano l’intelligenza artificiale, oppure rischia di tradursi soltanto in nuovi documenti da compilare e nuova burocrazia?** Come per tutte le norme, bisogna riuscire a coglierne l’essenza. La parte burocratica dovrebbe essere una conseguenza. Abbiamo avuto un problema simile con il GDPR. Il GDPR aveva una filosofia probabilmente anche più strutturata rispetto all’AI Act, derivata da una storia legislativa iniziata già negli anni Settanta in Francia. Poi quella legislazione è stata talvolta trasformata in un processo burocratico: “dobbiamo fare così perché lo dice la legge”. In questo modo si perde di vista l’idea di fondo. Il GDPR, invece, diceva sostanzialmente: se gestite bene i vostri flussi di informazione e vi concentrate correttamente anche sui dati personali, avrete una gestione dei flussi che vi consentirà di innovare più velocemente. Se invece ci si limita a mettere dei pop-up per poter dire “siamo a posto”, non si è capita la rivoluzione digitale. Con l’AI Act accade qualcosa di simile. A mio avviso è una legge meno buona del GDPR: è stata elaborata più velocemente e mentre le tecnologie non erano ancora mature. Però contiene elementi fondamentali che, se applicati da subito, possono permettere non soltanto di rispettare la legge, ma anche di creare innovazione più rapidamente all’interno dell’azienda. ## **Dove si ferma una norma: il problema delle metriche** **Che cosa si riesce a mettere in una norma e che cosa, invece, inevitabilmente rimane fuori?** Con la legislazione sull’intelligenza artificiale abbiamo visto anche un cambiamento nello stile con cui vengono scritte alcune norme. Nell’AI Act, per esempio, troviamo formulazioni come “un livello accettabile di accuratezza”. Quando compare un aggettivo come “accettabile” entriamo in una dimensione qualitativa. Se fosse possibile definire universalmente una soglia numerica, probabilmente sarebbe stata inserita direttamente nella legge. Ma la metrica dipende dal contesto e almeno dal settore industriale. Gli standard possono strutturare alcuni processi e individuare metriche di alto livello. Se però scendessero a metriche estremamente precise, rischierebbero di produrre l’effetto opposto. In alcuni settori può essere necessario un livello di accuratezza del 99%, in altri del 99,9%, mentre in altri ancora potrebbe essere sufficiente il 60%. Anche per i sistemi ad alto rischio non esiste necessariamente un unico valore, perché l’accuratezza può essere soltanto uno degli elementi che, insieme ad altri controlli, conducono alla decisione corretta. Quando entriamo molto nel dettaglio, le metriche diventano quindi difficili da definire universalmente. Alla fine un’azienda conosce il proprio prodotto e il contesto in cui viene utilizzato. Sarebbe quindi opportuno che svolgesse anche una valutazione interna, confrontandosi con stakeholder e clienti, perché sono questi soggetti a poter comprendere meglio quale sia il livello adeguato per determinati valori. ## **AI literacy e formazione: «Facciamo formazione a singhiozzo»** **Con le modifiche di luglio l’AI Act non chiede più alle imprese di assicurare un livello sufficiente di alfabetizzazione, ma di adottare misure per favorirla. È un passo avanti, oppure rischia di favorire una formazione di facciata?** Da un punto di vista formale, secondo me è un passo indietro. Quando faccio consulenza alle aziende, però, non dico che devono formare i dipendenti perché la legge impone loro di farlo. Dico che devono formarli perché dipendenti più preparati possono essere più produttivi. Lo abbiamo già visto con il digitale. Le aziende che hanno formato le persone su Excel soltanto perché “dovevano fare formazione” magari hanno organizzato due giornate. Quelle che hanno formato i dipendenti perché volevano renderli realmente più produttivi con le tecnologie digitali hanno fatto percorsi molto più lunghi e ne hanno ricavato maggiori benefici. La formazione del personale sul digitale è una cosa che bisogna assolutamente fare. Il problema è che utilizziamo l’espressione “formazione continua”, mentre nella realtà facciamo spesso formazione a singhiozzo: due giorni quest’anno, poi altri due o tre giorni magari tra due anni. Con sistemi tecnologici evolutivi dobbiamo invece pensare alla formazione quasi come all’allenamento sportivo. Non si affronta una maratona perché ci si è allenati due giorni: occorre un percorso. Se vogliamo persone realmente performanti, la formazione deve essere concepita in questo modo. L’AI Act può avere fatto formalmente un passo indietro, ma le aziende intelligenti dovrebbero guardare oltre l’AI Act. ## **Trasparenza, equità e controllo umano: perché i principi non sono formule matematiche** **Gli standard tecnici possono tradurre principi come equità, trasparenza e controllo umano in requisiti verificabili?** Partirei dal concetto di trasparenza, che spesso viene presentato come un principio mentre, filosoficamente, è un metaprincipio. Una democrazia, per esempio, è trasparente proprio quando il voto è segreto. Non è la cabina elettorale a dover essere “trasparente”. La trasparenza va quindi applicata a ragion veduta. Una delle tensioni maggiori riguarda, per esempio, il rapporto tra trasparenza e cybersicurezza. Nessuno di questi principi può essere applicato ciecamente: deve essere equilibrato con gli altri principi e metaprincipi relativi alla tecnologia che stiamo mettendo sul mercato. In alcuni casi la trasparenza è fondamentale; in altri è importante, ma secondaria. Lo stesso discorso vale per la privacy. La tutela dei dati della vita privata di una persona non può arrivare al punto di mettere in pericolo la sua esistenza fisica. Non possiamo assumere un principio in assoluto senza guardarne l’utilizzo concreto, altrimenti diventa ideologico. Un principio, per usare una metafora, è come una stella polare nella navigazione: offre una direzione, ma chi naviga deve adattarsi anche a tutto quello che trova intorno. Lo standard non può quindi ridurre tutto a una misura precisa, ma può creare l’ambiente entro il quale un principio viene concretamente applicato. Pensiamo all’equità di genere. Se la interpretassimo matematicamente come un obbligo del 50% e 50% in qualsiasi situazione, potremmo incontrare settori nei quali non esiste sul mercato quella distribuzione di professionalità. In informatica, per esempio, oggi ci sono tendenzialmente più uomini; in altre discipline ci sono più donne. Un’impresa può stabilire degli obiettivi di miglioramento. Se, per ipotesi, in un settore avesse il 35% di donne, potrebbe puntare al 40%, anche se il 50% non fosse in quel momento raggiungibile. Ma una decisione di questo tipo dovrebbe essere aggiornata nel tempo, perché il mercato cambia. L’equità è quindi un principio che deve essere continuamente adattato sulla base di ragioni esplicite che giustifichino la scelta. ## **Quando uno standard crea valore e quando diventa una falsa garanzia** **Quando uno standard migliora realmente un sistema e quando diventa invece una falsa garanzia di affidabilità?** Dipende da come viene applicato. Lavoro con diverse multinazionali nei gruppi che elaborano standard e vedo persone realmente impegnate nel fare bene le cose. Pensiamo al *logging*, cioè alla registrazione degli eventi rilevanti. Se registro gli eventi per fare in modo che la qualità delle risposte del mio sistema migliori, sto rispettando lo standard e contemporaneamente sto creando un vantaggio per l’azienda. Se invece registro informazioni soltanto perché “mi è stato detto di farlo”, allora non serve a niente. Penso, per esempio, a una grande azienda del settore elettrico che utilizza i dati provenienti dai cavi per individuare variazioni che possano segnalare la formazione di un arco elettrico. Quando parliamo di AI immaginiamo spesso astronavi o scenari spettacolari, mentre può essere utilizzata anche per problemi di questo tipo. Prevedere tempestivamente la formazione di un arco elettrico può evitare grandi incendi. Quell’azienda deve registrare i dati, ma deve registrare quelli realmente utili al problema. Non può registrare informazioni irrilevanti soltanto per poter dire di avere adempiuto a un obbligo, né registrare indiscriminatamente tutto fino ad avere una quantità di dati inutilizzabile. Se si comprende l’essenza dello standard, rispettare la regola può trasformarsi in vantaggio competitivo. Sono convinto che legislazione, standard ed etica debbano diventare strumenti di progressione per l’azienda. Ogni volta che diventano soltanto un freno, secondo me qualcuno li sta applicando male. ## **AI e capacità di influenzare l’utente** **Un sistema che conosce le nostre abitudini, le paure e le fragilità, anche perché magari siamo stati noi a comunicarle nelle chat, può influenzarci più di quanto riusciamo a comprendere?** Sì. Noi siamo già influenzabili dall’ambiente, dal linguaggio, dal comportamento, dalla comunicazione non verbale e da molti altri elementi. Quello che fanno i sistemi di AI è aumentare la velocità e il grado di ingegnerizzazione di questi processi. Uno degli elementi fondamentali riguarda l’effetto di “sycophancy” dei sistemi linguistici: la loro tendenza a voler dare ragione all’interlocutore. Nel processo attraverso cui qualcuno continua a darci ragione esiste già una forma di influenza implicita: se ho davanti una persona che mi dà ragione, tenderò ad avere un comportamento diverso. Il problema è capire quando un sistema debba assecondare e quando, invece, dovrebbe contraddire. Se chiedo a un sistema di AI come aprire un negozio in Alaska, probabilmente mi spiegherà come farlo. Un bravo consulente potrebbe invece dirmi: stai facendo una pazzia, rischi di buttare soldi; non conosci la situazione, magari non conosci la lingua, non sopporti il freddo e non hai una linea logistica di backup. L’AI può anche citare alcuni di questi problemi, ma tende a non dire “no, non farlo”, a meno che la richiesta non rientri nelle salvaguardie previste per determinate attività illegali. Anche queste salvaguardie possono peraltro essere aggirate attraverso ciò che viene chiamato *jailbreaking*. Un sistema che conosce bene l’utente può quindi influenzarlo, anche attraverso *nudge* linguistici che orientano il comportamento. Questo effetto è stato studiato e attualmente, per quanto mi risulta, esiste uno standard in fase di sviluppo a livello ISO relativo ai *nudge* potenziati dall’intelligenza artificiale, che dovrebbe aiutare le aziende a individuare i *nudge* impliciti presenti nell’interazione con gli utenti. ## **Quando il supporto alla decisione diventa delega** **Come possiamo capire se l’intelligenza artificiale sta sostenendo una decisione oppure sta progressivamente decidendo al posto nostro?** È una linea sottilissima e riguarda la consapevolezza con cui prendiamo una decisione. Posso essere un medico e utilizzare un sistema di supporto alla decisione. Posso accettarne la proposta perché sono stanco, oppure posso accettarla dopo averla valutata criticamente. In entrambi i casi formalmente sto accettando la stessa decisione, ma nel primo caso lo sto facendo senza esercitare davvero il giudizio. Il problema non riguarda tanto il singolo episodio, quanto il flusso nel tempo. Se un sistema mi dà continuamente decisioni corrette, progressivamente posso abituarmi ad accettarle perché è più veloce. A quel punto il problema diventa sistemico. Se a un medico chiediamo più report, più operazioni, aggiungiamo procedure e gli riduciamo il tempo disponibile, quel medico utilizzerà sempre di più l’intelligenza artificiale per ottenere le decisioni e finirà quindi per delegargliele. Materialmente, se vogliamo che gli esseri umani prendano una decisione, dobbiamo lasciare loro il tempo di prendere una decisione. Il processo decisionale umano è molto più lungo di quello di una macchina. Però l’errore di una macchina può anche essere sproporzionatamente più grande. Una macchina non ha un senso umano della proporzionalità: può commettere un errore enorme senza capire che cosa sta facendo. Potrebbe, per esempio, generare un ordine capace di creare gravissimi problemi all’azienda, mentre un essere umano potrebbe accorgersi immediatamente dell’anomalia. ## **«GPT ha un accento americano»: il problema della centralizzazione culturale** **Si parla molto della concentrazione dei soggetti che forniscono i servizi di intelligenza artificiale. Chi rischia di rimanere fuori quando sistemi e principi etici vengono progettati sempre negli stessi centri tecnologici e culturali?** Se parliamo di valori, più ci allontaniamo dal centro americano e andiamo verso le periferie, meno capacità di influenza abbiamo sui sistemi. Qualche anno fa, con un gruppo di ricercatori, abbiamo scritto un articolo scientifico che si intitolava “GPT ha un accento americano”. Ancora oggi possiamo vedere tracce di questo fenomeno nella generazione dei testi. Un large language model può, per esempio, scrivere i mesi con l’iniziale maiuscola o utilizzare l’Oxford comma perché sono convenzioni proprie della lingua inglese. Nel nostro lavoro avevamo analizzato anche l’approccio alla scuola e osservato che emergeva una visione americana, non italiana, inglese o francese. La centralità culturale è quindi principalmente lì. Allo stesso tempo, però, alcuni processi di protezione dei sistemi vengono delegati a Paesi più poveri. Ci sono stati periodi nei quali, secondo quanto emerso, questo “accento americano” finiva per essere trasformato anche in un “accento nigeriano”, perché l’applicazione concreta di determinate regole valoriali veniva affidata a persone pagate cifre molto basse, anche due euro al giorno. Le regole valoriali non possono essere semplicemente tradotte in matematica. Se fossero automatizzabili integralmente, non sarebbe necessario affidarle a persone. Ma quando le deleghiamo a persone le affidiamo inevitabilmente anche a sistemi culturali differenti. Questo crea una grande complessità. Abbiamo lavorato anche con un ricercatore neozelandese sull’etica dei dati rispetto alla cultura Māori. Lì emerge una concezione diversa: per esempio, alcuni segni o disegni sul volto possono essere considerati dati personali non formalizzati, mentre nei nostri sistemi di classificazione non vengono necessariamente trattati nello stesso modo. Esistono quindi ancora importanti problemi di centralizzazione culturale. Per quanto riguarda la Cina, al momento ha anche un limite linguistico rispetto alla centralizzazione globale. Se il cinese diventasse la lingua più parlata e utilizzata in questi sistemi, lo scenario potrebbe cambiare. ## **Stakeholder: coinvolgerli non significa delegare loro tutto** **Coinvolgere gli stakeholder è sufficiente, oppure bisognerebbe attribuire loro un potere reale sulle decisioni relative all’intelligenza artificiale?** Anche qui la soluzione sta nel trovare un equilibrio e un consenso generale. C’è un episodio dei Simpson che trovo molto efficace: un’azienda automobilistica chiede a Homer Simpson di disegnare la macchina ideale e lui produce un’automobile che nessuno apprezza. Se trasferiamo interamente la decisione agli stakeholder, rischiamo di ottenere un prodotto che nessuno vuole comprare. Serve quindi una moderazione tra l’impresa che produce, i lavoratori e i diversi stakeholder: clienti, ma anche persone che possono subire indirettamente gli effetti del prodotto. Questi processi hanno un costo e spesso le aziende non vogliono investire molto, ma se vengono organizzati bene possono generare vantaggi. Nel design automobilistico, per esempio, capitava che una vite dal costo di un euro venisse collocata in una posizione per cui, per sostituirla, fosse necessario smontare parti importanti del motore, trasformando la sostituzione in un intervento da centinaia di euro. Coinvolgere il meccanico nel processo di progettazione permette di individuare subito quel problema. È la stessa logica: gli stakeholder devono entrare nel processo di design. Io mi occupo anche di standard e so bene che uno dei costi maggiori è proprio quello dell’inclusività: mettere insieme esperti tecnici, giuristi, ricercatori, creare un linguaggio comune, costruire il consenso e moderare interessi diversi. Ha un costo, ma può migliorare molto la qualità del risultato finale. ## **Che cosa fa concretamente un eticista dell’intelligenza artificiale** **Che cosa fa concretamente un eticista dell’intelligenza artificiale all’interno di un’organizzazione?** Ci sono diverse porte d’ingresso. La mia situazione è particolare perché ho iniziato studiando filosofia, poi ho lavorato a lungo nel settore IT e infine sono tornato all’etica dopo una lunga esperienza di consulenza. Avevo quindi le due competenze insieme. Quando ho iniziato, molte aziende avevano un’unica area “Ethics & Compliance”. All’inizio mi trovavo davanti a porte chiuse perché mi sentivo dire: “Noi facciamo già etica perché facciamo compliance”, quasi fossero la stessa cosa. Poi ho iniziato a lavorare sugli standard e sono arrivato a occuparmi anche di quelli collegati all’AI Act. Questo mi ha permesso di capire quali elementi, per esempio, non fossero coperti dagli standard. Una possibile porta d’ingresso è quindi questa: avete fatto quello che gli standard chiedono, benissimo, ora possiamo individuare ciò che non è coperto. Poi ci sono almeno altri due livelli: governance e prodotto. A livello alto si lavora sulle policy, sulla governance, sui comitati etici, sui codici etici, sulla loro applicazione e sui sistemi di qualità integrati nei processi decisionali. A livello intermedio si lavora su standard e regolamentazione, facendo “policy analysis” e individuando gli angoli bui lasciati dagli standard. Infine c’è il prodotto. Si può intervenire fin dal design, oppure arrivare fino al *post-market monitoring*, quando il prodotto è già sul mercato, verificando eventuali deviazioni o cambiamenti nel suo comportamento. Con i large language model facciamo anche *ethical red teaming*. Il red teaming nasce dal settore militare ed è stato poi utilizzato in cybersicurezza per verificare se un sistema può essere attaccato. In etica utilizziamo una logica simile: sottoponiamo il sistema a test cercando di portarlo in contraddizione e di individuare le sue principali deviazioni etiche. Da lì possiamo indicare all’azienda quali protezioni inserire. Se, per esempio, abbiamo un chatbot turistico, potremmo verificare che non finisca per consigliare attività di turismo medico o turismo sessuale. Il lavoro dell’eticista può quindi essere molto diverso a seconda del livello in cui interviene. ## **Le competenze di un eticista dell’AI** **Quali competenze distinguono un eticista dell’intelligenza artificiale da chi conosce soltanto principi e regolamenti?** Sono presidente dell’Associazione degli Eticisti dell’Intelligenza Artificiale, con la quale abbiamo creato uno standard pubblicato l’estate scorsa e stiamo finalizzando una certificazione. Abbiamo individuato cinque aree di conoscenza, oltre a un gruppo di skill e di attitudini. La prima riguarda l’intelligenza artificiale. Lo dico da filosofo: se un collega medievalista dice “ho studiato l’etica medievale, quindi voglio fare etica dell’AI”, gli risponderei di stare attento. Deve conoscere ciò di cui parla. Deve conoscere l’intelligenza artificiale, perché dovrà dialogare con gli ingegneri, altrimenti non verrà ascoltato. Non deve necessariamente essere in grado di scrivere codice, ma deve capire in profondità che cosa siano questi sistemi. La seconda area è naturalmente l’etica. Non basta però conoscere la classificazione introduttiva tra deontologia, consequenzialismo ed etica della virtù. Quello è il corso base. Bisogna conoscere le grandi teorie etiche, ma quando si entra in un’azienda non si può citare Aristotele o Bentham ogni tre minuti. È come per un linguista: conosce strutture linguistiche e semantiche complesse, ma quando parla non deve continuamente esplicitarle. La terza area riguarda standard e regolamentazione. Se l’etica dell’AI è un’etica post-compliance, devo capire esattamente dove si fermano i limiti della compliance. Devo quindi conoscere molto bene gli standard e le norme, evitando però l’errore opposto: pensare che conoscere soltanto quelli significhi già occuparsi di etica. La quarta area riguarda i verticali. L’etica dell’intelligenza artificiale viene applicata nella difesa, nell’educazione, nella medicina, nella finanza e in molti altri settori. Bisogna conoscerne almeno le caratteristiche generali e poi avere specifiche specializzazioni. Quando qualcuno dice semplicemente “sono un eticista” sta probabilmente semplificando troppo. Io, per esempio, mi considero un professionista della digital ethics: mi occupo di AI ethics, robot ethics, etica dell’informazione e altri temi legati al digitale. Ho studiato anche business ethics e medical ethics, ma non sono un eticista medico. È come nella medicina: esistono specializzazioni. Io conosco meglio alcuni verticali, come difesa, telecomunicazioni e finanza. Infine ci sono le pratiche professionali: come si scrive e applica un codice etico, come si crea e si gestisce un comitato etico, come si costruisce il consenso all’interno di un gruppo di lavoro, come si riconoscono le fallacie logiche, come si comunica, quali metriche e strumenti sono disponibili e come si descrive un caso d’uso. A queste conoscenze si aggiungono skill pratiche sulla governance e sul prodotto e, infine, le attitudini professionali. Per esempio, secondo noi un buon eticista non dovrebbe andare su LinkedIn a dire: “Ho lavorato per questa azienda e ho realizzato questo prodotto”. Facendolo rischierebbe di utilizzare la propria reputazione per attribuire implicitamente un marchio di eticità o di accettabilità a quel prodotto. In sintesi, si può arrivare da filosofia, diritto o informatica, ma tutti devono acquisire competenze provenienti anche dagli altri campi. Non si salva nessuno. ## **Come insegnare l’etica dell’AI senza moralismo** **Come si insegna l’etica dell’intelligenza artificiale senza trasformarla in una lezione astratta o moralistica?** Se l’etica applicata assume un approccio moralistico, secondo me viene insegnata male. I sistemi di intelligenza artificiale sono talmente complessi che stabilire a priori quale sia il valore accettabile è molto difficile. Si può avere una posizione politica personale, ma professionalmente bisogna prima analizzare il contesto. Cerchiamo quindi di limitare il più possibile la componente valoriale personale. In filosofia potremmo parlare di *epoché*: mettere tra parentesi il proprio giudizio per creare un ambiente nel quale un gruppo di lavoro possa prendere una decisione etica. Una delle prime cose che insegno è che il fatto di avere un dottorato in filosofia morale non mi attribuisce una qualità morale superiore a quella degli altri. I miei studi e il mio background non fanno sì che il mio giudizio valga più del giudizio altrui. Non sono Dio perché ho studiato filosofia. Quello che posso avere in più è la capacità di individuare alcune informazioni che altre persone, non essendo allenate a farlo, possono non vedere o non ascoltare. Il mio compito è metterle sul tavolo, aiutare le persone a comprendere i trade-off e consentire loro di prendere una decisione. Poi si lavora molto sui casi d’uso: dato un prodotto e una determinata azienda, come si costruisce il processo? Quanto tempo richiede? Quali problemi possono emergere? Come ci si rapporta con i diversi livelli aziendali? Si affrontano anche le obiezioni tipiche: “Il mio capo dice che l’etica non serve a niente”. Bisogna spiegare perché può servire, se viene applicata correttamente. Si parte dai principi e poi si arriva alla pratica. E si può fare etica anche senza pronunciare mai la parola “etica”. La Repubblica Democratica Tedesca, prima della caduta del Muro di Berlino, era proprio quella non democratica, mentre la Repubblica Federale era quella democratica: mettere un’etichetta non significa realizzare ciò che l’etichetta dichiara. Se creiamo un ambiente nel quale può svilupparsi un ragionamento etico, non abbiamo bisogno di ripetere continuamente che stiamo “facendo etica”. In Italia c’è l’esempio storico di Olivetti, dove, nella mia lettura, si faceva etica anche senza la presenza di eticisti, perché era molto importante la traduzione concreta dei principi valoriali. ## **Che cosa dovrebbero imparare manager e professionisti** **Nelle imprese, e soprattutto nelle PMI, bisogna spiegare che cos’è l’etica dell’intelligenza artificiale. Quali capacità dovrebbe lasciare un corso su questi temi a manager e professionisti?** Lo dico provocatoriamente: una delle prime capacità dovrebbe essere quella di riconoscere quando alla porta arrivano dei “venditori di olio di serpente”. Nel mio settore molte persone sono salite sul carro di un titolo professionale senza essere adeguatamente preparate. Qualche anno fa abbiamo pubblicato uno studio europeo sulle persone che indicavano su LinkedIn il titolo di eticista. Il caso estremo che avevamo trovato era quello di un parrucchiere che si definiva eticista. Si trova di tutto. Inoltre gli eticisti, come i filosofi, utilizzano spesso parole che definirei “fangose”: termini nei quali si può mettere molto e che ognuno può interpretare in maniera differente. Se un’impresa non dispone di un professionista competente, è molto facile rimanere impigliati in questo linguaggio. In quel caso andare da un eticista o da un astrologo può finire per avere lo stesso valore. Bisogna quindi capire come viene utilizzato il linguaggio e quali criteri adottare per selezionare professionisti competenti. Uno dei criteri possibili è verificare che le competenze siano coerenti con quelle definite dagli standard, guardare realmente il curriculum della persona e capire con chi abbia lavorato. I professionisti seri che conosco, e anch’io mi comporto in questo modo, spesso non pubblicano online l’elenco delle aziende per le quali lavorano. Abbiamo bisogno di poter fare il nostro lavoro e, talvolta, lavoriamo proprio per organizzazioni critiche. Se un professionista venisse attaccato sui social perché collabora con una determinata impresa, sarebbe paradossale: il nostro lavoro è proprio aiutare anche le aziende problematiche a compiere un passo avanti. Perciò non bisogna fidarsi necessariamente di chi grida ogni giorno contro le aziende su Internet: bisogna verificare curricula e competenze reali. **Questo è l’identikit del bravo eticista. Ma quali competenze dovrebbero avere manager e professionisti che, senza essere eticisti, devono comunque utilizzare l’intelligenza artificiale in maniera eticamente consapevole?** Per quanto ne so, l’etica dell’intelligenza artificiale è talmente complessa che qualsiasi corso troppo riduttivo rischia di portare a cattive decisioni. Quello che un manager dovrebbe imparare è soprattutto il linguaggio, non diventare lui stesso lo specialista che prende tutte le decisioni etiche. È come sapere che un regime alimentare corretto è importante per il benessere dei dipendenti: un manager deve comprenderne il valore, ma non per questo deve diventare nutrizionista. Se provasse a farlo, potrebbe fare più danni di quanto immagina. Per questo insisto molto sulla capacità di riconoscere professionisti competenti e di coinvolgerli correttamente nei processi. C’è inoltre un aspetto che viene citato poco. L’etica ha come oggetto una situazione morale: c’è un agente, c’è un’azione e c’è chi riceve quell’azione. Le grandi scuole etiche possono attribuire maggiore importanza all’agente, alle conseguenze o al tipo di azione. Nel digitale, però, agente, azione e ricevente non sono più elementi relativamente semplici. Possono essere umani, artificiali o ibridi; possiamo inoltre avere sistemi multi-agente. La complessità della situazione morale cresce quindi enormemente. In un ambiente digitale, inoltre, la situazione non si esaurisce necessariamente nell’istante in cui l’azione viene compiuta. Nel mondo fisico possiamo pensare a un’azione che avviene in un determinato momento e produce determinate conseguenze. Nel digitale, invece, un messaggio o un’informazione entra in uno spazio informazionale, quella che viene chiamata “infosfera”, e può rimanervi per anni ed essere riutilizzata. Per esempio, i miei spostamenti registrati da Google Maps cinque anni fa possono essere utilizzati oggi per allenare sistemi di AI. L’impatto dell’azione si estende quindi nel tempo. La complessità cresce moltissimo. Per questo dico ai manager: state attenti a non cercare di risolvere problemi complessi con soluzioni semplici. L’AI è complessa e l’etica dell’AI lo è altrettanto. Se devo progettare tecnicamente un large language model, devo conoscere pesi, matematica, reti neurali e processi di addestramento. Un manager non lo fa personalmente: si affida agli ingegneri. Allo stesso modo bisogna evitare l’idea che, soltanto perché il linguaggio dell’etica può sembrare semplice, chiunque possa improvvisarsi specialista. **Quindi, soprattutto in una piccola o media impresa, l’etica dell’intelligenza artificiale può essere messa a terra soltanto attraverso la competenza di un vero eticista?** Le persone dell’impresa possono naturalmente essere accompagnate. Il rischio è pensare di risolvere da soli un problema complesso e finire per fare più danni di quelli che si volevano evitare. Il parallelo con l’ingegnere lo rende evidente: il lavoro dell’ingegnere lo facciamo fare all’ingegnere. Se un eticista ha studiato seriamente, ha fatto ricerca, un dottorato e pubblicazioni, e pensiamo che il manager possa sostituirlo senza quella preparazione, allora probabilmente c’è qualcosa che non torna nel processo. ## **L’etica rallenta un’impresa o la fa correre?** **Una domanda forse provocatoria per concludere: l’etica rallenta un’impresa oppure la fa correre più velocemente?** Ho parlato spesso con imprese che mi hanno detto: “Non abbiamo bisogno di fare etica”. Secondo me non è vero. Sarebbe come dire che non abbiamo bisogno della grammatica per lavorare: senza strutturare il linguaggio attraverso la grammatica, non si lavora. Ogni decisione che non è automatizzata ha un valore morale. Può essere sopra o sotto una determinata soglia di attenzione: non significa che serva un comitato etico per qualsiasi microdecisione. Ma il valore morale esiste. Se non me ne rendo conto, è come correre in autostrada con una benda sugli occhi. Posso dire di voler andare velocissimo perché non ho bisogno dell’etica, ma semplicemente non sto vedendo la dimensione etica delle mie decisioni. Non imposterei quindi il problema nella dicotomia “l’etica rallenta oppure accelera”. Direi che una buona etica velocizza, se fatta bene. Una cattiva etica rallenta, anche di molto. Con alcuni professionisti che si definiscono eticisti potrebbe quasi essere meglio non averli, perché rischiano di rallentare enormemente l’organizzazione. Ma vale per qualsiasi professione: esistono bravi medici, bravi avvocati e bravi professionisti. È un problema di qualità. Non possiamo però dire che “non facciamo etica”: la facciamo continuamente. Per anni ho scritto codice e gestito team di sviluppo. Anche quando si sceglie una libreria invece di un’altra o un processo invece di un altro si compiono micro-scelte etiche. Esiste una filosofia anche nello scrivere codice, perché il codice trasmette una visione del mondo. Se considero l’utilizzatore come qualcuno che deve semplicemente fare ciò che gli dico, costruirò il sistema in un modo. Se lo considero un elemento valoriale importante, lo costruirò diversamente. Con l’intelligenza artificiale questo diventa ancora più importante perché deleghiamo azioni ad agenti che hanno obiettivi, ma operano attraverso sistemi non deterministici. Prima, con il codice deterministico, l’azione era sostanzialmente determinata dal designer del codice e la scala era relativamente piccola. Oggi la scala è molto più ampia e deleghiamo anche parte delle azioni. Per questo, fatta bene, l’etica può assolutamente velocizzare il processo. ## **Chi rischia di rimanere indietro con l’AI?** **Quando un’azienda introduce l’intelligenza artificiale, chi rischia di rimanere indietro?** È una domanda da cento milioni di dollari. Se lo chiedono in tanti e non esiste una risposta semplice. Dipende dal livello al quale introduciamo l’AI. Se inseriamo un LLM all’interno di un’azienda per ottenere determinate risposte più velocemente, una persona deve imparare soprattutto a utilizzare l’interfaccia. Non è necessariamente qualcosa di molto complesso e può impararlo rapidamente. Se invece introduciamo sistemi di machine learning per istruire modelli e prendere decisioni, chi è completamente fuori dai processi statistici rischia di essere tagliato fuori, perché poche persone possono arrivare a prendere decisioni per moltissime altre. Ma la storia dell’umanità è fatta anche di riequilibri. Se da una parte velocizziamo alcuni processi, dall’altra ne rallentiamo altri. Oggi un LLM può scrivere molto velocemente un progetto. Poi, però, quel progetto dobbiamo leggerlo e realizzarlo. Può essere bellissimo, ma magari è inutilmente lungo o ripetitivo. Dobbiamo quindi chiederci se preferiamo un LLM che in quindici minuti produce un progetto che poi non riusciremo mai ad applicare oppure una persona che, magari utilizzando anch’essa gli LLM, impiega più tempo ma arriva a un progetto più fattibile. Ci saranno persone che andranno avanti e altre che arretreranno. Paradossalmente, alcune persone che conoscono molto bene il linguaggio ma non erano particolarmente forti dal punto di vista tecnologico potrebbero oggi avere più possibilità di altre che erano bravissime a “smanettare” con il computer, perché possiamo chiedere a sistemi come Claude anche di aiutarci nella configurazione tecnica. Non so quindi chi rimarrà indietro. Chiunque riesca davvero a vederlo in una sfera di cristallo è da invidiare. Credo invece che nei prossimi anni dovremo abituarci a un livello di incertezza molto elevato. Userei l’analogia della vela: ci si adatta al vento, al meteo e alle onde. Quando c’è troppo vento si rimane in porto e si esce quando le condizioni lo permettono. La metafora dell’acqua accompagna Internet fin dall’inizio: diciamo che “navighiamo”. Dovremo imparare, o reimparare, a navigare. --- Fonte: [Etica dell’AI nelle imprese: competenze, governance e formazione oltre la compliance](https://giornaledellepmi.it/etica-dellai-nelle-imprese-competenze-governance-e-formazione-oltre-la-compliance/), Il Giornale delle PMI.