1. Non sono sempre stato interessato all’etica. Quando studiavo filosofia la consideravo una roba banale, vecchiotta, anche un po’ bigotta. Poi ho scoperto che Kant se ne era occupato, e che aveva scritto cose interessanti in proposito. Poi ho studiato l’Etica geometrica di Spinoza. Ma mi sono fermato lì, preso com’ero dall’epistemologia che mi pareva più urgente, soprattutto in relazione alla tecnologia digitale che stava prendendo piede. Bisognava capire in fretta come si trasformava il sapere, come avrebbe potuto cambiare l’apprendimento entrando in ambienti digitali modificabili all’infinito.
Parecchi anni dopo mi sono imbattuto nei discorsi di Richard Stallman, nel Free Software Movement, nelle pratiche di apertura e diffusione del codice sorgente. Non era una questione tecnica, ma etica e politica e per me era una novità. Non lo sapevo, ma anche prima del movimento del software libero esisteva un’etica dell’informatica, intesa come un codice di buona condotta che i programmatori avrebbero potuto e dovuto adottare. Roba da nerd, che è restata nascosta in qualche RFC mai tradotto in Italiano, ma che poneva i programmatori in una situazione particolare: con l’informatica si può fare tutto, ma non tutto quello che si può fare è buono. I programmatori si vedevano come soggetti, non semplicemente operai di una catena di montaggio, e volevano decidere cosa fare e come farlo.
2. Del tutto indipendentemente da questa linea quasi sotterranea, da controcultura hippie, una decina di anni fa è risorto all’orizzonte l’astro etico nella costellazione dell’IA. Articoli, libri, seminari, interi corsi, e prima ancora elenchi di principi universali, gruppi di lavoro di studiosi, capitoli interi di regolamenti e leggi tutti dedicati all’etica dell’IA. Si parla di mestieri, di profili, di ruoli (e di corsi e certificazioni). Si definiscono obblighi, reati e punizioni: tutti a domandarsi che effetto avrà l’EU AI Act sulle pratiche quotidiane.
Perché? E perché proprio adesso?
Certo non è stata un’esigenza sentita dai matematici e degli sviluppatori di librerie per costruire gli LLM. O meglio: ogni tanto si alzava una voce critica isolata, soprattutto da parte di qualche progettista licenziato che una volta raggiunta la notorietà mediatica si andava a creare la sua startup.
3. Una ragione forse banale è che nel 2017 appare l’articolo famoso “Attention is all you need” che ha reso noto ai più l’approccio che sta alla base dei grandi modelli linguistici e della fortuna enorme dei vari chatbot intelligenti. Magari ci si è cominciati a rendere conto che l’IA non era solo un giocherello buono per scrivere scenari di film di fantascienza apocalittici, ma poteva avere un interesse pratico. E che siccome sembrava funzionare molto meglio di tutti gli esperimenti precedenti, l’avrebbero adottata tutti. E che proprio per questo sarebbe stato possibile usarla per fare danni, per approfittarsi di quelli un po’ meno consapevoli.
Oppure, che se si fossero diffuse le informazioni sui rischi di errori, di allucinazioni, sulle deviazioni implicite nella scelta dei dati per l’addestramento, allora sarebbe stato difficile convincere i soggetti pubblici ad adottarla. Bisognava rassicurare gli utenti che non avremmo lasciato che l’IA facesse tutto quello che era in suo potere, ma che l’avremmo controllata.
Dove trovare un arsenale concettuale che permettesse di sviluppare un’IA convincente, affidabile, “buona”?
Ma nell’Etica, naturalmente.
4. E quindi inizia un lavoro di analisi e produzione di principi etici, di regolamenti, di obblighi, che nel tempo ha prodotto saggi divulgativi, seminari specialistici, corsi per tutti.
Ho provato ad avvicinarmi ad alcuni di questi testi. La mia impressione è stata che avessero un grosso limite: davano per scontate alcune premesse che, almeno per me, scontate non sono.
Andavano velocemente al punto (“cosa si può fare e cosa non si deve fare”), saltando alcune premesse, che se approfondite sarebbero state un po’ fastidiose da accettare.
Però l’etica è scomoda; altrimenti non ne avremmo bisogno. L’etica entra in gioco quando la legge non basta, o perché la norma non è abbastanza specifica, o perché si limita a evitare gli effetti immediati ma non può nulla contro quelli a lungo termine. Capisco che non si possa sempre partire dai principi primi, ma anche sorvolare su tremila anni di storia della cultura e partire solo dal secondo dopoguerra nell’area euro-statunitense mi pare un po’ azzardato.
E malgrado tutti i nostri sforzi, nemmeno l’etica risolve tutti i problemi dell’interazione con l’IA. Nemmeno se fosse cablata nei circuiti delle macchine.
Basta fare un esperimento mentale: pensate ad un mondo abitato solo da robot. All’interno del cervello dei robot di questo mondo i buoni progettisti hanno cablato delle regole etiche, del genere di quelle immaginate da Isaac Asimov nei suoi romanzi di fantascienza. Questo, sempre nelle intenzioni dei progettisti, avrebbe dovuto essere sufficiente per garantire un mondo etico. Certo, nessun robot in quel mondo vuole fare del male ad un altro robot, nemmeno a se stesso.
Le regole sono state scritte sulla base delle esperienze dei robot. Ma possiamo davvero essere sicuri che nel futuro nessuna azione di un tipo leggermente diverso generi un danno, anche “involontariamente”, anche incoscientemente? Possiamo essere sicuri che i robot applicheranno correttamente le regole al nuovo caso concreto? Che riconoscano in ogni situazione la fattispecie di “azione buona” e “azione cattiva”? Qui si parla di un tema enorme e fondamentale: il futuro non ha nessun bisogno di allinearsi al passato. A noi farebbe comodo, ma non abbiamo nessuna garanzia che lo faccia davvero.
Seconda questione: le regole sono state stabilite in un certo momento, sulla base delle conoscenze possedute. Possiamo credere che quelle regole cablate non dovranno essere riviste, aggiornate, o sostituite con il cambiare del contesto, o soltanto con la comprensione maggiore che deriva dall’esperienza futura?
Terza questione: i robot, anche in quel mondo immaginario, non sono frutti che nascono dagli alberi, ma sono macchine costose, prodotte per aumentare i margini di qualcuno. Possiamo fidarci di chi ha scelto le regole da cablare nel cervello dei robot? Siamo sicuri che se un’azione viola il codice etico ma garantisce un profitto maggiore il robot sia programmato per evitarla?
Insomma, l’etica secondo la mia personale opinione, e quella di qualche altro centinaio di filosofi, non è un campo di acquisizioni certe, ma un campo di indagine continua.
Torniamo alle premesse che, sempre a mio parere, vengono saltate a piè pari da tanti saggisti e formatori.
5. La prima è che l’etica sia qualcosa di universale, condiviso, unico. Cioè che i valori – che funzionano da cartine da tornasole per definire cosa è buono e cosa è cattivo – siano universali e condivisi.
Questo è un errore enorme, tipico della cultura occidentale (ma magari anche delle altre). È stato la base di tanta retorica: i nostri valori sono i Valori, la nostra etica è l’Etica. Su queste premesse ci si è basati per colonizzare metà del pianeta.
Probabilmente oggi nessuno si ricorda più che la Dichiarazione “Universale” dei diritti umani del 1948 non è stata firmata da tutti i governi, per disaccordi su questioni importanti come la libertà di culto, la libertà di espressione, l’autodeterminazione della donna, il primato dell’individuo sulla società, eccetera. Noi occidentali possiamo non essere d’accordo, possiamo pensare che quelle culture siano indietro, sbagliate, colpevoli: ma esistono e questo solo fatto dovrebbe mostrare che un’etica Universale è ancora un miraggio, o se preferite un obiettivo su cui lavorare, ma non un dato di fatto da cui partire. Questo significa che se vogliamo definire un’etica dell’IA dobbiamo restringere il suo campo di applicazione alla nostra cultura e aspettarci che in altre culture le cose siano diverse. Il che non significa che non ci sia possibilità di confronto, ma solo che ci dobbiamo aspettare la differenza, non l’identità.
6. La seconda premessa è che parlare di etica dell’IA voglia dire definire un regolamento semplice, per punti, a cui si devono attenere progettisti e sviluppatori (versione I) oppure gli utenti (versione 2). Un po’ come i dieci comandamenti:
Primo, tu non creerai un’IA completamente autonoma;
Secondo, non cercherai di imbrogliare usandola.
Terzo: …
Questa sembra una premessa inattaccabile: che altro dovrebbe essere l’etica? L’etica professionale, cioè la deontologia. Quella del giuramento di Ippocrate.
Però basterebbe leggere qualche paginetta di Wikipedia per sapere che non è solo questo. L’etica è la parte della filosofia che si occupa delle questioni relative alla valutazione dell’agire (principalmente umano ma non solo). Cioè si occupa di cosa significa giudicare, di come è possibile applicare un metro generale e fisso ad un’azione specifica e variabile; si occupa della differenza tra valori individuali e collettivi; si occupa del ruolo che ha la consapevolezza di stare violando un principio morale nella definizione di “cattiveria”; eccetera. “Si occupa” non significa che ha una risposta unica, anzi. Come ogni storia della filosofia narra, se nelle discipline “serie” le scoperte si sommano per avvicinarsi alla realtà, in filosofia ogni teoria ribalta la precedente, senza che si possa mai dire è così o non è così. Ma è così che funziona il gioco filosofico: farsi domande anche quando sembra che non ce ne sia bisogno, esercitando il dubbio sulle condizioni di possibilità delle risposte, sui quadri concettuali che sembrano garantire la verità assoluta di certe teorie.
In altre parole: l’etica dell’IA non dovrebbe dare per scontato che tutti questi problemi siano risolti per sempre, ma dovrebbe tradurli nel contesto attuale, senza ridurre tutto ad un elenco di “do-don’t do”.
7. La terza premessa nascosta è che l’etica dell’IA sia solo un’etica d’uso. Questa concezione deriva da una constatazione semplice: siccome IA significa “software che gira dentro qualche macchina”, si pensa che l’etica dell’IA non possa che essere un’etica strumentale. Come direbbe Floridi: l’IA non è intelligenza, ma agenzia. Non è un soggetto di cui si possa predicare l’intelligenza; al massimo, è uno strumento che può essere autonomo, a prescindere da tutte le domande che possiamo farci sulla sua coscienza. Quello che va regolamentato è il suo agire, ma ricordando che è sempre l’uomo che maneggia il martello il responsabile dell’azione di quel martello. In sostanza, l’IA è una macchina come le altre, solo un po’ più complessa. Quindi non ha responsabilità né giuridica né etica, con buona pace delle Leggi della Robotica di Asimov.
Questa premessa è talmente evidente che non si riesce nemmeno a immaginare la possibilità di una posizione diversa.
Forse si dovrebbe partire dalla constatazione che l’IA, come l’informatica prima di lei, fa parte dei media, cioè di una particolare categoria di strumenti che trasformano e distribuiscono informazione lungo una catena e così facendo hanno effetti su tutti gli anelli della catena. L’IA Generativa non è solo un martello ma una rete gigantesca che inizia con la raccolta di documenti e finisce con la produzione di nuovi documenti. Ogni anello di questa catena fa un’azione (anche se solo trasformando informazioni) che andrebbe valutata indipendentemente dalle altre ma che ha effetto sia sul risultato finale che all’indietro, sulle sue cause. Limitare il giudizio etico solo all’ultimo anello sembra francamente un po’ ingenuo. Non c’è solo l’output del modello linguistico e i suoi utilizzi, ma come quell’output è stato creato, come è stato censurato, come è stato addestrato il modello, come sono stati scelti e acquisiti i dati per addestrarlo, come funziona il computer su cui gira, anzi il simulatore di computer, da dove si prendono i materiali per costruirlo, l’energia per raffreddarlo, eccetera.
In secondo luogo, certo l’IA non è un soggetto; altrettanto certamente non è un prodotto della natura, ma è stata voluta in questo modo da soggetti umani. Ha una storia non solo tecnica (dall’informatica all’IA degli anni ‘60 fino al machine learning etc) ma anche commerciale, politica. Chiamiamo IA una tecnologia che è stata fortemente voluta da alcune multinazionali per migliorare “l’esperienza di ricerca” dei loro clienti, per sostituire persone in certi ruoli come l’help desk, per offrire vantaggi competitivi alle aziende che comprano questi nuovi servizi. Niente di nuovo; però sarebbe un errore pensare all’IA come un frutto neutro del progresso scientifico, mirato al raggiungimento del benessere per tutta l’umanità.
Ormai abbiamo verificato che ci sono degli effetti etici di queste scelte che vanno molto al di là di quello che può fare il singolo programmatore o il singolo utente scrivendo un prompt un po’ birichino. Effetti sulla parte della popolazione mondiale che non avrà mai le risorse economiche per usare questi servizi; sul clima e sull’uso delle risorse energetiche; sulle condizioni di lavoro; sull’educazione formale; sui diritti personali.
Insomma, forse insieme e prima dell’etica d’uso ci si dovrebbe occupare dell’etica di sistema.
8. Un’ultima annotazione veloce (spero). Recentemente ho letto in un articolo che i filosofi sono diventati importanti nel mondo dell’IA. Ah finalmente, ho pensato. È venuto il nostro turno. L’articolo prosegue raccontando la storia di Amanda Askell, consulente di Anthropic per l’etica dell’IA. Allora mi sono immaginato una serie di riunioni in cui il top management di Anthropic discuteva degli obiettivi dell’azienda con Askell che cercava di spiegargli come alcuni di quegli obiettivi che, pur essendo raggiungibili nei fatti, non avrebbero dovuto essere nemmeno ipotizzati per gli effetti secondari su certe categorie di umani.
Invece no: Askell è stata messa lì a dialogare con Claude per insegnargli l’etica. Avete letto bene: come un personal trainer fa fare esercizio all’atleta sfidandolo con compiti sempre più difficili, alzando l’asticella, fornendo premi e punizioni.
«Addestro Claude a distinguere ciò che è giusto da ciò che è sbagliato infondendogli tratti di personalità unici: segnali sottili che aiutano a orientarsi verso un’intelligenza emotiva, in modo che il chatbot non si comporti come un bullo, ma neanche come uno zerbino. Se vogliamo che l’AI sia brava in scienza e matematica, perché non provare a insegnarle a essere brava in etica?».1
Questo è proprio ciò che i filosofi non dovrebbero fare: prestarsi al gioco del potere, che sia economico o politico. I filosofi dovrebbero fare domande che mettono in discussione il modo ovvio di vedere le cose, mostrare le analogie tra campi diversi, ridefinire i concetti di fondo al di là di quello che le singole scienze e tecniche riescono a fare. Insomma, rompere.
Questo è quanto provo a fare modestissimamente nel mio piccolo.
1https://www.lastampa.it/economia/2026/02/16/news/chi_e_amanda_askell_la_filosofa_che_insegna_all_ai_cos_e_giusto_e_cosa_no-15510311/