Mi è capitato di occuparmi di questo tema in varie occasioni: per una ricerca, per dei corsi in presenza e online. Avendo un background filosofico, anche se non avevo mai approfondito la filosofia morale, ed essendomi professionalmente sempre occupato di informatica e anche di IA, ho pensato di poter dire qualcosa di sensato e utile. Quindi mi sono messo a studiare e a riflettere.
Avevo addirittura pensato qualche tempo fa di raccogliere il risultato di questo studio e di queste riflessioni e strutturare il tutto in un testo. Avevo anche cominciato a scrivere quello che pensavo potesse essere il primo di una serie di articoletti: Premesse nascoste ai discorsi sull’etica del’IA.
Oggi mi pare completamente inutile. Anche se riuscissi a produrre qualcosa di concreto, magari facendomi aiutare da un LLM, scomparirebbe nella marea di articoli, libri e corsi sul tema. Il mio rumore si unirebbe a quello di tutti gli altri.
Allora, almeno per ora, non faccio nemmeno lo sforzo di ordinare queste riflessioni ma le lascio qui in forma di bozza. Magari qualcuna di queste può essere utile a chi ha voglia di approfondirle.
Come si parla di Etica e IA
Le riflessioni dal titolo “Etica e IA” (libri, articoli, corsi, lezioni) che ho potuto leggere e seguire in generale si occupano di IA e “qualcosa”.
Il qualcosa è un ambito, un tema, una questione.
Per esempio:
- l’IA e i dati personali
- l’IA e il lavoro
- l’IA e la guerra
- l’IA e la medicina
- l’IA e l’ambiente
- eccetera.
Questo modo di procedere è comodo; si prendono alcune questioni complesse e si analizza la maniera in cui i servizi basati su IA, se usati in maniera scorretta, aumentano i rischi che già conosciamo.
Per “comodo” intendo dire che non ha bisogno di mettere in questione i concetti di fondo, ma dà per scontato che tutti sappiamo cosa significano. Ad esempio: rischio, pericolo, persone, agenti, bene, male, etc.
Certo non si può sempre definire tutto. Ma nemmeno si può dare tutto per scontato, in un ambito che non è così praticato e studiato come quello dell’Etica.
Tutti questi studi si potrebbero riassumere così:
– l’informatica tratta simboli che rappresentano pezzi del mondo;
– sulla base del risultato del trattamento di questi simboli facciamo delle azioni;
– questo trattamento non è controllato direttamente da noi (è conveniente per questo)
– quando andiamo a valutare l’effetto di queste azioni rischia di essere troppo tardi
Che sia l’informatica o l’IA non cambia poi molto. In sostanza mentre pensiamo di poter controllare le azioni che facciamo direttamente, non siamo più così sicuri quando queste azioni sono mediate in maniera massiccia da macchine calcolatrici. Quindi ci attrezziamo con un cannocchiale che ci permette di vedere anche le cose lontane e con un eticometro che ci permette di giudicarne la qualità.
Io credo che questo approccio, per quanto comodo, sia scorretto. Dà per scontato che ci sia un “noi”, che è in grado di conoscere e valutare gli effetti delle azioni delle macchine sulla base di un sistema unico di valori. Che conosciamo già i possibili rischi. Che gli strumenti con cui facciamo queste valutazioni siano neutri.
E naturalmente questo approccio usa concetti e termini dell’Etica senza metterli in discussione o definirli.
Perché l’etica dell’IA
Perché si parla tanto oggi di etica dell’IA? Perché non negli anni ’50 del secolo scorso, quando è stata inventata l’IA? Perché non negli anni ’60 e ’70, quando si è messo in discussione il modello di vita cittadino e borghese?
A mio modo di vedere, l’attenzione per le questioni etiche è diventata significativa solo nel momento in cui ci si è accorti che si stava diffondendo nel mercato una paura, una sfiducia nelle applicazioni dell’IA basata sulla statistica (machine learning, trasformers). Ma gli investimenti fatti su questa tecnologia non permettono dubbi o tentennamenti.
Non è un caso che una ricerca che mi è stata affidata nel quadro di un progetto europeo aveva per titolo “Etica e affidabilità dell’IA”. La domanda sottostante era: a quali condizioni possiamo fidarci dei servizi basati su LLM e simili? La risposta, già contenuta nella domanda, era: quando sono etici.
La domanda vera era: come possiamo tranquillizzare gli utenti e garantire loro che questi servizi non produrranno effetti negativi sulle persone? Tradotto: come possiamo recuperare i nostri ingenti investimenti prima che scoppi la bolla?
Questa maniera di procedere presuppone che i servizi basati sull’IA come li stiamo vedendo oggi siano necessari e che l’unico spazio di manovra sia quello della limitazione dei danni collaterali, per usare un’espressione tristemente nota.
Lo spazio dell’Etica
“Etica” non dovrebbe essere usato come una proprietà di qualcosa (come in “azioni etiche” o “macchine etiche”), intendendo che alcune cose possono essere buone o cattive, ma come un sostantivo che indica una disciplina, come “filosofia”.
L’etica è uno spazio di riflessione che è stato creato, arredato, abitato, ristrutturato mille volte. E’ una disciplina, nel senso di un campo di studi con delle pratiche più o meno definite e riconosciute. Etica è quello che fanno certi ricercatori che sono interessati non alla metafisica ma ai comportamenti umani; non a tutti i comportamenti umani, o forse a tutti ma secondo un particolare punto di vista che implica una valutazione.
La questione di cui si occupa l’Etica è:
– quali svantaggi/vantaggi può procurare a Y l’azione A di X?
in cui X e Y sono persone e vantaggio e svantaggio sono definiti in funzione del sistema di valori di Y, che in qualche modo X deve tener presente.
Non ci poniamo questioni etiche quando martelliamo un chiodo. Perché il chiodo non ha valori.
Non ci aspettiamo che un gatto mentre mangia un topo si ponga questioni etiche. Perché un gatto non si immagina i valori del topo, ma solo i suoi.
Di conseguenza quando pensiamo all’etica dell’IA soggettivamente (cioè: l’IA deve avere comportamenti etici) stiamo facendo qualcosa di strano. E’ evidente che i software non hanno valori.
Etica e legge
Etica non è “ciò che si deve fare”, ma “ciò che si deve fare, anche se la legge non ci obbliga a farlo”.
Etica non è “ciò che non si deve fare”, ma “ciò che la legge non impedisce di fare, ma ugualmente non va fatto”.
Insomma l’etica nasce per le situazioni-limite, al confine, opache. Per questo è difficile e per questo sono due millenni e mezzo che continuiamo a occuparcene, in Europa come nel resto del mondo.
Non va confusa con la legge. Quando si dice “norma etica” si sta generando confusione incrociando due ambiti diversi.
- La fisica divide le azioni possibili da quelle impossibili.
- La legge divide le azioni possibili in quelle da punire, quelle da eseguire e quelle indifferenti.
- L’etica divide le azioni indifferenti in azioni raccomandabili e azioni esecrabili.
Quando si crea una regolamento etico sull’IA con delle multe si sta creando un ibrido.
A meno che non si creda che tutte le azioni, anche quelle invisibili, anche quelle immaginate, possano essere giudicate e punite o premiate da un’entità superiore, in questa o in un’altra vita. Questa è un’etica religiosa, completamente differente da quella laica, kantiana, perché ha la sua fonte di valori altrove.
A meno che non si pensi ad una società in cui le regole etiche siano anche leggi, e in cui la violazione di una norma morale sia un delitto. Questa non è etica, ma è uno schiacciamento della scelta sul dovere.
Negli altri casi, l’adesione ad un principio etico è volontaria e non può essere giudicata caso per caso se non dall’interno.
E’ il motivo per cui Asimov aveva immaginato i sui principii cablati dentro i robot. Per poi dimostrare che non funzionavano.
Principii
Ogni etica ha bisogno di valori per giudicare le azioni. I valori vengono concordati dalla comunità, trasmessi, ma anche riduscussi.
Ogni gruppo ha dei valori propri che si aggiungono (o sovrascrivono) a quelli più generali.
Per esempio, c’è un etica cristiana e all’interno un’etica scout, e all’interno l’etica di un certo branco o di un gruppo di lupetti.
Proprio perché non si possono scrivere leggi etiche, spesso si scrivono “principii”, decaloghi di principi, etc.
L’idea è quella di dare delle indicazioni generali, delle direzioni, delle regole approssimative.
Ovviamente questo porta con sé dei limiti intrinseci: una regola ha bisogno di un criterio di applicazione.
Ma di solito nei decaloghi mancano proprio questi. Certo è più facile dire “non fare il male agli altri” che specificare come comportarsi nel caso di un male psicologico, o solo probabile, o nel caso di persone masochiste.
Il lavoro di alcuni ricercatori è stato quello di raccogliere tutti i principi espressi dai vari enti (dal Vaticano all’UNESCO), confrontarli, rigettare le differenze e evidenziare quelli comuni. Questo è tipico dei filosofi e si poggia evidentemente sul presupposto che se si generalizza molto, se si sale abbastanza in alto, si riesce sempre a trovare qualcosa di comune, un concetto sufficientemente astratto da comprendere gli altri. In termini genealogici, presi due essere umani qualsiasi, sono comunque discendenti del primo Homo Sapiens. E’ un procedimento vecchio (diciamo che risale almeno a Platone) e sembra funzionare sempre, anche se si rischia che il concetto principale sia talmente astratto da essere vuoto e inutile.
Ma questo dell’etica, a mio avviso, è un caso diverso. Ci sono due comunità che hanno valori diversi, tra i quali bisogna mediare se si vuole convivere. E’ anche possibile che non abbiano nulla in comune – all’inizio della mediazione – ma costruiscano qualcosa di comune alla fine. Non si tratta di categorizzare un mondo fisso, esistente, ma di inventare un mondo nuovo.
Culture
Ma anche se ci fossero questi criteri, nelle diverse culture non sarebbe necessariamente gli stessi.
Noi siamo convinti che l’Etica sia la nostra etica, quella occidentale moderna. Ci siamo scordati cosa era l’etica medievale, non ci domandiamo cosa succede nelle altre Culture o, se lo facciamo, siamo convinti che in fondo la storia della nostra riflessione filosofica sia superiore a quella degli altri e quindi chi se ne frega.
E’ strano: pur sapendo per esperienza che i partiti politici si differenziano fortemente proprio per la visione di ciò che è desiderabile o evitabile, anche al di là di ciò che è obbligatorio o vietato, ci immaginiamo che sia possibile definire un’etica universale, unica, valevole per tutti.
D’altra parte facciamo la stessa cosa in molti campi. La nostra cultura è centrata su se stessa: la geografia, la storia, persino la fisica o la matematica. C’è chi dice che è normale, che ogni cultura deve essere fiera di se stessa e spregiare le altre, come in un campionato di calcio in cui bisogna vincere tutte le partite.
Curiosamente, la nostra cultura ci viene presentata a scuola come quella nata dall’umanesimo rinascimentale, aperta, basata sulla verifica e la discussione, sulla democrazia delle idee. Poi però non siamo capaci di adottare sistematicamente il planisfero di Gall-Peters.
Etica e tecnologia
Si parla molto di etica e IA ma in effetti poco di Etica in sé.
Non ce lo ricordiamo più, ma prima dell’etica dell’IA c’era l’etica dell’informatica come caso particolare all’interno dell’etica della tecnica.
Caso particolare perché non essendo l’informatica una scienza tradizionale, ma solo una tecnica che avanza sempre più in fretta della sua formalizzazione completa, i primi principi etici sono stati formulati dal basso, dagli utenti e non dai teorici. C’è stata un’etica di Internet e un’etica della programmazione, in una fase in cui l’informatica era quasi tutta nelle mani di chi la sviluppava. Qualcuno sogna che anche per l’IA si possa tornare a riappropriarsi dei mezzi di produzione, o almeno di quelli di distribuzione, anche se al momento non si vede niente di paragonabile allo sviluppo di internet “dal basso”.
La questione nel campo dell’etica applicata è:
– quali svantaggi/vantaggi può procurare l’azione A di X su Y mediata da Z?
Z è un medium, come un giornale, la radio, Internet, il telefono. Leggere McLuhan per l’elenco completo. Nel caso delle tecniche attuali, X e Y possono essere lontanissimi. Ovviamente Y non conosce X, mentre X crede di conoscere Y.
Y potrebbe essere un individuo o una classe di individui. Tipicamente, l’etica si occupa di minoranze, persone deboli, fragili, bambini, vecchi. Che non si sanno difendere da soli e che hanno valori diversi da quelli di chi sta all’origine della catena. O magari hanno gli stessi valori, ma applicati diversamente (la mia vita, il mio benessere).
Ma anche X, nel caso in cui ci sia una mediazione tecnologica, non è un singolo, ma una catena di soggetti che si passano un ordine. L’etica riguarda tutti, o solo l’ultimo anello, o solo il primo (la banalità del male)?
Etica e punti di vista
Dovremo ricordarci anche che le tecniche sono inventate per ottimizzare risorse, cioè ottenere gli stessi risultati con le stesse risorse, o più risultati con le stesse risorse, o migliori risultati con le stesse risorse.
Il “progresso” è la serie di miglioramenti nella direzione dell’ottimizzazione.
Ma miglioramento per uno (per esempio, il proprietario dei mezzi di produzione) non è necessariamente miglioramento per un altro.
Un meta-principio dell’etica della tecnologia potrebbe proprio essere quello di non confondere il bene per l’umanità (il progresso) col bene per una certa categoria di persone.
La riflessione etica ha discusso per lungo tempo se si potesse chiamare buona un’azione solo perché conviene a chi ha il potere o la parola, oppure lo può essere solo se è buona veramente per tutti.
Ambito
Spesso si riduce l’etica della tecnologia ad un’etica d’uso. Ovvero: lo studente non deve farsi generare il compito, il medico non deve affidare la diagnosi alla macchina, l’incaricato dei rapporti con gli utenti non deve richiedere più dati personali di quelli necessari, etc.
Questo corrisponde alle raccomandazione sugli usi dell’acqua potabile. Meno docce, chiudere il rubinetto, etc.
Molto più importante, e invisibile, mi pare l’etica di sistema, che riguarda la maniera in cui una tecnologia viene sviluppata, gestita, distribuita.
Questo corrisponderebbe alla creazione di dighe, canali, tubature, fatturazione, etc.
Gli effetti di questo tipo di azioni sono molto più ampi, persistenti, invisibili, e perciò a mio parere pericolosi. Ma ovviamente se i “mandanti” della riflessione sull’etica dell’IA sono gli stessi che gestiscono la produzione e la distribuzione, è difficile che accettino che le loro azioni vengano messe in discussione.