Manuale Operativo per la Valutazione Etica dei Servizi di Intelligenza Artificiale

Quello che segue è la rielaborazione di 50 slide, in inglese, che ho preparato per un convegno sull’etica dell’intelligenza artificiale da parte di notebookLM. I contenuti sono abbastanza fedeli a quelli originali, la prosopopea è sua.

Contenuto originale di Stefano Penge

Revisione di NotebookLLM

Licenza CC 4.0 BY/SA/NC

1.0 Introduzione: Oltre i Principi Astratti, un Approccio Critico

1.1 La necessità di un approccio critico

In un’epoca definita dalla rapida evoluzione dei servizi basati sull’Intelligenza Artificiale generativa, le dichiarazioni di principio sull’etica rischiano di rimanere affermazioni astratte e prive di impatto reale. Questo manuale nasce dalla necessità di superare tale approccio, proponendo un metodo operativo fondato su un concetto fondamentale: la critica. In questo contesto, “critico” non significa “negativo”, ma si ricollega al suo significato originario derivato dal greco krisis, che indica la capacità di “giudizio” e “scelta”. Adottare un approccio critico significa quindi dotarsi degli strumenti per giudicare gli effetti concreti di un servizio di IA e compiere scelte consapevoli sul suo utilizzo.

1.2 Scopo del manuale

Lo scopo di questo documento è fornire un framework strutturato e pratico per analizzare gli effetti reali dei servizi di IA, guidando professionisti, decisori e utenti verso decisioni responsabili e trasparenti. Il principio guida di questo manuale è categorico: non dovremmo mai utilizzare servizi di IA opachi, perché ciò che non è trasparente non può essere sottoposto a critica. Questo manuale offre il metodo per identificare, analizzare e sfidare tale opacità, garantendo che la nostra capacità di giudizio rimanga sempre attiva.

1.3 Verso un’analisi critica dei principi

Il nostro percorso inizia con l’analisi dei limiti degli approcci etici tradizionali. Comprendere perché i principi astratti si rivelano insufficienti è il primo passo fondamentale per costruire un modello di valutazione più robusto ed efficace.

2.0 I Limiti dei Principi Etici Tradizionali

2.1 La proliferazione dei principi etici

Tra il 2017 e il 2024, in risposta ai notevoli progressi tecnologici, abbiamo assistito a una proliferazione di quadri etici, dalla Dichiarazione di Montreal alle Linee Guida Europee fino al recente EU AI Act. Questa abbondanza riflette la percezione comune della necessità di definire dei confini per lo sviluppo e l’implementazione dell’IA senza bloccarne l’innovazione. Tuttavia, questa proliferazione di principi contrasta con l’incertezza del pubblico; ad esempio, un recente sondaggio del progetto Verfisum ha rivelato che, sebbene oltre l’80% degli intervistati creda in principi etici universali, una percentuale significativa rimane insicura su come assegnare la responsabilità per gli errori guidati dall’IA, evidenziando il divario tra principio e pratica. Comprendere i limiti strategici di questi principi è il primo passo per superarli.

2.2 I cinque principi fondamentali

La maggior parte di questi documenti converge su un nucleo di principi chiave, sintetizzati efficacemente da Luciano Floridi, che rappresentano il fondamento dell’etica dell’IA comunemente accettata:

Non maleficenza: I servizi di IA non devono danneggiare le persone.
Beneficenza: I servizi di IA dovrebbero aiutare le persone.
Autonomia: Le persone devono mantenere il controllo sui servizi di IA.
Giustizia: I servizi di IA non devono discriminare.
Spiegabilità: Le decisioni dell’IA devono essere spiegabili.

2.3 L’ambiguità dei principi astratti

A un’analisi più attenta, questi principi rivelano una significativa ambiguità che ne limita l’applicazione pratica, sollevando più domande di quante risposte offrano:

Non maleficenza: Rispetto a chi? Agli utenti più deboli? Agli acquirenti? All’intera umanità?
Beneficenza: Beneficenza per chi? Per gli utenti finali o per i proprietari del servizio?
Autonomia: Chi detiene realmente il potere di avviare e fermare questi servizi?
Giustizia: Sulla base di quale legge o diritto? Nazionale, continentale o planetario?
Spiegabilità: In che modo? I Grandi Modelli Linguistici (LLM) sono intrinsecamente opachi, anche quando il loro codice è open source.

Questi principi sono spesso formulati come raccomandazioni per gli sviluppatori su come costruire servizi “etichettati come etici”. Questo approccio è insufficiente. La vera svolta critica consiste nel cambiare domanda: invece di limitarci a come un servizio viene costruito, dobbiamo chiederci se i suoi obiettivi generali e i suoi effetti globali siano etici in primo luogo.

2.4 Verso un’etica applicata

L’insufficienza di questi principi astratti ci impone di adottare un modello più applicato. L’ambiguità di questi principi — la loro incapacità di definire chi trae beneficio o chi viene danneggiato — richiede un modello che definisca esplicitamente l’Agente (X), lo Strumento (Y) e il Destinatario (Z) di qualsiasi azione mediata dalla tecnologia.

3.0 L’Etica Applicata e la Prospettiva dei Media

3.1 La mediazione tecnologica

Nel campo dell’etica applicata alle tecnologie, l’analisi si sposta dall’azione in sé alla sua mediazione attraverso uno strumento. Un “media” non si limita a trasmettere un’azione, ma trasforma profondamente la relazione tra chi agisce (l’agente) e chi ne subisce gli effetti (il destinatario). Questo processo deresponsabilizza il primo (“Non sono stato io, è stata l’IA”) e altera la percezione del secondo, che tende a sopravvalutare il ruolo dello strumento rispetto a quello delle persone che lo hanno scelto, progettato e utilizzato.

3.2 La questione etica dei media

Per analizzare questa complessa interazione, formuliamo la “questione etica dei media” attraverso una formula centrale:

“Quali sono gli effetti su Z se X agisce tramite Y?”

Ogni variabile rappresenta un elemento chiave dell’analisi:

X (Agente): Chi compie l’azione. La responsabilità non è singola ma cumulativa, distribuita lungo ogni anello della catena, dall’investitore che finanzia il progetto, allo sviluppatore che scrive il codice, fino al decisore che lo implementa. Nessun singolo attore può rivendicare la neutralità.
Y (Strumento/Media): Il mezzo attraverso cui l’azione viene compiuta. In questo caso, è il servizio di IA, che non è mai uno strumento neutrale, ma un mediatore che trasforma l’azione e i suoi effetti.
Z (Destinatario): Chi riceve gli effetti dell’azione. Può essere l’utente diretto, soggetti deboli (bambini, anziani), l’intera umanità o tutti gli esseri viventi.

3.3 Gli effetti intrinseci dei servizi di IA

I servizi di IA, come altri media digitali, producono effetti intrinseci che vanno oltre il loro scopo immediato e che possiamo classificare in tre categorie:

Effetti Globali: L’impatto su larga scala, come la sostituzione di modi di lavorare e apprendere, la svalutazione di competenze pregresse e la trasformazione del territorio per la ricerca di risorse (energia, minerali rari).
Effetti Secondari: Le conseguenze indirette come l’enorme consumo di risorse (energia, acqua), la produzione di rifiuti e l’aumento del divario digitale.
Effetti Cognitivi: Gli effetti più nascosti sul nostro modo di pensare, come l’occultamento della struttura delle informazioni, la perdita di abilità cognitive e la presa di decisioni basate su dati limitati e distorti.

Questi sono precisamente i danni e i benefici che principi astratti come “Non maleficenza” e “Beneficenza” non riescono a cogliere adeguatamente senza una lente analitica specifica.

3.4 Dal modello allo strumento operativo

Comprendere questa prospettiva ci permette di passare dall’analisi teorica a uno strumento operativo. Il framework bidimensionale deriva direttamente da questo approccio ed è progettato per mappare e guidare le decisioni nei dilemmi etici concreti.

4.0 Il Framework di Valutazione Bidimensionale

4.1 Uno strumento per mappare le tensioni

Il framework di valutazione bidimensionale è uno strumento pratico per analizzare le tensioni tra le informazioni e i valori in gioco quando si valuta un servizio di IA. Il suo scopo non è fornire risposte assolute o giudizi di “buono” o “cattivo”, ma mappare i dilemmi etici per guidare scelte più consapevoli e trasparenti. Si basa su due assi che rappresentano due dilemmi fondamentali.

4.2 Prima dimensione: Affidabilità-Completezza

Questo asse rappresenta un dilemma fondamentale della conoscenza: un compromesso tra profondità e ampiezza. Un servizio può essere altamente specializzato e affidabile all’interno di un dominio limitato, oppure può puntare alla completezza coprendo tutto, ma non può fare entrambe le cose contemporaneamente. Quando valutiamo un servizio di IA, siamo costretti a negoziare questa tensione, decidendo quale livello di incompletezza siamo disposti ad accettare in cambio di affidabilità, e viceversa.

4.3 Seconda dimensione: Collettività-Identità

Questo asse rappresenta un dilemma fondamentale sui valori. Mette in luce la tensione tra il nostro bisogno di protezione e sicurezza garantite da una collettività e il nostro desiderio di preservare l’identità, l’autonomia e la privacy individuali. Un servizio che massimizza il bene per la collettività (ad esempio, la sicurezza pubblica) richiederà inevitabilmente una rinuncia a una parte della nostra libertà e privacy. La scelta etica consiste nel bilanciare questi due valori in competizione.

4.4 L’interdipendenza tra le dimensioni

Le due dimensioni non sono indipendenti, ma profondamente interconnesse. Le scelte fatte su un asse influenzano direttamente le possibilità sull’altro:

La sicurezza (collettività) richiede completezza. Per garantire la sicurezza di una comunità, è necessario presupporre che tutte le potenziali minacce siano note e controllate. Una singola vulnerabilità sconosciuta può compromettere l’intero sistema.
La privacy (identità) richiede affidabilità. Siamo disposti a condividere informazioni personali solo con servizi di cui ci fidiamo, che garantiscono che i nostri dati non verranno utilizzati per scopi diversi da quelli dichiarati.

4.5 Un framework per “leggere” i servizi

Questo framework non è una formula magica, ma una lente attraverso cui “leggere” i servizi di IA. Ci aiuta a rendere visibili le scelte etiche implicite nel loro design e nel loro utilizzo, trasformando un dibattito astratto in un’analisi concreta. La sua applicazione pratica a casi d’uso specifici ne dimostra l’utilità.

5.0 Guida Pratica all’Applicazione del Framework

5.1 Introduzione all’applicazione pratica

Questa sezione traduce la teoria del framework in uno strumento pratico. Analizzeremo due casi d’uso comuni di servizi IA per dimostrare come identificare e valutare i dilemmi etici che presentano.

5.2 Caso di Studio 1: Motori di Ricerca Intelligenti

Descrizione del servizio: I moderni motori di ricerca non si limitano più a fornire una lista di link, ma generano direttamente un riassunto dei contenuti per rispondere alla richiesta dell’utente.
Analisi con il framework (Affidabilità vs. Completezza): Questo servizio ci pone di fronte a un chiaro dilemma sull’asse Affidabilità-Completezza. L’utente è portato a fidarsi del riassunto generato dall’IA perché è comodo e rapido. Tuttavia, deve accettare che tale riassunto sia intrinsecamente incompleto, poiché l’IA ha selezionato solo alcune fonti e omesso dettagli. L’utente scambia la completezza (la verifica manuale delle fonti) con l’affidabilità percepita di una risposta immediata. La scelta etica consiste nel decidere quale livello di incompletezza siamo disposti ad accettare.

5.3 Caso di Studio 2: Modelli Linguistici di Grandi Dimensioni (LLM)

Descrizione del servizio: Gli LLM vengono utilizzati per elaborare documenti (tradurre, riassumere, estendere), attingendo sia da dati pubblici sia da documenti privati forniti dall’utente.
Analisi con il framework (Identità vs. Collettività): Questo caso d’uso illustra perfettamente la tensione sull’asse Identità-Collettività. Da un lato, l’utente desidera proteggere le informazioni personali contenute nei propri documenti (identità). Dall’altro, affinché il servizio funzioni correttamente, il modello deve attingere da un vasto corpus di dati affidabili e collettivi. L’utente vuole che il modello sia basato sulla conoscenza della collettività, ma teme che i suoi dati privati vengano usati impropriamente. La scelta etica implica un bilanciamento tra privacy individuale e affidamento a un sistema collettivo.

5.4 Dagli esempi alle raccomandazioni universali

Questi casi di studio dimostrano come il framework esponga le scelte etiche implicite. Per rendere esplicite queste scelte in qualsiasi contesto, dobbiamo ora distillare questo processo analitico in una serie di raccomandazioni universali e attuabili.

6.0 Raccomandazioni Finali per Decisioni Responsabili

6.1 Un distillato operativo

Questa sezione finale distilla i principi del manuale in una checklist operativa. Applicate le seguenti raccomandazioni per garantire che la vostra valutazione etica sia un processo continuo, concreto e orientato all’assunzione di responsabilità.

6.2 Checklist per la valutazione etica

Verificare (Check): Non date per scontata nessuna affermazione sull’etica di un servizio di IA. Se adottate una lista di principi, traducete ogni principio in una checklist concreta e applicatela sistematicamente al servizio in esame.
Analizzare le Condizioni (Conditions): Investigate cosa rende possibile un servizio IA (denaro, energia, lavoro umano, minerali rari) e cosa potrebbe bloccarlo (carenza di investimenti, limiti tecnici). La sostenibilità di un servizio è una questione etica fondamentale.
Essere Specifici (Specificity): Traducete le affermazioni astratte in domande specifiche e verificabili. Di fronte a una frase come “L’IA aiuterà l’inclusione”, chiedete: inclusione per chi? Tramite quale servizio specifico? A quali condizioni e per quanto tempo?
Valutare Vantaggi e Svantaggi ((Dis)advantages): Ponete sempre le due domande chiave: “chi trae vantaggio da questo servizio e a quale prezzo?” e “chi subisce o subirà svantaggi o danni?”. Questa analisi è un’applicazione diretta dello scopo del framework: mappare le tensioni tra Collettività e Identità e decidere dove, sull’asse Affidabilità-Completezza, il servizio ci costringe a operare.
Esigere Responsabilità e Trasparenza (Responsibility and Decisions): Garantite che la responsabilità per le decisioni e i loro effetti sia esplicitamente assunta da un soggetto umano identificabile. Il processo deve essere sempre trasparente e controllabile.
Evitare l’Effetto Narciso (Narcissus): Rimanete vigili. Spesso amiamo l’Intelligenza Artificiale perché ci restituisce un’immagine potenziata di noi stessi. Questo specchio può indurre una narcolessia critica, facendoci perdere di vista i problemi reali e le implicazioni più profonde.

6.3 Conclusione: l’etica come disciplina critica

L’etica dell’IA non è un certificato da ottenere, ma una disciplina critica da praticare. L’obiettivo non è raggiungere la fiducia, ma meritarsela costantemente attraverso un processo incessante di valutazione, scelta e assunzione di responsabilità.