Etica & AI
Etica applicata
ai dati e all'AI
Fra ciò che la tecnologia rende possibile e ciò che la norma consente resta uno spazio di scelta. È lì che si decide quale uso dei dati e dell'intelligenza artificiale la tua organizzazione è disposta a difendere.
ParliamoneIl punto di partenza
Perché l'etica non è un supplemento
Le norme sui dati e sull'intelligenza artificiale non descrivono una soluzione per ogni caso: fissano principi, distribuiscono responsabilità e affidano all'organizzazione il compito di valutare. Il GDPR chiede un trattamento corretto oltre che lecito (art. 5, par. 1, lett. a); l'AI Act pretende una supervisione umana che sia effettiva, non dichiarata.
In quello spazio la scelta tecnica diventa una scelta di valore, e non è delegabile al fornitore del software. Decidere quali dati usare per addestrare un modello, quanto peso dare al suo output, chi risponde quando l'esito è sfavorevole per una persona: sono decisioni che precedono l'adempimento e ne determinano la qualità.
L'etica applicata non è un discorso astratto affiancato alla compliance. È il metodo che permette di motivare quelle decisioni prima che l'incidente le renda urgenti, e di documentarle in un modo che regga il confronto con l'Autorità, con il mercato e con le persone coinvolte.
Il riferimento
I sette requisiti dell'IA affidabile
Le Ethics Guidelines for Trustworthy AI elaborate dal gruppo di esperti di alto livello della Commissione europea chiedono un'intelligenza artificiale insieme lecita, etica e robusta, e traducono questa formula in sette requisiti operativi.
Intervento e sorveglianza umani
Il sistema sostiene la decisione, non la sostituisce. Vanno individuati i punti in cui una persona deve poter comprendere, verificare e, se necessario, fermare l'output.
Robustezza tecnica e sicurezza
Accuratezza, affidabilità dei risultati e resistenza agli usi impropri. Un sistema che si comporta in modo imprevedibile produce effetti sulle persone che nessuna informativa può giustificare.
Riservatezza e governance dei dati
Qualità e provenienza dei dati di addestramento, minimizzazione, controllo degli accessi. La governance dei dati è il presupposto tecnico di ogni discorso etico sull'IA.
Trasparenza
Tracciabilità dei processi, spiegabilità delle decisioni e consapevolezza dell'interlocutore di stare dialogando con una macchina. Spiegare non significa consegnare documentazione tecnica.
Diversità, non discriminazione ed equità
I dati storici portano con sé le disuguaglianze che li hanno generati. Senza verifiche sui gruppi protetti, un modello statisticamente corretto può produrre esiti sistematicamente ingiusti.
Benessere sociale e ambientale
L'impatto di un sistema non si esaurisce nell'organizzazione che lo adotta: tocca il lavoro delle persone, il rapporto con gli utenti e il consumo di risorse che la sua adozione comporta.
Accountability
Ruoli definiti, decisioni documentate, canali di segnalazione e possibilità di rimedio per chi subisce un esito sfavorevole. Ciò che non è documentato, nel confronto con l'Autorità non è mai avvenuto.
I casi concreti
Dove il dilemma si presenta davvero
Non nelle grandi questioni di principio, ma in decisioni quotidiane che sembrano puramente organizzative.
Decisioni automatizzate sulle persone
L'art. 22 del GDPR riconosce all'interessato il diritto di non essere sottoposto a decisioni basate unicamente su un trattamento automatizzato che producano effetti giuridici o incidano in modo analogo.
Bias e discriminazione algoritmica
Selezione del personale, valutazione del merito creditizio, assegnazione di turni e priorità: sono contesti in cui il modello apprende da dati che riflettono disparità preesistenti. L'AI Act colloca fra i sistemi ad alto rischio proprio gli usi legati all'occupazione e all'accesso a servizi essenziali, dove l'errore ricade sulla persona e non sull'organizzazione.
IA generativa e dati altrui
Il caso più frequente è il più banale: un prompt che contiene dati di clienti, pazienti o dipendenti inviato a un servizio di terzi. Prima ancora della base giuridica e del trasferimento verso paesi terzi, si pone il principio di minimizzazione dell'art. 5, par. 1, lett. c) del GDPR e la sorte dei dati inseriti, che possono essere trattenuti o riutilizzati dal fornitore.
Monitoraggio e ambiente di lavoro
L'AI Act vieta l'immissione sul mercato e l'uso di sistemi di riconoscimento delle emozioni sul luogo di lavoro e negli istituti di istruzione, salvo ragioni mediche o di sicurezza. Sul versante interno restano i limiti dell'art. 4 dello Statuto dei lavoratori: la tecnologia disponibile amplia le possibilità di controllo molto più rapidamente di quanto le regole interne sappiano seguirle.
Una trasparenza che si possa capire
Gli artt. 13, 14 e 15 del GDPR chiedono informazioni significative sulla logica utilizzata e sulle conseguenze previste. Il punto delicato non è tecnico ma comunicativo: dire alla persona che cosa ha pesato sulla decisione che la riguarda, in una lingua che possa comprendere, senza per questo esporre segreti industriali.
Minori e persone vulnerabili
Quando il destinatario è un minore, un paziente o una persona in condizione di dipendenza economica, il consenso perde gran parte della sua funzione di tutela. La valutazione si sposta sulla proporzionalità della finalità perseguita e sull'esistenza di alternative meno invasive.
Il servizio
Come si traduce in pratica
L'incarico produce documenti e procedure utilizzabili, non dichiarazioni di intenti.
Mappatura dei sistemi di IA in uso
Inventario dei sistemi già adottati o in progetto, qualificazione del ruolo dell'organizzazione — fornitore o deployer — e collocazione di ciascun sistema nella classificazione del rischio dell'AI Act.
Policy interna sull'uso dell'IA
Un documento operativo che stabilisce chi può usare quali strumenti, per quali finalità, con quali dati e con quale verifica sull'output. È il presidio che evita l'adozione informale e non tracciata degli strumenti generativi.
Codice etico e organo di indirizzo
Definizione dei principi che l'organizzazione assume come propri e del luogo in cui i casi dubbi vengono discussi e decisi: un comitato etico, un gruppo di lavoro interfunzionale o una funzione già esistente cui attribuire il compito.
Valutazioni d'impatto
La valutazione d'impatto sulla protezione dei dati prevista dall'art. 35 del GDPR e, dove l'AI Act la richiede, la valutazione d'impatto sui diritti fondamentali: condotte insieme, evitano di istruire due volte la stessa analisi.
Supervisione umana effettiva
Individuazione dei punti del processo in cui la decisione deve restare umana, delle competenze necessarie a chi la assume e delle condizioni che rendono quella supervisione reale e non una firma di conferma.
Fornitori e clausole contrattuali
Verifica delle condizioni d'uso dei servizi di IA, delle garanzie sui dati inseriti e delle responsabilità in caso di malfunzionamento, con la redazione delle clausole e degli accordi sul trattamento dei dati.
Le fonti
Su quali riferimenti lavoro
L'etica applicata non si improvvisa: si appoggia a documenti riconosciuti, che offrono criteri verificabili e un linguaggio comune con controparti e Autorità.
Regolamento (UE) 2024/1689 (AI Act)
Il regolamento del Parlamento europeo e del Consiglio del 13 giugno 2024 sull'intelligenza artificiale: la cornice vincolante che classifica i sistemi per livello di rischio e fissa obblighi, tempi e responsabilità lungo la catena del valore.
Legge 132/2025 e decreti attuativi
La legge italiana sull'intelligenza artificiale e i decreti attuativi che ne definiscono l'applicazione: il livello nazionale che innesta l'AI Act nell'ordinamento interno, con le sue scelte su settori, autorità e sanzioni.
Ethics Guidelines for Trustworthy AI e ALTAI
Le linee guida del gruppo di esperti di alto livello della Commissione europea e la lista di autovalutazione che ne deriva, base dei sette requisiti.
Carta dei diritti fondamentali dell'Unione europea
Il parametro rispetto al quale si misura l'impatto di un sistema sulle persone: dignità, non discriminazione, protezione dei dati, tutela giurisdizionale.
Raccomandazione UNESCO sull'etica dell'intelligenza artificiale
Il riferimento internazionale adottato nel 2021, utile soprattutto per organizzazioni che operano oltre il perimetro europeo.
Convenzione quadro del Consiglio d'Europa sull'IA
Il primo trattato internazionale che lega intelligenza artificiale, diritti umani, democrazia e Stato di diritto.
ISO/IEC 42001
Lo standard sui sistemi di gestione dell'intelligenza artificiale, per chi vuole strutturare la governance in forma certificabile.
Primo confronto
Che uso stai facendo dell'AI?
Un primo incontro serve a mettere in fila gli strumenti già in uso nella tua organizzazione — spesso più di quanti la direzione ne conosca — e a capire quali decisioni meritano una regola scritta prima che diventino un caso da gestire.
Scrivimi