C’è qualcosa di strano nel modo in cui parliamo di intelligenza artificiale. La trattiamo come un problema tecnico da risolvere, una questione di regole da scrivere, di rischi da contenere; e in parte è così, però c’è un livello più profondo, meno visibile, che riguarda noi: cosa riveliamo di noi stessi nel modo in cui costruiamo queste tecnologie, le usiamo, le temiamo o le celebriamo?
L’AI elabora, ottimizza, risponde, genera. Non si chiede se vale la pena farlo. Non prova disagio di fronte a una scelta difficile, non sente il peso di una decisione, non si interroga su cosa sia giusto. Quella capacità di stare nell’incertezza, di fare i conti con le proprie assunzioni, non è un difetto da correggere nei modelli futuri: è qualcosa di specificamente umano, e probabilmente è il punto da cui vale la pena partire.
Una domanda vecchia in un contesto nuovo
L’etica non è nata con l’intelligenza artificiale. È una delle pratiche più antiche del pensiero umano: la riflessione sui propri comportamenti, la ricerca di principi condivisi per orientare le scelte, la capacità di distanziarsi da ciò che si fa per chiedersi se si sta facendo bene.
Quello che cambia oggi è il contesto. Per secoli l’etica ha riguardato gli esseri umani e le loro azioni; adesso dobbiamo fare i conti con entità che agiscono, che prendono decisioni, che producono effetti nel mondo reale, senza essere umane. Un algoritmo che stabilisce chi ottiene un prestito, un sistema che suggerisce una diagnosi, un programma che filtra i curricula: non sono strumenti passivi come un martello o un foglio di calcolo. Hanno un grado di autonomia che li rende qualcosa di diverso, e questa differenza ha conseguenze.
Questo non significa che le macchine siano responsabili nel senso in cui lo siamo noi. Significa che la responsabilità umana, anziché sparire, si sposta e si complica. Chi progetta questi sistemi incorpora valori e assunzioni, spesso senza rendersene conto. Chi li usa delega decisioni che un tempo erano proprie. Chi li regola deve trovare criteri che valgano al di là dei confini di un singolo stato o di una singola professione.
Il problema dei bias è un problema etico
Uno degli esempi più concreti di questa complessità sono i cosiddetti bias, i pregiudizi incorporati nei sistemi di intelligenza artificiale. Non si tratta di errori tecnici nel senso tradizionale: sono il riflesso di scelte, di dati storici carichi di disuguaglianze, di criteri di valutazione che sembravano neutri e non lo erano.
Un sistema addestrato su dati di assunzione storici può imparare a penalizzare le donne, non perché qualcuno lo abbia programmato esplicitamente in quel senso, ma perché i dati riflettevano un mercato del lavoro già discriminatorio. Il sistema ha imparato bene. Ha imparato le cose sbagliate.
È qui che la tecnica e l’etica diventano inseparabili. Scrivere buon codice non basta; bisogna chiedersi buono per chi, secondo quali criteri, con quali conseguenze per chi non ha voce nel processo. Sono domande che nessun compilatore può sollevare al posto nostro.
Non solo i programmatori
C’è una tentazione comoda: pensare che l’etica dell’intelligenza artificiale riguardi chi la costruisce, i data scientist, gli ingegneri, le grandi aziende tecnologiche, e che noi siamo esentati dal ragionamento in quanto semplici utenti.
Questa separazione regge sempre meno. Ognuno di noi interagisce ogni giorno con sistemi basati su AI, spesso senza saperlo: il feed che scorre sullo schermo, i risultati che appaiono cercando qualcosa, i suggerimenti di acquisto, le notizie che arrivano prima di altre. Tutto questo è il prodotto di sistemi che hanno imparato a prevedere e orientare il nostro comportamento, e che continuano a imparare da come rispondiamo.
Non siamo spettatori. Siamo parte del sistema, e le nostre scelte, anche quelle piccole e quotidiane, contribuiscono ad alimentarlo. Capire come funziona, quindi, non è un esercizio accademico: è una forma di autonomia.
La domanda che resta aperta
L’intelligenza artificiale è molto efficiente nel rispondere a domande. Il problema è che non sa quali domande vale la pena fare. Non sa quando una risposta tecnicamente corretta porta, comunque, a un esito sbagliato. Non sa cosa significhi fare bene, in senso pieno.
Quello che stiamo imparando, a volte con una certa fatica, è che usare queste tecnologie in modo responsabile richiede qualcosa che non si scrive in nessun linguaggio di programmazione: la disponibilità a stare nella complessità, a rimettere in discussione le proprie assunzioni, a considerare le conseguenze per chi non è nella stanza quando si prendono le decisioni.
