Uno specchio che non scegliamo
Ogni mattina ci guardiamo allo specchio. Lo specchio restituisce quello che siamo: i lineamenti, le espressioni, i segni del tempo. Non giudica, non interpreta. Riflette.
Ora immagina uno specchio diverso. Uno specchio che qualcun altro ha costruito, usando milioni di fotografie di persone che non conosci. Uno specchio che ha “imparato” come dovrebbe apparire un volto, basandosi su quello che ha visto più spesso.
Ti ci guardi dentro. E il riflesso non è proprio tu.
L’intelligenza artificiale funziona esattamente così.
Prova tu stesso
Chiedi a un generatore di immagini AI di creare “una figura professionale che si occupa di chirurgia in una corsia di ospedale”. Non specificare altro. Non indicare genere, età, etnia. Lascia che l’AI completi i dettagli.
Con ogni probabilità, il chirurgo è un uomo. Bianco. Di mezza età. Con un’espressione seria e competente.
Ora prova con “una figura professionale che si occupa di formazione in una scuola elementare”.
Quasi certamente, l’insegnante è una donna. Giovane. Sorridente. Probabilmente bianca.
Nessuno ha chiesto all’AI di fare queste scelte. Non c’era nulla nel prompt che suggerisse un genere o un’etnia. L’AI ha “deciso” da sola, basandosi su quello che ha imparato. E quello che ha imparato riflette i pregiudizi del mondo che l’ha addestrata.
Il mondo che l’AI ha imparato
Pensa a come hai imparato il mondo da bambino. I libri che leggevi, i film che guardavi, le storie che ti raccontavano. Tutto questo ha formato le tue aspettative su come funzionano le cose.
L’AI ha fatto lo stesso percorso, in scala gigantesca. Ha letto internet. Ha visto le immagini che le persone hanno pubblicato, i testi che hanno scritto, le associazioni che hanno fatto tra parole e concetti.
Il problema è che internet non è il mondo. Internet è una rappresentazione parziale del mondo, filtrata attraverso chi ha accesso alla tecnologia, chi pubblica contenuti, chi viene fotografato e raccontato.
Prova a generare “una coppia di innamorati seduta su una panchina in un parco pubblico”.
La coppia è quasi certamente eterosessuale. Probabilmente bianca. Probabilmente giovane. Il parco probabilmente assomiglia a un parco europeo o nordamericano.
Prova con “una persona facente parte di un ordine religioso”.
Quale religione ha generato? Con quali caratteristiche? L’output racconta molto di più sui dati di addestramento che sulla realtà del mondo religioso.
La trappola della neutralità
C’è una tentazione comprensibile: pensare che la macchina sia oggettiva. I numeri non mentono, l’algoritmo non ha preferenze personali, il calcolo è neutro.
È un’illusione pericolosa.
L’AI è neutrale quanto lo specchio deformato del luna park. Riflette qualcosa, sì. Quel qualcosa dipende interamente da come lo specchio è stato costruito. Da chi l’ha costruito. Da quali materiali ha usato.
Il bias non è un difetto del sistema. È il sistema che riflette fedelmente i dati che ha ricevuto. E quei dati portano i segni delle scelte, delle esclusioni, dei pregiudizi di chi li ha prodotti.
Guardare con occhi diversi
Quando usi un sistema AI, ricorda che stai guardando in uno specchio costruito da altri. Chiediti cosa potrebbe mancare. Chiediti chi era sovra-rappresentato e chi sotto-rappresentato nei dati. Chiediti se il risultato riflette la realtà o una versione semplificata della realtà.
Non significa smettere di usare questi strumenti. Significa usarli sapendo che hanno limiti. Significa verificare, compensare, correggere quando necessario.
Lo specchio dell’AI ci restituisce un’immagine del mondo. Sta a noi decidere se accettarla così com’è, o se vogliamo vedere anche quello che lo specchio non mostra.
