Etica e bias dell'IA: perché può essere ingiusta e come riconoscerlo

Nelle ultime due lezioni — privacy e copyright — hai imparato a riflettere su cosa sia sicuro dare a un'IA e chi possieda ciò che essa ti dà. Questo ci porta alla terza domanda nell'ambito di legge, sicurezza ed etica: puoi **fidarti** di ciò che dice un'IA, e dove può causare danni silenziosi? Questa lezione riguarda la coscienza della macchina — o meglio, la sua assenza.

Il mito da cui tutto ha inizio

La convinzione più pericolosa per un principiante suona convincente: *«L'IA è oggettiva — è matematica, e i numeri non hanno pregiudizi»*. Logico — e quasi sempre sbagliato. Il **bias** è una distorsione sistematica nelle decisioni di un'IA che svantaggia alcune persone, argomenti o gruppi rispetto ad altri. E non deriva dalla matematica, ma dai dati — gli stessi dati che hai esaminato nella lezione sui dati come carburante.

Da dove viene il bias: è ereditato dai dati

Ricorda il principio fondamentale di quella lezione: un modello non è più intelligente dei suoi dati. Assorbe tutto ciò che c'è, incluse distorsioni a cui nessuno aveva mai pensato. Se i dati riflettono le ingiustizie del passato, l'IA imparerà quell'ingiustizia e la trasporterà ordinatamente nel futuro — indossando un'aria di fredda oggettività. La macchina non «decide di essere ingiusta»; copia onestamente un modello che ha trovato. Ed è esattamente per questo che non esiste un dato «neutro»: ogni dataset include le scelte di qualcuno — cosa raccogliere, chi includere, come etichettarlo.

Esempi concreti dalla vita reale

Due casi di cui media e ricercatori hanno *riferito* (controlla sempre i dettagli esatti nelle fonti originali):

• Screening di CV. Intorno al 2018, una grande azienda tecnologica ha disattivato un'IA sperimentale che aiutava a selezionare i CV: il sistema assegnava punteggi inferiori alle candidate donne. Il motivo — era stata addestrata su decisioni di assunzione degli anni precedenti, dominate dagli uomini, e il modello aveva interpretato «uomo» come indicatore di un buon candidato. Questo è il bias nella sua forma più pura: i dati del passato sono quasi diventati un verdetto sul futuro.
• Riconoscimento facciale. Secondo i ricercatori, alcuni sistemi di riconoscimento facciale funzionavano notevolmente peggio per le persone con pelle più scura e per le donne — semplicemente perché c'erano meno volti di questo tipo nelle foto di addestramento. Dove i dati sono scarsi, l'IA sbaglia più spesso — una diretta continuazione della «scarsa generalizzazione» dalla lezione su cosa l'IA può e non può fare.

La morale comune: dietro l'elegante parola «algoritmo» non si cela un giudice imparziale, ma uno specchio dei dati. Uno specchio deformato riflette un'immagine deformata — e lo fa con sicurezza.

Deepfake e disinformazione: quando non puoi credere ai tuoi occhi o alle tue orecchie

Il bias ha un gemello malvagio — la menzogna deliberata con l'aiuto dell'IA. Un **deepfake** è una foto, un video o una voce generati o scambiati dall'IA che sembrano e suonano reali. La tecnologia è la stessa generazione che scrive un sonetto sul tuo gatto (ricordi la lezione sugli LLM), solo che è puntata a falsificare la realtà: il volto di una persona viene inserito nel video di qualcun altro, una voce viene clonata da un paio di minuti di registrazione, una foto di un evento mai accaduto appare in pochi secondi.

Come viene usato per fare del male? La **disinformazione** è un'informazione deliberatamente falsa spacciata per vera: una falsa «dichiarazione video» di una figura nota, una chiamata «da un parente» con una voce che non riesci a distinguere, una foto falsa creata per uno scandalo o una truffa. Il pericolo non è che un falso non possa essere smascherato — è che sia *abbastanza plausibile* da farti credere in un primo momento e inoltrarlo.

Come non cadere in un inganno

La difesa non è un rilevatore tecnico, è l'abitudine al dubbio. Tre domande prima di crederci e inoltrarlo:

• Da dove viene? C'è una fonte originale — o ti è stato «inviato»? Una notizia sensazionale viene confermata da fonti indipendenti, non da un messaggio inoltrato.
• Chi trae vantaggio dal fatto che io ci creda? I falsi quasi sempre vendono qualcosa: panico, un voto, denaro, un colpo alla reputazione di qualcuno.
• Fa leva sull'emozione e sull'urgenza? «Invia i soldi ora», «condividi subito» — la classica firma della manipolazione: una forte emozione disattiva il controllo.

Sul denaro in particolare: se un «parente» o il «tuo capo» chiede a voce un trasferimento urgente, richiamalo al numero normale che già conosci. Trenta secondi di verifica sono più economici di qualsiasi somma.

Uso responsabile: dove l'IA può fare danni

Ci sono argomenti in cui un errore dell'IA non costa un pezzo di testo rovinato, ma la tua salute, i tuoi soldi o la tua libertà. **Salute, legge e finanza** sono la zona rossa. Un modello può raccomandare con sicurezza una dose pericolosa di un medicinale, inventare una legge che non esiste (ricordi l'avvocato e i precedenti inventati dalla lezione sulle allucinazioni), o darti consigli finanziari senza nulla dietro se non un tono plausibile.

Il principio chiave dell'intero corso risuona più forte qui: la **responsabilità del risultato è sempre della persona**. L'IA è uno strumento, non un esperto qualificato, e non è chi risponde delle conseguenze. Non ti ha esaminato, non conosce la tua situazione completa e non perde nulla se sbaglia. Quindi, in questioni di salute, legge e denaro, l'IA è al massimo un aiuto per preparare le tue domande per un vero medico, avvocato o consulente — mai un sostituto della loro decisione.

Come individuare il bias — abitudini di lavoro

Il bias è difficile da vedere proprio perché sembra neutro. Alcune abitudini che lo smascherano:

• Chiedi su cosa è stata addestrata. La domanda principale del corso funziona anche qui: se c'erano pochi dati su un gruppo o un argomento, aspettati che la distorsione sia proprio lì.
• Chiedi l'alternativa e il punto di vista opposto. «Quali sono gli argomenti contrari?», «la posizione di chi hai tralasciato qui?» — è così che tiri fuori ciò che il modello ha saltato per impostazione predefinita.
• Verifica la realtà ai margini. Soprattutto dove una decisione tocca persone, denaro o casi rari — verifica con una fonte indipendente, non con l'IA stessa: il suo tono sicuro non è una prova (ricordi la lezione sulle allucinazioni).
• Non spacciare l'opinione di un'IA per un fatto. La risposta di un modello è una versione plausibile, non la parola definitiva.

Fallo ora

Un esercizio senza strumenti — solo la tua testa e un foglio di carta. Immagina tre situazioni: (1) qualcuno ti invia un video scioccante di una persona nota; (2) un servizio di IA sta selezionando candidati per il lavoro dei tuoi sogni; (3) un chatbot ti consiglia quale medicinale prendere. Per ciascuna, scrivi le risposte a due domande: *dove potrebbero nascondersi bias o un falso qui? come lo verificherei prima di crederci o agire di conseguenza?* Confronta le tue risposte — e nota che la stessa abitudine ti salva in tutti e tre i casi: non prendere mai l'output di un'IA per oro colato. Questa è la competenza fondamentale dell'era digitale — e il ponte verso la prossima lezione, dove metterai insieme il tuo percorso di sviluppo.