Ética y sesgos de la IA: por qué puede ser injusta y cómo detectarlos

En las dos últimas lecciones —privacidad y derechos de autor— aprendiste a pensar en qué es seguro darle a una IA y quién es dueño de lo que te da. Eso nos deja la tercera pregunta del conjunto de ley, seguridad y ética: ¿puedes confiar en lo que dice una IA? ¿Y dónde puede causar un daño silencioso? Esta lección trata sobre la conciencia de la máquina, o más bien, su ausencia.

El mito con el que todo empieza

La creencia más peligrosa para principiantes suena convincente: «La IA es objetiva: son matemáticas, y los números no tienen prejuicios». Lógico, y casi siempre erróneo. El sesgo es una desviación sistemática en las decisiones de una IA que deja a algunas personas, temas o grupos en peor situación que a otros. Y no viene de las matemáticas, viene de los datos, los mismos datos que viste en la lección sobre los datos como combustible.

De dónde viene el sesgo: se hereda de los datos

Recuerda el principio fundamental de esa lección: un modelo no es más inteligente que sus datos. Absorbe todo lo que hay en ellos, incluidas las desviaciones en las que nadie pensó jamás. Si los datos reflejan la injusticia del pasado, la IA aprenderá esa injusticia y la trasladará limpiamente al futuro, con un aire de fría objetividad. La máquina no «decide ser injusta»; copia honestamente un patrón que encontró. Por eso no existe tal cosa como los datos «neutrales»: cada conjunto de datos lleva implícitas las elecciones de alguien (qué recopilar, a quién incluir, cómo etiquetarlo).

Ejemplos reales a tener en cuenta

Dos casos sobre los que los medios y los investigadores han escrito supuestamente (comprueba siempre los detalles exactos en las fuentes originales):

• Cribado de CV. Alrededor de 2018, una gran empresa tecnológica cerró una IA experimental que ayudaba a cribar CV: el sistema puntuaba más bajo a las candidatas. La razón: había sido entrenada con decisiones de contratación de años anteriores, dominadas por hombres, y el modelo tomó «hombre» como un marcador de buen candidato. Eso es sesgo en su forma más pura: los datos del pasado casi se convirtieron en un veredicto sobre el futuro.
• Reconocimiento facial. Según los investigadores, algunos sistemas de reconocimiento facial funcionaban notablemente peor para personas con piel más oscura y para mujeres, simplemente porque había menos caras de este tipo en las fotos de entrenamiento. Donde los datos son escasos, la IA se equivoca con más frecuencia, una continuación directa de la «mala generalización» de la lección sobre lo que la IA puede y no puede hacer.

La moraleja compartida: detrás de la elegante palabra «algoritmo» no se esconde un juez imparcial, sino un espejo de los datos. Un espejo deformado refleja una imagen deformada, y lo hace con confianza.

Deepfakes y desinformación: cuando no puedes creer lo que ven tus ojos ni lo que oyen tus oídos

El sesgo tiene un gemelo malvado: la mentira deliberada con la ayuda de la IA. Un deepfake es una foto, vídeo o voz generados o intercambiados por IA que parecen y suenan reales. La tecnología es la misma generación que escribe un soneto sobre tu gato (recuerda la lección sobre LLM), solo que orientada a falsear la realidad: la cara de una persona se inserta en el vídeo de otra, una voz se clona a partir de un par de minutos de grabación, una foto de un evento que nunca ocurrió aparece en segundos.

¿Cómo se utiliza para hacer daño? La desinformación es información deliberadamente falsa que se hace pasar por verdadera: una «declaración en vídeo» falsa de una figura conocida, una llamada «de un familiar» con una voz que no puedes distinguir, una foto falsa montada para un escándalo o una estafa. El peligro no es que un fake no pueda ser expuesto, es que es lo suficientemente plausible como para que lo creas en el primer segundo y lo reenvíes.

Cómo no caer en un fake

La defensa no es un detector técnico, es el hábito de dudar. Tres preguntas antes de creerlo y reenviarlo:

• ¿De dónde viene esto? ¿Hay una fuente original, o me lo «enviaron»? Una noticia impactante se confirma por medios independientes, no por un mensaje reenviado.
• ¿Quién se beneficia de que yo crea esto? Los fakes casi siempre venden algo: pánico, un voto, dinero, un golpe a la reputación de alguien.
• ¿Apela a la emoción y la urgencia? «Envía el dinero ahora», «comparte esto inmediatamente»: la firma clásica de la manipulación: la emoción fuerte desactiva la verificación.

Sobre el dinero específicamente: si un «familiar» o «tu jefe» te pide por voz una transferencia urgente, vuelve a llamarles al número habitual que ya conoces. Treinta segundos de verificación son más baratos que cualquier suma.

Uso responsable: dónde la IA puede hacer daño

Hay temas en los que un error de la IA no cuesta un texto estropeado, sino tu salud, tu dinero o tu libertad. Salud, derecho y finanzas son la zona roja. Un modelo puede recomendar con confianza una dosis peligrosa de un medicamento, inventar una ley que no existe (recuerda al abogado y los precedentes fabricados de la lección sobre alucinaciones) o darte consejos financieros sin nada detrás más que un tono plausible.

El principio clave de todo el curso resuena con más fuerza aquí: la responsabilidad del resultado es siempre de la persona. La IA es una herramienta, no un experto cualificado, y no quien responde por las consecuencias. No te ha examinado, no conoce tu situación completa y no pierde nada si se equivoca. Así que, en asuntos de salud, derecho y dinero, la IA es, en el mejor de los casos, una ayuda para preparar tus preguntas para un médico, abogado o asesor real, nunca un sustituto de su decisión.

Cómo detectar el sesgo: hábitos de trabajo

El sesgo es difícil de ver precisamente porque parece neutral. Algunos hábitos que lo exponen:

• Pregunta con qué fue entrenada. La pregunta principal del curso también funciona aquí: si había pocos datos sobre algún grupo o tema, espera que la desviación esté ahí mismo.
• Pide la alternativa y el punto de vista opuesto. «¿Cuáles son los argumentos en contra?», «¿qué posición has omitido aquí?»; así es como sacas a la luz lo que el modelo omitió por defecto.
• Verifica la realidad en los límites. Especialmente cuando una decisión afecta a personas, dinero o casos raros, verifica con una fuente independiente, no con la propia IA: su tono seguro no es una prueba (recuerda la lección sobre alucinaciones).
• No hagas pasar la opinión de una IA por un hecho. La respuesta de un modelo es una versión plausible, no la última palabra.

Haz esto ahora

Un ejercicio sin herramientas: solo tu cabeza y una hoja de papel. Imagina tres situaciones: (1) alguien te envía un vídeo impactante de una persona conocida; (2) un servicio de IA está cribando candidatos para el trabajo de tus sueños; (3) un chatbot te aconseja qué medicamento tomar. Para cada una, escribe las respuestas a dos preguntas: ¿dónde podría esconderse un sesgo o un fake aquí? ¿cómo lo verificaría antes de creerlo o actuar en consecuencia? Compara tus respuestas y fíjate en que el mismo hábito te salva en las tres: nunca te fíes ciegamente de la salida de una IA. Esa es la habilidad clave de la era digital, y el puente a la siguiente lección, donde armarás tu propio camino de desarrollo.