Qué puede y no puede hacer la IA: límites honestos
Una regla sencilla: si una persona resuelve la tarea en un segundo y hay muchos ejemplos similares, la IA probablemente la gestionará. Si la situación es nueva y diferente a todo lo que ha visto, se equivocará —con seguridad—. Encontramos esa línea usando coches autónomos y medicina. Y descubrimos cómo decidir de antemano si entregar una tarea a la IA.
De la lección anterior ya sabes que la fuerza de la IA depende de sus datos. Ahora, tracemos un mapa honesto de sus límites — qué puede hacer realmente la IA y qué está más allá de ella en principio. Esa es la respuesta a «cuándo no usar la IA».
La regla principal: la prueba del segundo
Ten en cuenta una regla sencilla y te ahorrará años de ilusiones: si una persona resuelve la versión típica de una tarea en aproximadamente un segundo de reflexión —y el mundo está lleno de ejemplos de ello—, la IA probablemente la gestionará. Detectar un coche en una foto, escuchar una palabra, distinguir el spam del que no lo es, reconocer una cara —todas estas son tareas de percepción de «un segundo», y hay un océano de datos para ellas. La IA es fuerte aquí.
Ahora, la otra cara de la moneda: predecir el precio de una acción con un mes de antelación basándose en precios pasados no es una tarea de un segundo, y lo que es más importante, los precios pasados no predicen los futuros. Un doble fracaso: la reflexión lleva mucho tiempo y, de todos modos, no hay un patrón en los datos. La regla es tosca pero fiable: la IA es una especialista brillante en el reconocimiento instantáneo, no una sabia que sopesa las consecuencias.
Ejemplos emparejados: qué puede / qué no puede
- Un coche autónomo. Puede: determinar con la cámara y el radar dónde están los otros coches en la carretera — hay millones de ejemplos etiquetados. Le cuesta enormemente: leer el gesto de una persona — un trabajador de la construcción que te hace señas para que te detengas, un ciclista que indica un giro con el brazo. Hay infinitas formas de gesticular, no puedes recopilar tantos ejemplos, y el coste de equivocarse es una vida.
- Medicina. Puede: detectar neumonía en una radiografía cuando hay miles de imágenes etiquetadas como «enfermo / sano». No puede: aprender un diagnóstico de una docena de imágenes en un libro de texto, como lo hace un estudiante de medicina. Una persona generaliza a partir de unos pocos ejemplos; la IA los necesita en grandes cantidades.
La debilidad subestimada: la mala generalización
Aquí hay un límite del que casi nadie habla. La IA es fuerte con datos similares a los que vio en el entrenamiento, y frágil con cualquier cosa diferente. Coge un modelo entrenado con radiografías limpias de una clínica, muévelo a otra donde las imágenes se toman con un ángulo diferente en equipos distintos y con más ruido, y la precisión baja notablemente. Un médico real se adapta a un nuevo hospital en un día; la IA no puede.
Recuerda el principio: la IA no «entiende» la tarea, ajusta una respuesta a ejemplos familiares — cambia los ejemplos y la confianza se desmorona. Esto se deriva directamente de la lección sobre datos: lo que importa no es solo la calidad de los datos, sino cuánto se parecen al lugar donde el modelo realmente funcionará.
Por qué parece que la IA puede hacerlo todo
Ten cuidado con las noticias. Solo las victorias de la IA son noticia: venció al campeón, aprobó el examen, pintó una obra maestra. Los fracasos —cientos de proyectos silenciosos donde la IA nunca despegó— apenas se publican. Esa distorsión es de donde viene la ilusión de omnipotencia. Una imagen realista significa tener en cuenta también la otra mitad —la mitad que nadie menciona—.
Espera un segundo: si la IA pudiera predecir de forma fiable el precio de las acciones de mañana, ¿alguien te vendería acceso a ella por un par de dólares al mes?
Claro que no — el propietario se haría rico en silencio. Cada promesa de que «la IA predecirá el mercado» se rompe con ese simple pensamiento. Y al no encontrar ningún patrón, el modelo hace lo que describe la lección sobre alucinaciones — te entrega una previsión segura y plausible sin nada detrás.
Cuatro preguntas: ¿deberías encargarle esto a la IA?
- ¿Es una tarea de «un segundo» y hay muchos ejemplos? Percepción y generación con muchos datos — zona verde.
- ¿Se parecen los datos al lugar donde la IA realmente funcionará? Con cualquier cosa diferente, la IA es frágil.
- ¿Qué coste tiene equivocarse y puedes verificar el resultado? Alto coste sin forma de verificar — detente.
- ¿Tiene la IA los datos que necesita? Cualquier cosa reciente, privada o muy específica (recuerda el límite de conocimiento) puede que nunca la haya visto.
Luz verde: una tarea de un segundo con muchos datos similares, un bajo coste de error, un resultado verificable. Roja: una decisión lenta y trascendental, datos desconocidos, un alto coste y sin forma de verificar.
Haz esto ahora
Un ejercicio sin herramientas — solo tu cabeza y una hoja de papel. Anota cinco tareas reales de tu semana y pásalas por la prueba del segundo y las cuatro preguntas de esta lección. Marca cuáles le encargarías a la IA sin preocuparte (reconocer, resumir, esbozar un borrador) y cuáles te quedarías (decisiones donde equivocarse es costoso, datos nuevos, responsabilidad, condiciones desconocidas). Esa lista es tu mapa personal de «delegar / conservar».
El mecanismo y los límites están claros ahora — es hora de tomar el control, que es para lo que sirve el siguiente módulo: primero veremos ejemplos para tu propio ámbito de trabajo, luego escribirás tu primer prompt real.
Short questions on the lesson — with an explanation for every answer.