Cómo aprende una red neuronal: del perceptrón a miles de millones de pesos

¿Tienes prisa por pasar a la práctica? Las lecciones 4 y 5 tratan sobre el funcionamiento interno de la IA. Puedes echarles un vistazo rápido y volver más tarde: la parte práctica empieza en la lección 9. Y cada profundización opcional de estas dos lecciones se encuentra en un bloque «Por dentro (opcional)» justo al final; el hilo principal sin ellas es corto.

La idea de una «red neuronal» tiene casi 70 años. El perceptrón de Rosenblatt de la lección uno encarnaba la misma idea — aprender de ejemplos. Pero cómo entrenar redes con muchas capas llegó más tarde, y la escala ha crecido en miles de millones desde entonces. Desglosemos la idea.

Una analogía: un principiante lanzando a canasta

Imagina a alguien lanzando un balón a canasta por primera vez. Primer lanzamiento — muy desviado. El cerebro anota: demasiado fuerte, apunta a la izquierda. Segundo — más cerca. Ajusta. Al lanzamiento número mil, entra casi siempre. Nadie les dio «la fórmula para un tiro perfecto» — surgió de la retroalimentación. Una red neuronal aprende exactamente de esta manera.

El bucle de entrenamiento: cuatro pasos

1. Predice. Muestras al modelo un ejemplo (una foto, un fragmento de texto) y este da una respuesta. Al principio del entrenamiento, es básicamente aleatorio.
2. Compara. La respuesta se compara con la correcta. La diferencia es el error, y puedes cuantificarlo.
3. Ajusta. Dentro de la red hay miles de millones de «mandos» numéricos, llamados pesos. Un algoritmo especial mueve cada uno un poquito para que el error disminuya. Un poquito es la clave: los movimientos bruscos rompen lo que ya se ha aprendido.
4. Repite. Siguiente ejemplo. Miles de millones de veces.

Cuando oyes «un modelo de 70 000 millones de parámetros», esa es la cuenta de esos mandos-peso. No confundas un parámetro con una neurona: un parámetro es la fuerza de una conexión (más cerca de una sinapsis en el cerebro), no la «neurona» en sí. Para una idea muy aproximada de la escala: el cerebro humano tiene ~86 000 millones de neuronas y billones de conexiones entre ellas — así que incluso un modelo enorme es, por número de conexiones, incomparablemente más simple que un cerebro.

Por qué esto cuesta millones

Miles de millones de ejemplos × miles de millones de pesos × miles de pasadas = una cantidad monstruosa de computación. Los modelos grandes se entrenan durante meses en decenas de miles de GPUs, las facturas ascienden a decenas de millones de dólares, y los centros de datos consumen tanta energía como una ciudad pequeña. Ahora está claro por qué el avance esperó a la década de 2010: esa cantidad de potencia simplemente no existía antes. Y por qué solo un puñado de empresas construye modelos grandes — mientras que todo el mundo los usa.

Tres formas de entrenar (las encontrarás en cada artículo de IA)

• Supervisado: ejemplos que vienen con las respuestas («esto es un gato», «esto es spam») — como nuestra analogía de la canasta. La mayoría de los modelos aplicados aprenden de esta manera.
• No supervisado: el modelo busca estructura en los datos sin pistas — agrupando clientes por comportamiento por sí solo, por ejemplo.
• Por refuerzo: aprendizaje a través de una recompensa por el resultado — así es como AlphaGo, jugando millones de partidas contra sí mismo, encontró movimientos que ningún humano conocía. Y así es como los chatbots de hoy obtienen su pulido final, a partir de las valoraciones humanas de las respuestas — por eso son educados y siguen las instrucciones.

El filtro de spam, de principio a fin (el bucle completo en un minuto)

Tomemos un ejemplo familiar y ejecutemos el bucle: se le muestra un correo electrónico al filtro → predice «spam, probabilidad 0.3» → la respuesta correcta era «spam» → el error es grande → los pesos vinculados a las palabras «prize» y «free» y a la dirección de remitente extraña se ajustan un poco al alza → el siguiente correo electrónico similar obtiene una puntuación de 0.7. Mil millones de correos electrónicos después, el filtro detecta el 99% del spam. Nadie escribió una regla que dijera «la palabra 'prize' es sospechosa» — esa regla surgió de los ejemplos. Ahora puedes ver este proceso detrás de cada característica de IA.

Dos consecuencias que explican mucho

1. Un modelo solo sabe lo que había en los datos. El entrenamiento terminó, el conocimiento se congeló. La fecha a partir de la cual el modelo no ha «visto» nada se llama fecha de corte de conocimiento. Las noticias de ayer, los documentos privados de tu empresa, los precios de hoy — nada de eso existe para el modelo hasta que se lo muestras por separado (subiendo un archivo o permitiéndole buscar en la web).

2. Calidad de los datos = calidad del modelo. Entrena con texto lleno de errores y obtendrás errores. Si los datos se inclinaban hacia un lado, el modelo hereda esa inclinación. Recuerda «basura entra, basura sale»: se refleja en tus propias peticiones a la IA (tus prompts) y al trabajar con bots de IA.

¿Puedes complementar su entrenamiento?

Sí — y más barato que entrenar desde cero: toma un modelo terminado y enséñale más con tus propios ejemplos (fine-tuning), o simplemente dale el conocimiento que necesita directamente en tu petición. La segunda forma es el prompting, y te harás bueno en ello en este curso.

Por dentro (opcional): por qué «neuronal»

Lo que sigue es una profundización opcional para los curiosos. No cambiará cómo trabajas con la IA en la práctica, así que siéntete libre de pasar directamente a la siguiente lección.

El nombre «red neuronal» no es una metáfora — se ha tomado directamente de la biología. Una neurona en el cerebro se conecta a miles de otras neuronas, y cada conexión tiene su propia fuerza: una sólida, otra apenas perceptible. Funciona de forma sencilla: recoge las señales de todo a lo que está conectada, multiplica cada una por la fuerza de esa conexión, las suma todas — y si la suma cruza un umbral, «dispara» una señal por la cadena. (El umbral es como un interruptor: si lo pulsas con demasiada suavidad, la luz no se enciende.)

Una neurona artificial copia ese esquema. Y la fuerza de cada conexión es exactamente el peso — el mando numérico del bucle de entrenamiento anterior. Entrenar una red = ajustar la fuerza de las conexiones, igual que tu cerebro fortalece las conexiones que necesita cuando adquieres una nueva habilidad. De ahí viene lo de «neuronal».

Después de eso, los caminos divergen: un cerebro aprende de un par de ejemplos y funciona con 20 vatios (menos que la bombilla de tu nevera), mientras que las redes neuronales necesitan millones de ejemplos y megavatios. Así que «neuronal» se refiere a la fuente de inspiración, no a un «cerebro electrónico»: copiamos el diagrama de cableado del cerebro, no la forma en que piensa.