Privacidad y seguridad: qué puedes y qué no puedes introducir en la IA

En la última lección —la de tu primer prompt— te di una advertencia: no pegues datos confidenciales en chats de IA gratuitos. Es una frase importante, así que vamos a desglosarla. Este es el error de principiante más subestimado, e incluso las grandes corporaciones lo cometen.

¿Dónde está el riesgo, exactamente?

Recuerda la lección sobre cómo aprende una red: un modelo crece con los datos que se le muestran. En muchos servicios, la regla predeterminada en los planes gratuitos es que tus conversaciones pueden usarse para entrenar futuras versiones del modelo. Pegas texto en el cuadro de chat y este se envía a los servidores de la empresa, donde puede ser revisado durante los controles de calidad e incorporado a los datos de entrenamiento.

Los datos confidenciales son cualquier cosa que no querrías que vieran personas ajenas: contraseñas, listas de clientes, documentos internos, términos comerciales. Si envías eso a un chat gratuito, es como si lo hubieras sacado de la oficina.

Samsung, primavera de 2023: así es en la vida real

La historia se ha convertido en un caso de estudio. En la primavera de 2023, a los ingenieros de una división de Samsung se les permitió usar ChatGPT para trabajar. Según los informes de los medios, ocurrieron varios incidentes en cuestión de semanas: los empleados pegaron código fuente interno y el contenido de una reunión interna cerrada en el chat, para que la IA pudiera ayudar a encontrar un error y redactar las notas.

Los datos fueron a parar a los servidores de otra persona, y no hay forma de recuperarlos. La reacción de la empresa fue firme: Samsung restringió el uso de IA generativa en los dispositivos de trabajo. Ese mismo año, según la prensa económica, los principales bancos y corporaciones impusieron restricciones similares —JPMorgan y Apple fueron algunos de los nombrados— preocupados exactamente por lo mismo.

La moraleja es la misma que en la lección sobre las alucinaciones: la persona es responsable, no la herramienta. Allí, fue quien no verificó el resultado; aquí, es quien no pensó adónde iba su texto.

La zona roja: lo que nunca debe introducirse

• 🔑 Contraseñas, claves, códigos de acceso — nunca, en ningún sitio.
• 👥 Datos personales. Los datos personales son información que puede identificar a una persona específica: nombres de otras personas, números de teléfono, direcciones, pasaportes, historiales médicos. Protegerlos es una cuestión legal (RGPD en Europa, y la mayoría de los países tienen sus propias leyes de datos personales), y quien cause una fuga responde por ello.
• 📄 Secretos comerciales. Un secreto comercial es información que da a una empresa una ventaja precisamente porque los competidores no la tienen: contratos privados, precios, finanzas, estrategia, código fuente.
• 🏥 Cosas sensibles sobre personas — salud, salarios, correspondencia privada.

La zona verde: lo que es seguro introducir

• Texto que ya es público o que se está preparando para su publicación de todos modos.
• Tus propios borradores, sin secretos de nadie más.
• Problemas de práctica y preguntas abstractas.
• Datos con todos los detalles identificativos eliminados — que es lo siguiente.

La técnica que resuelve la mitad del problema: la desidentificación

La desidentificación (despersonalización) significa intercambiar detalles reales por marcadores de posición antes de que cualquier cosa llegue a la IA. ¿Necesitas trabajar con un contrato real? Reemplaza las partes con «Empresa A» y «Empresa B», elimina las cantidades y los apellidos, y mantén la esencia. Para ayudar con la estructura de una carta o para encontrar un fallo en un argumento, el modelo no necesita los nombres y números reales. Esta es la habilidad más práctica de la lección: la abrumadora mayoría de las tareas laborales pueden enviarse a la IA desidentificadas —mismo beneficio, sin riesgo.

Una advertencia importante. Lo que estás haciendo es seudonimización (intercambiar nombres por marcadores de posición), no anonimización completa. Reduce el riesgo, pero no elimina tu responsabilidad: los fragmentos de datos a veces pueden volver a unirse para señalar a una persona específica (eso se llama reidentificación), y la ley de datos personales (RGPD en Europa) sigue aplicándose. Por lo tanto, la desidentificación es el mínimo requerido, pero para material realmente sensible, añade un nivel de negocio y consulta la política de tu empresa.

Tres reglas que vale la pena conocer

• Revisa tu configuración de privacidad. ChatGPT, Gemini y el resto tienen un interruptor en la configuración que desactiva el uso de tus chats para el entrenamiento (a menudo incluido con el guardado de tu historial). Encuéntralo — y desactívalo para las tareas de trabajo.
• Para datos de trabajo, usa planes de negocio. En los planes corporativos y de equipo (Business/Enterprise), las empresas generalmente prometen no usar tus datos para el entrenamiento. Si manejas algo sensible, eso no es un lujo, es lo básico.
• Si tu empresa tiene una política, esa es la que manda. Muchos empleadores ya han establecido lo que puede y no puede introducirse en la IA. ¿No estás seguro? Pregunta antes de pegar un documento de trabajo.

Una regla sencilla para el día a día

Antes de darle a enviar, hazte una pregunta: «¿Me sentiría cómodo si un extraño viera este texto?» Si la respuesta es sí, pégalo. Si sientes una pizca de duda, desidentifícalo primero o cambia a una herramienta de nivel empresarial. Ese filtro de tres segundos te protege mejor que cualquier medida técnica — porque la decisión ocurre antes de enviar, no después de una fuga.

Haz esto ahora

Coge cualquier texto de trabajo real —un email, una solicitud, un fragmento de un informe— y practica la desidentificación, ahí mismo en papel o en tus notas. Repásalo y encuentra todo lo que se considere personal o comercial: nombres, números de teléfono, direcciones, nombres de empresas, importes de contratos. Reemplaza cada uno con un marcador de posición — «Cliente A», «Empresa B», «importe N».

Compara las dos versiones: la desidentificada explica la esencia con la misma claridad, pero no revela nada. Haz esto una vez deliberadamente y, a partir de entonces, tu mano limpiará el texto automáticamente antes de enviarlo a cualquier parte.