Lo que nunca deberíamos hacer con los datos del alumnado al usar la IA

La llegada de la IA generativa a los centros educativos ha sido tan rápida que, en muchos casos, ha pillado a docentes y equipos directivos sin un marco claro de actuación. Preocupa, a nivel educativo, cómo usarla bien, pero a veces olvidamos una pregunta más importante… qué no deberíamos hacer jamás con los datos del alumnado.

Porque no hablamos de simples textos de prueba. Hablamos de identidades, trayectorias académicas, contextos familiares, dificultades de aprendizaje y situaciones personales. Y eso no es material de entrenamiento. Es información sensible.

Conviene dejar claras algunas líneas rojas.

No introducir datos personales identificables en sistemas abiertos.
Parece obvio, pero no siempre se cumple. Nombres y apellidos, direcciones, historiales académicos, informes psicopedagógicos o cualquier dato que permita identificar a un alumno no deberían copiarse en herramientas de IA generativa abiertas. Aunque la plataforma diga que no entrena con tus datos, el riesgo no es cero y la responsabilidad legal sí es real.

No subir documentos completos de evaluación o seguimiento.
Volcar un informe entero para que la IA «lo mejore» o «lo resuma» es una mala práctica. No solo por privacidad, sino porque estamos externalizando procesos profesionales que requieren contexto, criterio y responsabilidad docente. Si se quiere ayuda de redacción, debe hacerse con datos anonimizados o ejemplos ficticios.

No usar la IA como cuaderno digital.
Hay quien empieza a utilizar chats de IA como si fueran un cuaderno digital donde va pegando observaciones sobre el alumnado. Error grave. Estas herramientas no son plataformas de gestión académica ni cumplen necesariamente los requisitos de almacenamiento seguro exigibles a los centros.

No mezclar comodidad con legalidad.
Que algo sea rápido no significa que sea correcto. La normativa de protección de datos no desaparece porque la herramienta sea novedosa o útil. El «solo lo he usado para probar» no sirve como justificación ante una filtración o un uso indebido.

No delegar decisiones pedagógicas sensibles en la IA.
Pedir a un modelo que determine adaptaciones, diagnósticos orientativos o medidas educativas individualizadas a partir de datos reales del alumno es cruzar una línea peligrosa. La IA puede sugerir marcos generales, pero no debe decidir sobre casos concretos identificables.

No trabajar sin informar ni formar.
Usar IA con datos relacionados con alumnado sin que el centro tenga criterios comunes y sin que el profesorado esté formado es una receta para el desastre. La improvisación tecnológica suele salir cara. Hace falta protocolo, acuerdo y límites claros.

No asumir que «si es educativo, está permitido».
El contexto educativo no convierte automáticamente en legítimo cualquier tratamiento de datos. La finalidad didáctica no elimina la obligación de minimización. Debemos usar solo los datos imprescindibles y, siempre que sea posible, anonimizados.

No olvidar el ejemplo que damos.
Cada vez que un docente introduce datos reales en una IA sin cuidado, está normalizando una práctica que el alumnado terminará replicando. Educar en competencia digital también es mostrar prudencia, criterio y respeto por la privacidad.

La IA generativa puede ser una gran aliada educativa, pero solo si entendemos que no todo vale. La protección de los datos del alumnado no es un obstáculo para innovar. Es la condición mínima para hacerlo con responsabilidad.

Finalmente recordaros que si vuestra administración tiene un convenio con alguna empresa tecnológica que ofrezca, de forma clara, seguridad en los datos intercambiados con su herramienta de IA, entonces estáis protegidos. Eso sí, fuera de ese ecosistema (incluso dentro del mismo) debe primar la formación previa antes de el subir de todo ahí. Y además hay cosas (como no delegar decisiones pedagógicas sensibles en la IA) que son independientes de la seguridad de los datos que se intercambien con la IA.

Me podéis encontrar en X (enlace) o en Facebook (enlace). También me podéis encontrar por Telegram (enlace) o por el canal de WhatsApp (enlace). ¿Por qué os cuento dónde me podéis encontrar? Para hacerme un influencer de esos que invitan a todos los restaurantes, claro está. O, a lo mejor, es simplemente, para que tengáis más a mano por dónde meteros conmigo y no tengáis que buscar mucho.

¿Te ha gustado el artículo? Apoya mi trabajo invitándome a un café.