Módulo 7 — Límites éticos: la IA, tu alumnado y la privacidad

Introducción: la parte que no puedes saltarte

Has visto en los módulos anteriores lo útil que puede ser la IA para tu trabajo diario. Este módulo aborda lo que rodea a ese uso: qué dice la normativa europea sobre IA y educación, cómo proteger los datos de menores, cómo detectar errores de la IA, y cómo abordar el uso de IA por parte de tu propio alumnado — algo que, a estas alturas, probablemente ya está pasando en tus clases, lo sepas o no.

No es el módulo "aburrido" antes del cierre. Es el que te permite usar todo lo anterior con tranquilidad.

Lección 7.1 — El Reglamento Europeo de IA y la educación: lo que te afecta

El Reglamento (UE) de Inteligencia Artificial, en vigor de forma progresiva desde 2024, clasifica los sistemas de IA según su nivel de riesgo. La educación aparece explícitamente como un ámbito de "alto riesgo" en determinados usos — no porque usar ChatGPT para preparar una actividad sea peligroso, sino porque ciertos usos (por ejemplo, sistemas que decidan automáticamente el acceso de un alumno a un centro o programa, o que evalúen y puntúen a estudiantes de forma automatizada sin supervisión humana) están sujetos a requisitos estrictos.

Los puntos que realmente te afectan como docente

El uso que vamos a ver en este curso —generar borradores que tú revisas— no entra en las categorías de "alto riesgo": tú sigues siendo quien decide, evalúa y firma. La IA no toma decisiones automatizadas sobre tu alumnado.
Si tu centro empieza a usar (o ya usa) sistemas de IA que evalúan, puntúan o toman decisiones sobre el alumnado de forma automática (por ejemplo, software de corrección automática que asigna notas finales sin revisión, o sistemas de "detección de talento" o de orientación automatizada), esos sí pueden estar sujetos a obligaciones específicas — informar a las familias, garantizar supervisión humana, etc. Esa responsabilidad es del centro, no tuya individualmente, pero es bueno saber que existe.
La normativa también insiste en la transparencia: si un contenido que reciben tus alumnos (un texto, una imagen) ha sido generado por IA, en algunos contextos conviene indicarlo.

Lo que esto significa en la práctica

Para el uso que hacemos en este curso —generar borradores de materiales que tú revisas y aplicas con tu criterio— no hay ninguna obligación legal especial más allá del sentido común y la protección de datos (que vemos en la siguiente lección). Si en tu centro se introducen herramientas de IA más automatizadas (correctores automáticos, plataformas adaptativas que asignan contenidos por alumno), es razonable preguntar cómo se informa a las familias y qué supervisión humana existe — pero esa es una conversación de centro, no algo que tengas que resolver tú solo/a.

Lección 7.2 — Privacidad: qué puedes y qué no puedes meter en una IA de consumo

El principio base

Cuando escribes algo en ChatGPT, Gemini o Claude (en sus versiones gratuitas o de consumo), ese texto se envía a los servidores de la empresa que opera la herramienta, fuera del entorno del centro educativo. Esto no es ilegal ni está prohibido — pero implica que los datos de menores requieren un cuidado especial, mayor que el que tendrías con datos de adultos.

Qué pasa realmente con los datos que escribes

La mayoría de herramientas permiten desactivar el uso de tus conversaciones para entrenar el modelo — hazlo, es un paso de 1 minuto en la configuración.
Aun así, los datos pueden quedar almacenados temporalmente en los servidores de la empresa para fines de seguridad y soporte.
Las plataformas educativas institucionales (Google Workspace for Education, Microsoft 365 Education) tienen acuerdos de tratamiento de datos específicos para centros — son un entorno distinto a usar la app de consumo desde tu cuenta personal. Si tu centro te proporciona acceso a IA a través de estas plataformas, revisa qué garantías ofrece (normalmente son mayores).

La clasificación práctica: tres categorías

Categoría	Ejemplos	¿Se puede meter en IA de consumo?
Datos identificativos directos	Nombre completo, fotografía, número de expediente, dirección	No, nunca
Datos sensibles sobre un alumno concreto	Diagnósticos, informes psicopedagógicos, situación familiar, datos de salud	No, ni siquiera anonimizados de forma parcial — usa solo descripciones generales de la necesidad
Información general, sin identificar a nadie	"Un grupo de 2º ESO con nivel heterogéneo", "un alumno con dificultades de atención" (sin más datos)	Sí, es la base de todos los prompts de este curso

Una pregunta que te puedes hacer siempre

Antes de escribir un prompt, pregúntate: "si esta conversación se hiciera pública mañana, ¿identificaría o expondría a algún alumno o familia concreta?". Si la respuesta es sí o "no estoy seguro/a", reescribe el prompt eliminando esos datos.

Lección 7.3 — Alucinaciones: cómo detectar cuando la IA inventa datos

Qué es una alucinación, exactamente

Una alucinación es cuando la IA genera información que suena correcta y se presenta con total seguridad, pero es falsa o inexacta: una referencia bibliográfica que no existe, un dato histórico o científico incorrecto, una norma o ley citada de forma errónea, o un ejemplo "inventado" que no se corresponde con la realidad.

Dónde es más probable que ocurra en tu trabajo docente

Referencias bibliográficas y citas de autores — la IA puede inventar títulos, años o atribuir ideas a autores equivocados.
Datos curriculares concretos (códigos de criterios de evaluación, redacción exacta de competencias) — verifica siempre contra el documento curricular oficial de tu comunidad autónoma.
Datos numéricos o históricos en materiales de Sociales, Ciencias o Geografía — fechas, cifras, nombres propios.
Ejemplos "realistas" que la IA presenta como casos reales cuando en realidad son inventados — está bien para ejercicios ficticios, pero no para afirmaciones de hecho.

Cómo detectarlas: dos señales de alarma

Demasiada precisión en un dato que no le diste. Si la IA cita una página exacta de un libro, una fecha muy concreta o un porcentaje preciso que tú no le proporcionaste, es una señal para verificarlo.
Coherencia perfecta con lo que esperabas. Paradójicamente, cuando un dato "encaja demasiado bien" con lo que esperabas oír, conviene comprobarlo igual — la IA tiende a generar lo más probable, no necesariamente lo correcto.

El prompt para minimizar alucinaciones

Cuando necesites que la IA incluya datos concretos (normativa, autores, fechas), añade siempre esta instrucción:

Si no tienes certeza sobre algún dato concreto (nombres de autores,
fechas, referencias normativas, cifras exactas), no lo inventes:
indica "[VERIFICAR: descripción del dato]" en su lugar, para que yo
lo compruebe.

Esto no elimina el riesgo al 100%, pero reduce mucho los casos en los que un dato incorrecto pasa desapercibido — la IA te "avisa" en lugar de rellenar el hueco con algo plausible.

Lección 7.4 — La IA y tu alumnado: uso responsable, no solo "detección"

Es muy probable que parte de tu alumnado ya use IA generativa para hacer deberes, trabajos o estudiar — con o sin tu conocimiento. La tentación es centrarse solo en "cómo detectarlo y prohibirlo", pero hay un enfoque más útil y realista.

Por qué la "detección" no es suficiente

Los detectores automáticos de "texto generado por IA" tienen una tasa de error considerable — tanto falsos positivos (textos humanos marcados como IA) como falsos negativos (textos de IA que pasan desapercibidos, especialmente si el alumno los edita). Basar una decisión académica importante únicamente en uno de estos detectores es arriesgado.

Un enfoque más sólido: diseña para que el proceso sea visible

Pide borradores intermedios o un proceso documentado (esquema, primera versión, versión final) en trabajos importantes — esto es difícil de "simular" con una sola consulta a una IA.
Incluye una parte oral o de defensa del trabajo: pedir que el alumno explique sus propias decisiones revela rápidamente si ha entendido lo que ha entregado.
Habla abiertamente con tu alumnado sobre cuándo y cómo se puede usar la IA en cada tarea — algunas tareas pueden permitirla como apoyo (por ejemplo, para generar ideas o corregir errores propios), otras no. La ambigüedad es lo que más confusión genera.

Enseña a tu alumnado a usar la IA con criterio

Una parte cada vez más importante de la "competencia digital" es saber cuándo y cómo usar la IA de forma honesta y eficaz — algo que tu alumnado probablemente no ha aprendido en ningún sitio. Algunas ideas:

Explica el concepto de alucinación con un ejemplo simple: pídele a una IA, delante de la clase, una referencia sobre un tema que conozcas bien, y comprueba juntos si es correcta.
Establece criterios claros: "puedes usar IA para generar ideas o revisar tu redacción, pero el contenido y las decisiones deben ser tuyas, y debes poder explicarlas".
Si detectas un uso inadecuado, abórdalo como una conversación sobre honestidad académica e integridad, no solo como una infracción técnica de usar una herramienta.

Puntos clave de una conversación abierta con tu alumnado sobre IA:

Explica qué es una alucinación con un ejemplo en vivo, no solo en teoría.
Define, tarea por tarea, qué usos de la IA están permitidos y cuáles no.
Pide que expliquen sus decisiones, no solo que entreguen el resultado.
Trata los usos inadecuados como una conversación sobre integridad académica, no como una sanción automática.
El objetivo es que entiendan cómo usarla bien, no solo que "no se les pille".

Lección 7.5 — Buenas prácticas para usar IA de forma segura y ética

Las 7 buenas prácticas

Anonimiza siempre — [ALUMNO/A], [CURSO], [FAMILIA] en lugar de nombres reales, en cualquier prompt.
Verifica los datos concretos — normativa, referencias bibliográficas, fechas y cifras, antes de que lleguen a un material para el alumnado.
Revisa el tono y el nivel — un material generado por IA debe sonar como algo que tú firmarías, adaptado a tu grupo real.
No subas documentos con datos de alumnos (informes, expedientes, actas de evaluación) a herramientas de IA de consumo.
Desactiva el uso de tus conversaciones para entrenamiento en la configuración de privacidad de cada herramienta.
Usa las plataformas institucionales cuando estén disponibles (Google Workspace for Education, Microsoft 365 Education) para tareas que impliquen datos del centro.
Habla con tu alumnado sobre el uso de la IA de forma abierta — establece criterios claros por tarea, en lugar de una prohibición genérica difícil de aplicar.

Ejercicio práctico del módulo 7

Repasa los últimos 3-4 prompts que has escrito durante este curso (o que escribirías para tu trabajo real): ¿alguno incluye datos que deberían anonimizarse?
Revisa la configuración de privacidad de la herramienta que más uses (ChatGPT, Gemini o Claude) y desactiva el uso de conversaciones para entrenamiento si no lo has hecho ya.
Piensa en una tarea o trabajo que vayas a poner próximamente: decide y anota explícitamente qué uso de la IA permites o no permites para esa tarea concreta, y cómo lo vas a comunicar a tu alumnado.

Resumen del módulo 7

El uso de IA de este curso —generar borradores que tú revisas— no está sujeto a obligaciones especiales del Reglamento Europeo de IA; sí lo están los sistemas que evalúan o deciden de forma automatizada, responsabilidad del centro.
Los datos de menores requieren especial cuidado: nunca datos identificativos directos ni información sensible, ni siquiera anonimizados parcialmente — usa siempre descripciones generales.
Las alucinaciones (datos inventados con apariencia de certeza) son más probables en referencias, citas, normativa y datos numéricos — verifícalos siempre antes de que lleguen al alumnado.
Frente al uso de IA por parte del alumnado, un enfoque de proceso visible y conversación abierta es más sólido que depender solo de detectores automáticos.
Las 7 buenas prácticas de este módulo son la base para usar la IA con tranquilidad, también con datos relacionados con tu alumnado.