Módulo 7 de 8

⏱ 13 min de lectura

Módulo 7 — Límites éticos: la IA, tu alumnado y la privacidad

Introducción: la parte que no puedes saltarte

Has visto en los módulos anteriores lo útil que puede ser la IA para tu trabajo diario. Este módulo aborda lo que rodea a ese uso: qué dice la normativa europea sobre IA y educación, cómo proteger los datos de menores, cómo detectar errores de la IA, y cómo abordar el uso de IA por parte de tu propio alumnado — algo que, a estas alturas, probablemente ya está pasando en tus clases, lo sepas o no.

No es el módulo "aburrido" antes del cierre. Es el que te permite usar todo lo anterior con tranquilidad y con respaldo.

Lo que vas a aprender: - Qué dice el Reglamento Europeo de IA sobre el uso en educación - Qué datos puedes y no puedes incluir en un prompt - Cómo detectar alucinaciones antes de que lleguen a tu alumnado - Cómo gestionar el uso de IA por parte del alumnado de forma realista - Las 7 buenas prácticas para usar IA con seguridad

Panorama actual: lo que está cambiando en 2024-2026

Ámbito	Situación actual	Lo que significa para ti
Reglamento Europeo de IA	En vigor progresivo desde 2024	Ciertos usos en educación son "alto riesgo" — pero no el uso de este curso
RGPD y menores	Ya vigente; menores tienen protección reforzada	Nunca datos identificativos de alumnos en IA de consumo
Uso de IA por el alumnado	Muy extendido y difícil de controlar	Mejor gestión abierta que prohibición irrealista
Detección de textos IA	Tecnología existente pero con alta tasa de error	No uses solo detectores para tomar decisiones académicas
Herramientas institucionales	En expansión (Google, Microsoft, plataformas educativas)	Cuando las tengas disponibles, úsalas preferiblemente

Lección 7.1 — El Reglamento Europeo de IA y la educación: lo que te afecta

El Reglamento (UE) de Inteligencia Artificial, en vigor de forma progresiva desde 2024, clasifica los sistemas de IA según su nivel de riesgo. La educación aparece explícitamente como un ámbito de "alto riesgo" en determinados usos — no porque usar ChatGPT para preparar una actividad sea peligroso, sino porque ciertos usos concretos están sujetos a requisitos estrictos.

Los usos de "alto riesgo" que señala el Reglamento

Sistemas que evalúan, puntúan o determinan el acceso a la educación de forma automatizada y sin supervisión humana suficiente.
Sistemas de orientación o "detección de talento" que influyan en el itinerario académico de un alumno de forma automatizada.
Herramientas de vigilancia del comportamiento del alumnado durante exámenes u otras actividades.

Lo que significa para ti en la práctica

Uso	¿Es "alto riesgo" según el Reglamento?	Lo que tienes que hacer
Generar borradores de materiales que tú revisas	No	Nada especial más allá del sentido común y el RGPD
Correctores automáticos que asignan notas finales	Sí	El centro debe garantizar supervisión humana e informar a las familias
Plataformas de adaptación automática de contenidos	Depende del nivel de automatización	Preguntar al centro qué garantías ofrece
Chatbots de orientación académica automática	Posiblemente sí	Consultar con el equipo de orientación y la dirección

Para el uso que hacemos en este curso — generar borradores que tú revisas — no hay ninguna obligación legal especial más allá del sentido común y la protección de datos.

Qué hacer si en tu centro introducen herramientas de IA más automatizadas

Es razonable preguntar: - ¿Cómo se informa a las familias de que se usa este sistema? - ¿Qué supervisión humana existe sobre las decisiones automatizadas? - ¿Qué datos del alumnado procesa y dónde se almacenan?

Esas son conversaciones de centro (dirección, consejo escolar), no algo que tengas que resolver tú solo/a.

Lección 7.2 — Privacidad: qué puedes y qué no puedes meter en una IA de consumo

El principio base

Cuando escribes algo en ChatGPT, Gemini o Claude (en sus versiones de consumo), ese texto se envía a los servidores de la empresa que opera la herramienta, fuera del entorno del centro educativo. Los datos de menores requieren protección especial bajo el RGPD — esto no es una recomendación, es una obligación legal.

Las tres categorías de información

Categoría	Ejemplos	¿Se puede incluir en un prompt?
Datos identificativos directos	Nombre completo, fotografía, DNI, número de expediente, dirección	❌ Nunca
Datos sensibles sobre un alumno concreto	Diagnósticos, informes psicopedagógicos, situación familiar, datos de salud, orientación sexual	❌ Nunca, ni siquiera anonimizados parcialmente
Información general no identificable	"Un grupo de 2º ESO con nivel heterogéneo", "un alumno con dificultades de atención" (sin más datos)	✅ Sí, es la base de todos los prompts de este curso

La prueba que te puedes hacer siempre antes de enviar un prompt

Pregúntate: "Si esta conversación se hiciera pública mañana, ¿identificaría o expondría a algún alumno o familia concreta?"

Si la respuesta es sí o "no estoy seguro/a", reescribe el prompt eliminando esos datos antes de enviarlo.

Pasos concretos para proteger la privacidad

Desactiva el uso de tus conversaciones para entrenamiento. En ChatGPT: Ajustes → Control de datos → Desactivar "Mejorar el modelo". En Gemini: Actividad web y de aplicaciones → desactivar Gemini Apps. Tarda 1 minuto.
Usa los marcadores del curso en todos los prompts: [ALUMNO/A], [FAMILIA], [CURSO]. La IA funciona exactamente igual y los datos nunca salen del aula.
Nunca subas documentos con datos del alumnado (informes, expedientes, actas de evaluación) a herramientas de IA de consumo — ni siquiera para "que las lea".
Usa las plataformas institucionales cuando estén disponibles. Google Workspace for Education y Microsoft 365 Education tienen acuerdos específicos de tratamiento de datos para centros educativos — son un entorno más protegido que la app de consumo desde tu cuenta personal.

Lección 7.3 — Alucinaciones: cómo detectar cuando la IA inventa

Qué es una alucinación

Una alucinación es cuando la IA genera información que suena correcta y se presenta con total seguridad, pero es falsa o inexacta: una referencia bibliográfica que no existe, un dato histórico incorrecto, una norma citada de forma errónea, o un ejemplo "inventado" que no se corresponde con la realidad.

Dónde es más probable que ocurran en tu trabajo docente

Tipo de dato	Riesgo de alucinación	Cómo verificarlo
Referencias bibliográficas	Alto	Busca el libro o artículo en Google antes de citarlo
Datos curriculares concretos (códigos, criterios)	Alto	Verifica contra el documento oficial de tu CCAA
Fechas y datos históricos	Medio	Contrasta con una fuente fiable (enciclopedia, Wikipedia verificada)
Datos científicos y estadísticos	Medio	Verifica con la fuente primaria si van a usarlos los alumnos
Ejemplos de situaciones de aula	Bajo	Son inventados por diseño — funciona bien como material de práctica
Prompts de corrección y estructura	Bajo	El riesgo es de criterio pedagógico, no de datos inventados

Las dos señales de alarma

Demasiada precisión en un dato que no le diste. Si la IA cita una página exacta de un libro, una fecha muy concreta o un porcentaje preciso que tú no le proporcionaste, verifica siempre.
Coherencia perfecta con lo que esperabas. Paradójicamente, cuando un dato "encaja demasiado bien", conviene igualmente comprobarlo — la IA tiende a generar lo más probable, no necesariamente lo correcto.

El prompt que reduce alucinaciones

Añade siempre esta instrucción cuando necesites datos concretos (normativa, autores, fechas):

Si no tienes certeza sobre algún dato concreto (nombres de autores,
fechas, referencias normativas, cifras exactas, legislación vigente),
no lo inventes: indica "[VERIFICAR: descripción del dato]" en su lugar,
para que yo lo compruebe antes de usar el material.

Esto no elimina el riesgo al 100%, pero reduce enormemente los casos en que un dato incorrecto pasa desapercibido.

Ejercicio de aula: demostrar una alucinación en directo

Una forma muy efectiva de enseñar a tu alumnado qué es una alucinación es hacerlo en directo:

Pide a la IA, en clase y en el proyector, una referencia bibliográfica sobre un tema que conozcas bien.
Búscala en Google en el momento.
Comprobad juntos si existe o si tiene errores.

Este ejercicio suele generar mucho debate y hace que el alumnado desarrolle un escepticismo sano hacia la IA — que es exactamente lo que necesitan.

Lección 7.4 — La IA y tu alumnado: uso responsable, no solo "detección"

Es muy probable que parte de tu alumnado ya use IA generativa para hacer deberes, trabajos o estudiar — con o sin tu conocimiento. La tentación es centrarse solo en "cómo detectarlo y prohibirlo", pero hay un enfoque más útil y realista.

Por qué la "detección" no es suficiente

Los detectores automáticos tienen una tasa de error considerable — tanto falsos positivos (textos humanos marcados como IA) como falsos negativos (textos de IA que pasan sin ser detectados, especialmente si el alumno los edita).
Basar una decisión académica importante únicamente en uno de estos detectores es arriesgado desde el punto de vista legal y pedagógico.
La prohibición genérica sin criterios claros genera confusión ("¿puedo usar Grammarly? ¿puedo pedirle a la IA que me busque información?") y no resuelve el problema de fondo.

Un enfoque más sólido: diseña para que el proceso sea visible

Estrategia	Cómo implementarla
Borradores intermedios	Pide esquema + primera versión + versión final en trabajos importantes
Defensa oral del trabajo	Que el alumno explique sus propias decisiones: revela si entendió lo que entregó
Personalización obligatoria	Pide que incluyan ejemplos propios, experiencias personales o referencias a clase
Proceso documentado	Un diario de trabajo o registro de fuentes consultadas es difícil de "falsificar"

Define, tarea por tarea, qué uso de la IA está permitido

La clave no es una política general sino criterios claros por tarea concreta:

Tarea	Uso de IA permitido	Uso de IA no permitido
Trabajo de investigación	Buscar información inicial, mejorar redacción propia	Generar el contenido completo del trabajo
Examen escrito	Ninguno (sin dispositivos)	—
Presentación oral	Preparar guion de ideas, practicar respuestas	Leer un texto generado por IA sin haberlo comprendido
Lectura y análisis de texto	Buscar definiciones de palabras desconocidas	Pedir a la IA que analice el texto en su lugar

Cómo hablar abiertamente con tu alumnado sobre IA

Explica qué es una alucinación con un ejemplo en vivo (ver lección anterior).
Define los criterios de cada tarea por escrito — el alumnado necesita saber exactamente qué pueden y qué no pueden hacer.
Habla de integridad académica, no solo de reglas: ¿qué aprenden si la IA lo hace por ellos? ¿Qué les quita?
Reconoce que es una herramienta real. Prohibir sin explicar por qué genera desconfianza y no ayuda al aprendizaje.
Si detectas un uso inadecuado, abórdalo como una conversación sobre honestidad académica antes de aplicar medidas — especialmente la primera vez.

Lección 7.5 — Transparencia: cuándo y cómo decir que has usado IA

La transparencia sobre el uso de IA es un principio que empieza a consolidarse tanto en la normativa como en las buenas prácticas educativas.

Cuándo conviene indicar que se ha usado IA

Situación	¿Conviene indicarlo?	Cómo hacerlo
Materiales que preparas para clase	No es obligatorio, pero sí buena práctica si el alumnado lo pregunta	"Para preparar esta actividad usé IA como punto de partida, que luego revisé"
Textos que el alumnado entregará como propios	Depende de la política de tu centro	Define claramente en la consigna de la tarea qué se permite
Comunicaciones a familias	No es necesario indicarlo habitualmente	Solo si la familia lo pregunta directamente
Material publicado en redes o web del centro	Sí, cada vez más recomendable	"Elaborado con apoyo de IA" en el pie de página

El prompt para pedir contenido transparente al alumnado

Si permites el uso de IA en una tarea, pide que lo documenten:

[FORMATO] Incluye al final del trabajo una sección "Uso de IA" de 2-3
líneas donde expliques: qué herramienta usaste, para qué la usaste, y
qué partes del trabajo son íntegramente tuyas.

Lección 7.6 — Buenas prácticas para usar IA de forma segura y ética

Las 7 buenas prácticas

Anonimiza siempre — [ALUMNO/A], [CURSO], [FAMILIA] en lugar de nombres reales, en cualquier prompt relacionado con tu alumnado.
Verifica los datos concretos — normativa, referencias bibliográficas, fechas y cifras, antes de que lleguen a un material para el alumnado.
Revisa el tono y el nivel — un material generado por IA debe sonar como algo que tú firmarías, adaptado a tu grupo real.
No subas documentos con datos del alumnado a herramientas de IA de consumo.
Desactiva el uso de tus conversaciones para entrenamiento en la configuración de privacidad de cada herramienta (1 minuto por herramienta).
Usa las plataformas institucionales cuando estén disponibles — Google Workspace for Education o Microsoft 365 Education ofrecen mayores garantías de privacidad para datos del centro.
Habla con tu alumnado sobre el uso de la IA de forma abierta — establece criterios claros por tarea, en lugar de una prohibición genérica difícil de aplicar.

Errores comunes en el uso ético de la IA

Incluir datos reales de alumnos "solo para que quede más claro". No es necesario. La IA funciona igual con [ALUMNO/A]. El riesgo no compensa.
Asumir que si la IA lo dice, es correcto. Especialmente en normativa, legislación o datos curriculares. Verifica siempre antes de usar en clase.
No hablar con el alumnado de los criterios de uso. La ambigüedad es la que genera más conflictos. Reglas claras = menos problemas.
Usar detectores de IA como prueba única de un uso inadecuado. Los falsos positivos existen. Una decisión académica importante necesita más evidencias que un porcentaje de "probabilidad de ser generado por IA".
Pensar que el Reglamento de IA te afecta de forma urgente y compleja. Para el uso de este curso, no. Sigue leyendo la normativa, pero no dejes que el miedo a la regulación te impida usar una herramienta útil de forma responsable.

Tips para un uso ético y seguro

Crea un "checklist de uso" personal. Antes de usar un prompt nuevo con datos del alumnado, hazte las 3 preguntas: ¿hay datos identificativos? ¿Lo verificaré antes de usar el resultado? ¿Es coherente con la privacidad del alumno?
Comparte las buenas prácticas con tus compañeros. No solo te protege a ti — ayuda a que el uso en el centro sea más coherente y seguro.
Actualízate, pero sin angustia. La normativa sobre IA evoluciona rápido. Estar informado/a es suficiente; no necesitas ser experto/a legal. Sigue fuentes fiables (AEPD, Ministerio, tu sindicato o asociación profesional).
Ante la duda sobre un dato, verifica. 30 segundos de búsqueda en Google pueden evitarte un error en un material que va a ver todo el grupo.

Ejercicio práctico del módulo 7

Repasa los últimos 3-4 prompts que has escrito durante este curso (o que escribirías para tu trabajo real): ¿alguno incluye datos que deberían anonimizarse? Corrígelos.
Revisa la configuración de privacidad de la herramienta que más uses (ChatGPT, Gemini o Claude) y desactiva el uso de conversaciones para entrenamiento si no lo has hecho ya.
Para una tarea o trabajo que vayas a poner próximamente, redacta por escrito los criterios de uso de IA: qué está permitido, qué no, y cómo lo vas a comunicar al alumnado.
Haz el ejercicio de "demostración de alucinación" en clase con tu grupo: pide una referencia bibliográfica a la IA en el proyector y comprobadla juntos.

Resumen del módulo 7

El uso de IA de este curso —generar borradores que tú revisas— no está sujeto a las obligaciones especiales del Reglamento Europeo de IA para usos de "alto riesgo"; sí lo están los sistemas que evalúan o deciden de forma automatizada.
Los datos de menores requieren especial cuidado bajo el RGPD: nunca datos identificativos directos ni información sensible — usa siempre descriptores generales.
Las alucinaciones son más probables en referencias bibliográficas, normativa, fechas y cifras — verifica siempre antes de que lleguen al alumnado.
Frente al uso de IA por parte del alumnado, un enfoque de proceso visible y criterios claros por tarea es más sólido y realista que prohibir o depender de detectores automáticos.
La transparencia sobre el uso de IA — tanto la tuya como la que pides al alumnado — es una práctica que va a consolidarse: empieza a incorporarla desde ahora.
Las 7 buenas prácticas de este módulo son la base para usar la IA con tranquilidad, también en tu trabajo con alumnado.