⏱ 14 min de lectura

Módulo 7 — Límites legales y éticos del uso de IA en un despacho

Introducción: la parte que no puedes saltarte

Llevamos seis módulos viendo cómo la IA puede ahorrarte horas a la semana. Este módulo es distinto: no se trata de hacer más, sino de hacerlo bien. Como abogado, usar IA no te exime de tus obligaciones de confidencialidad, de tu responsabilidad profesional sobre lo que firmas, ni de tu deber de diligencia hacia el cliente.

La buena noticia es que, una vez entiendes los límites reales —que son menos y más sencillos de lo que parece—, puedes usar la IA con total tranquilidad dentro de ellos. Este módulo te da ese mapa: qué dice la normativa europea, qué puedes y qué no puedes compartir con una IA, cómo detectar cuando "se inventa" algo, qué significa la responsabilidad profesional en este contexto, y un checklist final que puedes usar antes de entregar cualquier documento.

Lección 7.1 — Qué dice el Reglamento Europeo de IA que afecta a los abogados

El Reglamento Europeo de Inteligencia Artificial (conocido como "AI Act"), aprobado en 2024, es la primera normativa integral del mundo sobre IA, y se está implementando de forma progresiva entre 2025 y 2027. No vamos a convertir este curso en un curso de derecho regulatorio —para eso ya eres abogado—, pero sí merece la pena que conozcas las ideas clave que te afectan como usuario de herramientas de IA (que es tu situación, no la de "proveedor" de sistemas de IA, que tiene obligaciones mucho más estrictas).

Los puntos que realmente te afectan

1. Clasificación por riesgo. El Reglamento clasifica los sistemas de IA según su nivel de riesgo: inaceptable (prohibido), alto, limitado y mínimo. Las herramientas que usamos en este curso —ChatGPT, Claude, Perplexity, NotebookLM, Canva, Google Workspace— se consideran de riesgo limitado o mínimo en el uso que les damos (redacción, resumen, investigación). No estás usando un sistema de IA de "alto riesgo" como los que se usarían, por ejemplo, para decidir automáticamente sobre solicitudes de crédito o procesos de selección de personal a gran escala.

2. Transparencia. El Reglamento establece obligaciones de transparencia: cuando un contenido ha sido generado o modificado sustancialmente por IA, en determinados contextos debe poder identificarse como tal. Para un despacho, esto se traduce en una buena práctica más que en una obligación estricta en la mayoría de los usos que vemos en este curso —pero es relevante si, por ejemplo, usas IA para generar contenido que se publica (como un blog del despacho).

3. No delegación de decisiones jurídicas. Esta es, en la práctica, la idea central para nuestro propósito: el Reglamento no cambia, y de hecho refuerza, el principio de que las decisiones profesionales y jurídicas las toma el abogado, no la IA. La IA es una herramienta de apoyo. Esto coincide exactamente con lo que hemos repetido durante todo el curso: la IA redacta, resume, organiza — tú decides, revisas y firmas.

Lo que esto significa en la práctica

Para el tipo de uso que damos a la IA en este curso —apoyo en redacción, investigación, comunicación, gestión—, el Reglamento Europeo de IA no introduce restricciones que cambien lo que has aprendido. Lo que sí hace es reforzar algo que ya deberías tener claro: la responsabilidad profesional no se delega, y debes ser capaz de explicar y justificar cualquier documento que sale de tu despacho con tu firma, independientemente de qué herramientas usaste para prepararlo.

Si tu despacho empieza a usar IA de formas más avanzadas en el futuro —por ejemplo, sistemas que automatizan decisiones sobre clientes a gran escala—, en ese momento sí merecería la pena una consulta específica sobre el Reglamento. Para el uso que enseñamos aquí, no es un obstáculo.

Lección 7.2 — Confidencialidad: qué puedes y qué no puedes meter en ChatGPT

Ya tocamos este tema en el módulo 1 (lección 1.4), pero dada su importancia, vamos a profundizar aquí con más detalle, porque es, con diferencia, el límite más importante que debes interiorizar.

El principio base

El secreto profesional es una de las obligaciones más fundamentales —y antiguas— de la abogacía. No es una novedad introducida por la IA, pero la IA introduce una forma nueva y muy accesible de, sin darte cuenta, compartir información de un cliente con un tercero (la empresa que opera la herramienta de IA).

Qué pasa realmente con los datos que escribes en ChatGPT

Cuando escribes algo en ChatGPT (o Claude, o cualquier otra herramienta de IA basada en la nube), ese texto se envía a los servidores de la empresa que opera la herramienta (OpenAI, Anthropic, Google, etc.). Dependiendo de tu configuración de privacidad y del plan que tengas:

• Puede usarse para entrenar modelos futuros (salvo que lo desactives).
• Se almacena durante un periodo de tiempo determinado por la política de privacidad de la herramienta.
• En el caso de los planes de pago (ChatGPT Plus, Claude Pro), las políticas suelen ser más restrictivas que en las versiones gratuitas, pero ningún plan estándar de consumidor está diseñado específicamente para cumplir con las obligaciones de confidencialidad de un despacho de abogados de la misma forma que, por ejemplo, un software de gestión de despachos certificado.

La clasificación práctica: tres categorías

Para simplificar, clasifica la información en tres categorías:

1. Información que NUNCA debe entrar en una IA de consumo, ni siquiera anonimizada: - Documentos completos que contengan datos de identificación combinados con datos especialmente sensibles (salud, situación económica detallada, datos de menores). - Cualquier dato cubierto por una obligación de confidencialidad reforzada específica del asunto (por ejemplo, secretos empresariales bajo NDA con cláusulas que prohíban expresamente el uso de herramientas de terceros).

2. Información que puede entrar SOLO anonimizada (la técnica del módulo 1.4): - La gran mayoría de los documentos de trabajo: contratos, escritos, correspondencia, resúmenes de hechos. Sustituyendo nombres, direcciones, importes concretos, fechas identificativas y números de expediente por marcadores entre corchetes ([NOMBRE], [DIRECCIÓN], [IMPORTE]), el contenido jurídico y estructural —que es lo que la IA necesita para ayudarte— se mantiene intacto, mientras que la información que identifica al cliente desaparece.

3. Información que puede entrar sin anonimizar: - Preguntas generales sobre derecho, redacción de plantillas genéricas, dudas de redacción o estilo, investigación de jurisprudencia (sin mencionar tu caso concreto), borradores de documentos que tú mismo vas a personalizar después.

Una pregunta que te puedes hacer siempre

Antes de pegar cualquier texto en una IA, hazte esta pregunta: "¿Me importaría que esta información apareciera, sin contexto, en un servidor de una empresa de Silicon Valley?" Si la respuesta es sí, anonimiza antes de pegar, o no la pegues. Esta pregunta —simple, casi tonta— es sorprendentemente eficaz para generar el hábito correcto.

Configuración de privacidad: recordatorio

Como vimos en el módulo 1, en ChatGPT puedes desactivar el uso de tus conversaciones para entrenar modelos desde Configuración → Datos y privacidad → "Mejorar el modelo para todos" (desactivar). Haz esto ahora, si no lo has hecho ya, en todas las cuentas de IA que uses para el despacho. No es una garantía absoluta de privacidad, pero reduce significativamente el riesgo y es el mínimo exigible.

Antes de pegar información del cliente en una IA, decide en un paso:

1. Información del cliente → ¿identifica a una persona o entidad concreta (nombre, DNI, dirección, importes, fechas de un caso real)?
2. Si sí → anonimiza con [CORCHETES] antes de usarla.
3. Si no (preguntas generales, plantillas genéricas, dudas de redacción) → puedes usarla directamente.

Lección 7.3 — Alucinaciones: cómo detectar cuando la IA inventa datos jurídicos

Ya hemos mencionado las "alucinaciones" en varios módulos —especialmente en el 1 y el 3—, pero este es el momento de tratarlas con la seriedad que merecen, porque es el riesgo técnico más relevante del uso de IA en un contexto jurídico.

Qué es una alucinación, exactamente

Una alucinación ocurre cuando un modelo de IA genera información que suena completamente plausible, está bien redactada, tiene el formato correcto — y es falsa. No es un "error" en el sentido de un fallo técnico visible (como un texto cortado o un mensaje de error); es contenido fabricado que se presenta con la misma confianza que el contenido correcto. Esto es lo que la hace peligrosa: no hay ninguna señal visual que distinga una afirmación correcta de una inventada.

Dónde es más probable que ocurran, en el contexto de un despacho

• Citas de sentencias o resoluciones: números de recurso, fechas, ponentes o incluso el contenido del fallo pueden estar inventados o mezclados de varias resoluciones distintas.
• Artículos de leyes: la IA puede citar un artículo que no dice exactamente lo que afirma, o que ha sido modificado/derogado y la IA no lo sabe (recuerda que los modelos tienen una "fecha de corte" de conocimiento).
• Datos numéricos: plazos, importes, porcentajes — especialmente cuando se le pide a la IA que "calcule" algo basándose en información que no tiene completa.
• Referencias a "tu caso": si en algún momento la IA hace referencia a hechos de "tu caso" que tú no le has proporcionado, es una señal inequívoca de alucinación — está generando contenido genérico que parece específico.

Cómo detectarlas: tres señales de alarma

1. Demasiada precisión sin que tú la hayas proporcionado. Si pides un resumen y la IA incluye un número de expediente, una fecha exacta o un nombre de juzgado que tú no mencionaste, es casi seguro que está inventado o extrapolado.

2. Verificación cruzada con fuente oficial. Para cualquier cita normativa o jurisprudencial que vaya a aparecer en un documento que entregas, verifica en BOE (para normativa) o CENDOJ (para jurisprudencia) — este es exactamente el mismo principio que vimos en el módulo 3.4 sobre Perplexity, pero aplicado a CUALQUIER herramienta de IA, no solo a las de búsqueda.

3. Pregúntale a la IA por su fuente — pero no te fíes solo de la respuesta. Puedes pedir "¿de dónde has obtenido esta información?", y a veces la respuesta te ayuda a identificar que algo es una generalización en lugar de un dato concreto. Pero ten en cuenta que la IA también puede "alucinar" la fuente — así que esto es una pista, no una confirmación.

El prompt para minimizar alucinaciones

No existe un prompt que las elimine al 100%, pero este reduce significativamente el riesgo:

[CONTEXTO] Voy a usar esta información en un documento profesional, 
así que la precisión es crítica.

[INSTRUCCIÓN ADICIONAL] Si no tienes certeza sobre algún dato 
concreto (citas normativas, números de sentencia, fechas, 
porcentajes), indícalo explícitamente con la frase "VERIFICAR: 
[dato]" en lugar de presentarlo como un hecho seguro. Prefiero 
que me digas "no estoy seguro" a que me dés un dato que podría 
ser incorrecto.

Este prompt no garantiza que la IA "sepa" cuándo está equivocada —los modelos no siempre tienen ese nivel de autoconciencia—, pero en la práctica reduce la frecuencia de afirmaciones presentadas con falsa seguridad, y te recuerda a ti mismo, cada vez que lo usas, que la verificación es tu responsabilidad.

Lección 7.4 — Responsabilidad profesional y uso de IA

Esta es, quizá, la idea más importante de todo el módulo, y se puede resumir en una frase: la IA no firma nada. Tú sí.

El principio de "herramienta, no sustituto"

Desde un punto de vista de responsabilidad profesional, usar IA para redactar un borrador es exactamente equivalente, en términos de tu responsabilidad, a que lo redacte un pasante, un asociado junior, o que partas de una plantilla de un formulario. En todos estos casos, la responsabilidad de lo que finalmente firmas y presentas es tuya, independientemente de quién o qué generó el borrador inicial.

Esto no es una novedad ni una complicación añadida por la IA — es exactamente el mismo principio que ya rige tu trabajo. La diferencia es que, con un pasante, hay un proceso natural de revisión porque sabes que un junior puede cometer errores. Con la IA, el riesgo es que el resultado "suena" tan bien y tan seguro de sí mismo que es tentador saltarse ese paso de revisión — y ese es precisamente el error que hay que evitar.

Lo que esto significa en términos prácticos

1. Nunca presentes o envíes un documento generado por IA sin haberlo leído completo tú mismo. No "por encima" — completo, con la misma atención que le darías a un documento redactado por un compañero en quien confías pero cuyo trabajo siempre revisas.

2. Verifica los datos críticos (citas normativas, jurisprudencia, plazos, importes) contra fuentes oficiales, como vimos en la lección anterior.

3. Asegúrate de que el documento refleja tu criterio profesional, no solo el de la IA. Si la IA sugiere un argumento o un enfoque con el que no estás de acuerdo, no lo incluyas solo porque "suena bien" — tu criterio profesional es la razón por la que el cliente te ha contratado a ti.

4. Mantén un registro mental (o real) de qué partes de un documento provienen de IA durante el proceso de revisión — no para declararlo en el documento final (no es necesario en la mayoría de los casos), sino para asegurarte de que tu revisión ha sido exhaustiva y no superficial.

Un cambio de perspectiva útil

En lugar de pensar "la IA ha redactado esto, así que probablemente está bien", piensa "la IA me ha dado un borrador de alguien que escribe muy bien pero que no conoce mi caso, no conoce a mi cliente, y a veces se equivoca con total seguridad". Con esa perspectiva, la revisión deja de ser un trámite y se convierte en lo que realmente es: la parte del trabajo donde tu valor profesional se aplica de verdad.

Lección 7.5 — Buenas prácticas para usar IA de forma segura y ética

Cerramos con un resumen de buenas prácticas que reúne todo lo visto en el módulo, organizado como una serie de hábitos que, una vez adoptados, se vuelven automáticos.

Las 7 buenas prácticas

1. Anonimiza por defecto. Antes de pegar cualquier texto con datos de un cliente, pregúntate si necesitas anonimizar. En caso de duda, anonimiza — cuesta unos segundos y elimina el riesgo.

2. Configura la privacidad una vez, en todas las herramientas. Desactiva el uso de tus conversaciones para entrenamiento en cada herramienta de IA que uses para el despacho. Es una tarea de 5 minutos por herramienta, una sola vez.

3. Verifica todo dato normativo o jurisprudencial citado por la IA contra BOE, CENDOJ o la fuente oficial correspondiente, antes de que aparezca en cualquier documento que entregues.

4. Lee completo, siempre. Ningún documento generado con apoyo de IA sale del despacho sin una lectura completa y atenta por tu parte.

5. Usa la IA para el "primer borrador" o la "organización", no para la "decisión final". La decisión de qué argumento usar, qué estrategia seguir, qué tono adoptar con un cliente — esa decisión es tuya, informada por la IA pero no delegada en ella.

6. Documenta tus criterios de uso de IA en el despacho, especialmente si tienes colaboradores. Una breve guía interna ("usamos IA para X, Y, Z; siempre anonimizamos datos de clientes; siempre revisamos antes de enviar") evita problemas y homogeneiza el criterio del equipo.

7. Mantente al día, sin obsesionarte. Las herramientas de IA evolucionan rápido, pero los principios de este módulo —confidencialidad, verificación, responsabilidad profesional— son estables y seguirán siendo válidos independientemente de qué herramienta concreta uses en el futuro.

Las 7 buenas prácticas, de un vistazo:

Ejercicio práctico del módulo 7

1. Revisa la configuración de privacidad de todas las herramientas de IA que usas para el despacho (ChatGPT, Claude, Perplexity, NotebookLM) y desactiva el uso de tus conversaciones para entrenamiento, si no lo has hecho ya.
2. Coge un documento reciente que hayas generado con ayuda de IA durante este curso y haz una "auditoría" rápida: ¿contiene alguna cita normativa o jurisprudencial? Si es así, verifícala en BOE o CENDOJ.
3. Si tienes equipo, redacta un breve documento (puede ser de media página) con los criterios de uso de IA del despacho, usando como base las 7 buenas prácticas de la lección 7.5.
4. Consulta el archivo checklist-verificacion-ia.md (incluido en este curso) y guárdalo en un lugar accesible — vas a usarlo antes de entregar cualquier documento generado con apoyo de IA.

Resumen del módulo 7

• El Reglamento Europeo de IA no introduce restricciones que cambien el uso que damos a la IA en este curso — refuerza el principio de que las decisiones jurídicas las toma el abogado.
• La confidencialidad es el límite más importante: anonimiza con marcadores entre corchetes cualquier dato que identifique a un cliente antes de usarlo en una IA de consumo.
• Las alucinaciones son el riesgo técnico principal: datos inventados presentados con total seguridad. Verifica siempre citas normativas y jurisprudenciales contra fuentes oficiales.
• La responsabilidad profesional es siempre tuya — la IA es una herramienta, no un sustituto de tu criterio ni de tu firma.
• Adopta las 7 buenas prácticas como hábitos: anonimizar, configurar privacidad, verificar, leer completo, decidir tú, documentar criterios, y mantenerte al día sin obsesionarte.