AI Act (Reglamento UE 2024/1689)
Reglamento europeo aplicable a cualquier sistema de IA comercializado, puesto en servicio o utilizado en la UE. Clasifica los sistemas en cuatro categorías por nivel de riesgo (inaceptable, alto, limitado, mínimo) con obligaciones distintas para proveedores, distribuidores, importadores y desplegadores. Entró en vigor el 2 de agosto de 2024 y aplica de forma escalonada hasta 2027. Sanciones hasta 35 M€ o 7 % de facturación global.
Qué es el AI Act y a quién aplica
El AI Act (Reglamento UE 2024/1689) es la primera regulación integral de IA en el mundo. Aplica a cualquier sistema de IA comercializado, puesto en servicio o utilizado en la Unión Europea, con independencia de dónde esté establecido el proveedor. Es decir: si tu empresa está en España y usa un modelo de OpenAI (empresa estadounidense) para procesar datos de un cliente alemán, el AI Act te aplica.
La lógica del reglamento es simple: clasifica los sistemas por nivel de riesgo y asigna obligaciones proporcionales. Los sistemas de mínimo riesgo prácticamente no tienen obligaciones más allá de buenas prácticas. Los de alto riesgo tienen obligaciones extensivas de documentación, gestión de riesgos, transparencia, supervisión humana y ciberseguridad.
Las obligaciones se dividen entre proveedores (quien pone el sistema en el mercado o lo desarrolla) y desplegadores (quien lo usa profesionalmente). Es crítico identificar tu rol antes de nada — muchas empresas se creen "solo usuarias" cuando en realidad son proveedoras porque personalizan o comercializan sistemas IA.
Aplica también a empresas fuera de la UE si sus sistemas se usan dentro. Y aplica al deployer aunque el proveedor esté fuera. Esto significa que si contratas un SaaS con IA de una startup americana, tú (como deployer español) tienes obligaciones aunque el proveedor no las cumpla.
Los 4 roles: proveedor, deployer, importador, distribuidor
Una misma empresa puede tener varios roles simultáneos según el sistema IA concreto. Ejemplo: una consultora IA (nosotros mismos) somos proveedores cuando desarrollamos e integramos un agente propio para un cliente, y somos deployers cuando usamos ChatGPT Enterprise para redactar propuestas internas.
| Rol | Definición | Ejemplo típico | Obligaciones |
|---|---|---|---|
| Proveedor | Persona/empresa que desarrolla un sistema IA y lo comercializa/pone en servicio con su nombre | Startup española que vende chatbot con IA a hoteles | Máximas · técnicas, documentación, evaluación de conformidad |
| Deployer | Persona/empresa que usa un sistema IA en el marco de su actividad profesional | Aseguradora usando IA de tercero para triage siniestros | Uso conforme, supervisión humana, información al afectado |
| Importador | Establecido en UE que importa a la UE un sistema IA de proveedor extra-UE | Distribuidor europeo de sistemas IA americanos | Verifica que el proveedor cumplió; documentación |
| Distribuidor | Cualquier persona en cadena de suministro que hace disponible un sistema IA sin ser proveedor/importador | Reseller que vende sistema IA de tercero | Verifica etiquetado y documentación |
Si "solo eres deployer" pero modificas sustancialmente un sistema IA de un proveedor (fine-tuning con tus datos, cambio de propósito, ajuste de outputs), te conviertes en proveedor a ojos del AI Act. Con obligaciones máximas. Este punto se ignora en muchos proyectos internos con fine-tuning.
Las 4 categorías de riesgo
- Riesgo inaceptable · PROHIBIDO — Sistemas de manipulación subliminal, social scoring por autoridades públicas, categorización biométrica por raza/orientación, reconocimiento emocional en trabajo/educación (con excepciones), scraping masivo de imágenes faciales de internet para bases de datos. Sanción máxima 35 M€ / 7 %.
- Alto riesgo · OBLIGACIONES EXTENSIVAS — Sistemas usados en: acceso a educación, empleo (selección, evaluación), servicios esenciales (crédito, seguros de vida/salud), aplicación de la ley, migración/asilo/fronteras, administración de justicia, procesos democráticos. Requiere expediente técnico, evaluación de conformidad, sistema de gestión de riesgos, transparencia, supervisión humana, ciberseguridad, registro en base de datos UE. Sanción hasta 15 M€ / 3 %.
- Riesgo limitado · TRANSPARENCIA — Chatbots, deepfakes, sistemas que generan contenido sintético. Obligación básica: informar al usuario de que interactúa con IA o de que el contenido es generado artificialmente. Aplica a la mayoría de chatbots y sistemas generativos comerciales.
- Riesgo mínimo · BUENAS PRÁCTICAS — Todo lo demás. Filtros de spam, recomendadores de contenido, videojuegos con IA, sistemas puramente internos. Sin obligaciones legales — solo buenas prácticas sugeridas.
Los sistemas GPAI (General Purpose AI Models) — como Claude, GPT, Gemini, Llama — tienen su régimen específico dentro del AI Act. Los proveedores de estos modelos (Anthropic, OpenAI, Google, Meta) tienen sus obligaciones. Si tú usas su API, no eres proveedor GPAI — eres deployer del sistema que has construido encima.
Obligaciones concretas para una empresa española
Para una empresa española que use IA en procesos internos o comerciales, las obligaciones dependen del rol (proveedor/deployer) y de la categoría de riesgo del sistema. Este es el resumen ejecutivo:
- Inventario de sistemas IA · Todos · Mantén un registro de todos los sistemas IA usados o desarrollados: propósito, categoría de riesgo, proveedor, datos que procesa, decisiones automatizadas.
- Análisis de categoría · Todos · Para cada sistema, evalúa la categoría de riesgo con criterios del anexo III del reglamento. Si es alto riesgo, pasa al siguiente nivel de obligaciones.
- Sistema de gestión de riesgos · Proveedor alto riesgo · Proceso documentado de identificación, evaluación y mitigación de riesgos del sistema durante todo su ciclo de vida.
- Expediente técnico · Proveedor alto riesgo · Documentación detallada: arquitectura, datos de entrenamiento, métricas de rendimiento, limitaciones conocidas, casos de uso previstos e imprevistos.
- Registro de logs · Proveedor + Deployer alto riesgo · El sistema debe generar logs automáticos que permitan auditoría posterior.
- Transparencia con usuario · Todos riesgo limitado+ · Informar cuando el usuario interactúa con IA (chatbots) o cuando el contenido es sintético (deepfakes, IA generativa comercial).
- Supervisión humana · Alto riesgo · Diseño que permita a un humano supervisar el sistema, entender su output y intervenir/parar si detecta problema.
- Evaluación de conformidad · Proveedor alto riesgo · Antes de comercializar, evaluar que el sistema cumple los requisitos. Puede ser autoevaluación o certificación por organismo notificado según caso.
- Marcado CE + registro UE · Proveedor alto riesgo · El sistema lleva marcado CE y se inscribe en la base de datos de sistemas IA de alto riesgo de la UE.
- Análisis de impacto en derechos fundamentales (FRIA) · Deployer alto riesgo público/servicios esenciales · Evaluación específica sobre impacto en personas afectadas.
Calendario de aplicación 2024-2027
| Fecha | Qué entra en aplicación |
|---|---|
| 1 agosto 2024 | Entrada en vigor del reglamento |
| 2 febrero 2025 | Prohibiciones (riesgo inaceptable) + obligación de alfabetización IA del personal |
| 2 agosto 2025 | Obligaciones para proveedores de GPAI (Claude, GPT, Gemini). Modelos ya en mercado tienen hasta 2 ago 2027 para cumplir plenamente |
| 2 agosto 2026 | ENTRADA EN APLICACIÓN GENERAL · resto de obligaciones para sistemas IA de riesgo limitado y alto (con excepciones) |
| 2 agosto 2027 | Aplicación plena a sistemas IA alto riesgo que sean parte de productos regulados (anexo I) — dispositivos médicos, juguetes, ascensores, etc. |
La fecha crítica para la mayoría de empresas españolas es 2 de agosto de 2026. A partir de esa fecha, si desplegas IA en procesos de alto riesgo sin las obligaciones cumplidas, estás expuesto a sanción. Preparación mínima: 6 meses. Si aún no has empezado, empieza ya.
Sanciones reales y régimen autoridad española (AESIA)
La autoridad competente en España es AESIA (Agencia Española de Supervisión de la Inteligencia Artificial), con sede en A Coruña. Es la primera agencia nacional en la UE dedicada específicamente a supervisión IA — se creó en agosto de 2023 en anticipación al AI Act.
AESIA tiene competencias de investigación, requerimiento de información y propuesta de sanción. En 2025-2026 su foco principal es preparación de guías, colaboración con proveedores y sensibilización. A partir de agosto 2026 se espera régimen sancionador activo, aunque probablemente comenzará por casos graves y sistemas de prohibición (categoría inaceptable) antes de escalar a alto riesgo.
El régimen sancionador español complementario (Ley de Servicios Digitales + Ley de Gobernanza IA en tramitación) puede añadir obligaciones específicas y regímenes de responsabilidad civil por daños causados por IA.
- Hasta 35 M€ o 7 % facturación global · Incumplimiento de prohibiciones (riesgo inaceptable)
- Hasta 15 M€ o 3 % facturación global · Incumplimiento de obligaciones alto riesgo, GPAI o transparencia
- Hasta 7,5 M€ o 1 % facturación global · Facilitar información incorrecta a autoridades
Checklist para el DPO / responsable IA
- 1. Crear inventario de sistemas IA usados o desarrollados por la empresa (incluyendo integraciones vía API con LLMs de terceros).
- 2. Clasificar cada sistema por rol (proveedor / deployer / importador / distribuidor) y por categoría de riesgo.
- 3. Identificar sistemas de alto riesgo — prioridad máxima si trabajáis en RRHH, crédito, seguros, sanidad, biometría, infraestructura crítica.
- 4. Formar al personal sobre AI Act — obligación ya en vigor desde febrero 2025 (alfabetización IA del art. 4).
- 5. Para sistemas de alto riesgo donde eres proveedor: iniciar sistema de gestión de riesgos + expediente técnico + evaluación de conformidad.
- 6. Para sistemas donde eres deployer: revisar contrato con proveedor, verificar que cumple, documentar propósito de uso, activar supervisión humana.
- 7. Para chatbots y sistemas generativos: implementar transparencia (aviso al usuario) antes de 2 ago 2026.
- 8. Revisar contratos con proveedores IA (Anthropic, OpenAI, Google) — deben cumplir obligaciones GPAI. Confirmar por escrito.
- 9. Integrar AI Act en el análisis de impacto (EIPD/DPIA) de proyectos IA con datos personales (RGPD art. 35).
- 10. Preparar procedimiento de gestión de incidentes graves — obligación de notificación a AESIA en 15 días si el sistema causa daño material o vulneración de derechos.
Descarga nuestro compliance kit EU AI Act — plantillas de inventario, análisis de riesgo, documentación técnica y matriz de responsabilidad por rol. Gratis, en español.
Preguntas frecuentes
Somos una pyme que usa ChatGPT y Claude para tareas internas. ¿Nos aplica el AI Act?
Sí, sois deployers de esos sistemas. Las obligaciones dependen del propósito de uso. Si los usáis para tareas puramente internas de bajo riesgo (redactar correos, resumir informes, generar copy de marketing), las obligaciones son mínimas: básicamente informar a la plantilla de que existen estos sistemas y garantizar que el proveedor (Anthropic, OpenAI) cumple sus obligaciones GPAI.
Si los usáis para procesos que afectan a personas de forma significativa (selección de personal, evaluación de empleados, decisiones sobre clientes en servicios esenciales), entran en alto riesgo y las obligaciones son extensivas — sistema de gestión de riesgos, transparencia, supervisión humana, análisis de impacto.
La regla de bolsillo: uso interno de productividad = obligaciones mínimas. Uso que impacta decisiones sobre personas externas = evaluación cuidadosa y probable alto riesgo.
Si hacemos fine-tuning de un modelo open-source (Llama, Mistral), ¿somos proveedores?
Depende de si vais a comercializar o poner en servicio el modelo modificado, o si es puramente interno. Si es interno para procesos propios, sois deployers avanzados con responsabilidad reforzada por la modificación. Si comercializáis o distribuís el modelo fine-tuned, pasáis a ser proveedores con obligaciones máximas.
La modificación sustancial (cambio de propósito, ajuste significativo del comportamiento, expansión a nuevas capacidades) es lo que activa la reclasificación como proveedor. Un fine-tuning ligero con datos propios para especializar el modelo en vuestro dominio suele considerarse modificación sustancial.
Recomendación: si el fine-tuning es interno, documentad claramente el propósito y las limitaciones. Si es comercial, preparaos para todas las obligaciones de proveedor.
¿Qué pasa si mi proveedor de IA (Anthropic, OpenAI) no cumple el AI Act?
Como deployer, tienes obligación de verificar que el sistema que despliegas cumple los requisitos aplicables. Si tu proveedor no cumple obligaciones GPAI (por ejemplo, no publica ficha técnica del modelo o no informa de riesgos sistémicos), estás desplegando un sistema en incumplimiento.
En la práctica los grandes proveedores (Anthropic, OpenAI, Google, Meta) están adaptándose progresivamente y publican documentación técnica en sus centros de confianza. Debes revisar sus términos, sus cards de modelo y confirmar por escrito que cumplen las obligaciones GPAI que apliquen a los modelos que usas.
Si un proveedor pequeño o startup no cumple, valora migrar o exigir compliance por contrato. Tu responsabilidad como deployer no desaparece porque el proveedor sea pequeño.
¿Cuándo hay que hacer análisis de impacto en derechos fundamentales (FRIA)?
El FRIA (Fundamental Rights Impact Assessment) es obligatorio para deployers de sistemas IA de alto riesgo en tres casos: (1) autoridades públicas y organismos que actúan en su nombre, (2) prestadores de servicios públicos esenciales, (3) empresas privadas cuando el sistema se usa para evaluar la solvencia (art. 27 del AI Act).
El análisis debe identificar: proceso donde se usa el sistema, período estimado y frecuencia, categoría de personas afectadas, riesgos específicos de daño, medidas de supervisión humana y mitigación de riesgos.
El FRIA es distinto de la EIPD/DPIA de RGPD — aunque pueden hacerse conjuntamente. La EIPD analiza impacto en protección de datos; el FRIA analiza impacto en el conjunto de derechos fundamentales (dignidad, no discriminación, libertad de expresión, tutela judicial efectiva).
¿AESIA ya está sancionando o está en fase de acompañamiento?
AESIA está en fase de acompañamiento y preparación para la aplicación plena del AI Act en agosto de 2026. En 2025-2026 su foco es publicar guías interpretativas, formar al ecosistema, colaborar con proveedores y sensibilizar sobre obligaciones.
A partir de agosto 2026 se espera régimen sancionador activo, aunque previsiblemente empiece por casos graves (prohibiciones de riesgo inaceptable, sistemas alto riesgo desplegados sin ninguna documentación) antes de escalar a fiscalización sistemática.
Recomendación: no esperes a que AESIA te investigue. La preparación mínima para cumplir obligaciones alto riesgo son 6-12 meses, y los proveedores serios de IA lo saben — ya están alineando sus contratos y documentación con AI Act de forma proactiva.