i
Esto es una traducción automática facilitada por el servicio eTranslation de la Comisión Europea para ayudarle a comprender esta página. Por favor, lea las condiciones de uso
Esta lista de preguntas frecuentes se ha elaborado a partir de las consultas recibidas durante los seminarios web del AI Pact, así como de las contribuciones de las partes interesadas. Esta lista se actualizará periódicamente y cuando sea necesario.
The Commissions’ enforcement powers related to AI Act obligations for providers of the most advanced models enter into application on 2 August 2026. What will change then?
The AI Act foresees a one-year period, from 2 August 2025, in which providers of the most advanced models must comply with their obligations before the Commission’s enforcement powers enter into application on 2 August 2026. Providers must, for instance, notify the Commission when they know they are developing one of the most advanced models. They must also assess and mitigate systemic risks from those models and most of the relevant providers have signed and are implementing the GPAI Code of Practice to this end. Since last year, the Commission’s AI Office has therefore received information and held technical compliance dialogues with providers to improve their practices to assess and mitigate systemic risks.
The AI Office views these technical compliance dialogues as a first tool of choice to assess compliance and clarify questions to support providers’ efforts. So, in one important way, nothing changes in August – the AI Office will continue and, if anything, intensify, the ongoing technical compliance dialogues.
In preparation for 2 August 2026, the AI Office has also established the structures and competencies needed for using enforcement powers. The powers include requesting information, requesting access to a model for evaluations, requiring risk mitigation measures, and issuing fines of up to 3% of global annual turnover or requesting a provider to restrict the making available on the market, withdraw or recall the model. The AI Office may use these powers in cases where technical compliance dialogues are not sufficient.
¿Cómo se abordan los agentes de IA en el marco de la Ley de IA?
El término «agente de IA» se utiliza a menudo de manera incoherente en el debate público, debido en parte a una demarcación borrosa y aún en evolución entre los agentes de IA y otros tipos de IA. Sin embargo, existe un amplio acuerdo en que un agente de IA debe tener la capacidad de recibir y procesar información de su entorno, y ejecutar acciones basadas en este procesamiento que puedan interactuar con su entorno o afectarlo (por ejemplo, emitir llamadas a funciones). El término «IA genética» se utiliza a veces para describir configuraciones más sofisticadas que integran múltiples agentes de IA. Sin embargo, la interrelación precisa entre estos dos términos todavía está evolucionando.
Por lo general, un agente de IA contendrá al menos un modelo de IA de uso general (GPAI) y constituirá un sistema de IA, ya que normalmente tendrá algún tipo de interfaz, que se considera un componente del sistema (considerando 97 de la Ley de IA). Es difícil hacer una declaración más precisa que «típicamente», ya que el término agente de IA no está definido legalmente y se utiliza coloquialmente para diferentes tipos de artefactos. Por lo tanto, si bien los agentes de IA no son una categoría separada de IA en virtud de la Ley de IA, las definiciones de un sistema de IA en el artículo 3, apartado 1, de la Ley de IA y de un modelo de GPAI en el artículo 3, apartado 63, de la Ley de IA son suficientes para abarcar a los agentes de IA. Esto significa que las normas aplicables a los sistemas de IA y los modelos de IAGP en virtud de la Ley de IA también se aplican a los agentes de IA.
Entre las normas aplicables a los sistemas de IA, son especialmente pertinentes las prohibiciones de manipulación nociva y explotación de vulnerabilidades establecidas en la Ley de IA [artículo 5, apartado 1, letras a) y b), de la Ley de IA], cuyo cumplimiento puede requerir salvaguardias en el diseño y desarrollo de los agentes de IA para evitar prácticas prohibidas que puedan razonablemente causar un perjuicio significativo. A partir del 2 de agosto de 2026, si el agente de IA se clasifica como sistema de IA de alto riesgo, también estará sujeto a requisitos adicionales que garanticen su seguridad y fiabilidad para el uso previsto (capítulo III de la Ley de IA). Además, si se pretende que el agente de IA interactúe con personas físicas o genere contenido, se aplicarán normas de transparencia (artículo 50 de la Ley de IA): se está elaborando un código de buenas prácticas para poner en práctica estas normas.
Por lo que se refiere a los modelos de IAGP normalmente subyacentes a los agentes de IA, factores como el nivel de autonomía o el uso de herramientas del modelo pueden ser decisivos para la designación del modelo como modelo con riesgo sistémico [artículo 51, apartado 1, letra b), y anexo XIII, letra e), de la Ley de IA]. Además, los proveedores de modelos de IAGP con riesgo sistémico están sujetos a obligaciones de gestión de riesgos, que incluyen consideraciones relativas a las capacidades autónomas del modelo y su uso como agente (operado, por ejemplo, en la medida 5.1, punto 7, apéndice 1.3.1, puntos 5 y 7, apéndice 1.3.3, puntos 1, 4 y 12, o apéndice 3.2, párrafo segundo, capítulo sobre seguridad y protección del Código de buenas prácticas de IAGP).
Dado que los avances relacionados con los agentes de IA son recientes y evolucionan rápidamente, las consideraciones reglamentarias de la Comisión Europea solo son preliminares en esta fase. La Oficina de IA sigue supervisando de cerca estos avances y, si es necesario, considerará la posibilidad de desarrollar estrategias para abordar los posibles riesgos que plantean los agentes de IA. Por ejemplo, la reciente licitación de la Oficina de IA sobre asistencia técnica para la seguridad de la IA incluye un lote dedicado a la evaluación de la seguridad y la protección de los agentes de IA.
¿Qué es un sistema de IA de uso general (GPAI)?
Cuando un modelo de IA de uso general se integre en un sistema de IA o forme parte de él, el sistema resultante debe considerarse un sistema de IA de uso general si adquiere la capacidad de servir a múltiples fines a través de esta integración. Los sistemas de IA de uso general pueden utilizarse directamente o integrarse en otros sistemas de IA.
Dada su versatilidad, los sistemas de IA de uso general pueden utilizarse como sistemas de IA de alto riesgo por derecho propio o como componentes de otros sistemas de IA de alto riesgo. A fin de garantizar una distribución justa de las responsabilidades a lo largo de toda la cadena de valor de la IA, los proveedores de sistemas de IA de uso general deben cooperar estrechamente con los proveedores de sistemas de IA de alto riesgo pertinentes, a menos que se especifique lo contrario en el presente Reglamento. Esta cooperación debe permitir a los proveedores de sistemas de IA de alto riesgo cumplir sus obligaciones en virtud del presente Reglamento y facilitar las interacciones con las autoridades competentes establecidas por el Reglamento.
¿A qué modelos de IA se aplica la Ley de IA?
La Ley de IA regula, entre otras cosas, los modelos de IA de uso general que se introducen en el mercado de la Unión, incluido su desarrollo y uso. Para más información sobre las condiciones en las que un modelo de IA se considera «de uso general», véase la pregunta «¿Cuándo se considera un modelo un modelo de IA de uso general?» y la sección 2.1 de las Directrices sobre el ámbito de aplicación de las obligaciones aplicables a los modelos de IA de uso general.
«Introducción en el mercado»: el primer suministro de un sistema de IA o un modelo de IA de uso general para su distribución o uso en el mercado de la Unión durante una actividad comercial, ya sea a título oneroso o gratuito (artículo 3, apartado 9, punto 10, de la Ley de IA). En la sección 3.1.2 de las Directrices sobre el ámbito de aplicación de las obligaciones relativas a los modelos de IA de uso general pueden encontrarse algunos ejemplos de lo que constituye una comercialización.
Una versión de código abierto puede constituir una comercialización. En particular, el suministro comercial del modelo puede ser gratuito (artículo 3, apartado 10, de la Ley de IA). Sin embargo, los proveedores de un modelo de IA de uso general de código abierto que no presente un riesgo sistémico están exentos de determinadas obligaciones. Para más información, véase la pregunta «¿Cómo se aplica la Ley de IA a los modelos de IA de uso general publicados como de código abierto?» y la sección 4 de las Directrices sobre el ámbito de aplicación de las obligaciones aplicables a los modelos de IA de uso general.
El uso interno de un modelo de IA de uso general constituye una comercialización al menos si es esencial para proporcionar un producto o servicio a terceros en el mercado de la Unión o si afecta a los derechos de las personas físicas en la Unión. En la sección 3.1.2 de las Directrices sobre el ámbito de aplicación de las obligaciones relativas a los modelos de IA de uso general se ofrecen otros ejemplos.
Los modelos de IA desarrollados y puestos en servicio específicamente con el único fin de investigación y desarrollo científicos están fuera del ámbito de aplicación de la Ley de IA (artículo 2, apartado 6, de la Ley de IA).
¿Cuándo califica un modelo como un modelo de IA de propósito general?
El artículo 3, apartado 63, de la Ley de IA define un «modelo de IA de uso general» como «un modelo de IA, incluso cuando dicho modelo de IA se entrena con una gran cantidad de datos utilizando la autosupervisión a escala, que muestra una generalidad significativa y es capaz de realizar de manera competente una amplia gama de tareas distintas, independientemente de la forma en que se introduzca en el mercado el modelo y que puede integrarse en una variedad de sistemas o aplicaciones posteriores, excepto los modelos de IA que se utilizan para actividades de investigación, desarrollo o creación de prototipos antes de su introducción en el mercado». Esta definición enumera de manera general los factores que determinan si un modelo es un modelo de IA de propósito general. Sin embargo, no establece criterios específicos que los proveedores potenciales puedan utilizar para evaluar si su modelo es un modelo de IA de uso general.
La sección 2.1 de las Directrices sobre el alcance de las obligaciones para los modelos de IA de uso general proporciona un criterio indicativo: un modelo se considera un modelo de IA de uso general si los recursos computacionales utilizados para su entrenamiento superan las 1023 operaciones de punto flotante y puede generar lenguaje (texto o audio), texto a imagen o texto a vídeo. Este umbral de cómputo corresponde a la cantidad típica de cómputo utilizada para entrenar modelos con mil millones de parámetros en grandes conjuntos de datos. Además, las modalidades elegidas permiten una generación de contenido flexible capaz de acomodar una amplia gama de tareas distintas. Sin embargo, esta no es una regla absoluta: los modelos que cumplen este criterio pueden excepcionalmente no considerarse modelos de IA de uso general si carecen de una generalidad significativa, mientras que los modelos por debajo de este umbral pueden seguir siendo modelos de IA de uso general si muestran una generalidad significativa y pueden realizar de manera competente una amplia gama de tareas.
¿Cuándo es un modelo de IA de uso general uno con riesgo sistémico?
Un modelo de IA de uso general se clasifica como un modelo de IA de uso general con riesgo sistémico si cumple cualquiera de las dos condiciones siguientes.
Primero, si tiene capacidades que coinciden o superan las de los modelos más avanzados. La Ley de IA presupone que los modelos entrenados con una cantidad acumulada de recursos computacionales que supere las 1025 operaciones de coma flotante tienen tales capacidades (artículo 51, apartado 2, de la Ley de IA). El umbral se establece sobre la base de que el uso de esta cantidad de cómputo indica que el modelo podría afectar significativamente al mercado de la Unión debido a su alcance o a sus posibles efectos negativos en la salud pública, la seguridad, la protección, los derechos fundamentales o la sociedad. La Comisión Europea ajustará este umbral cuando sea necesario para tener en cuenta los avances tecnológicos.
En segundo lugar, la Comisión Europea puede designar un modelo como modelo de IA de uso general con riesgo sistémico, ya sea por iniciativa propia o tras una alerta cualificada del panel científico, si el modelo tiene capacidades o un impacto equivalente a los de los modelos más avanzados [artículo 51, apartado 1, letra b), de la Ley de IA]. Esto explica el hecho de que existen modelos que pueden presentar riesgos sistémicos a pesar de no alcanzar el umbral de cálculo.
Para un modelo que cumpla cualquiera de las dos condiciones, su proveedor debe cumplir obligaciones adicionales, incluida la evaluación y mitigación de los riesgos sistémicos (véase la pregunta «¿Cuáles son los requisitos adicionales para los modelos de IA de uso general con riesgo sistémico?»).
No se espera que los proveedores de modelos formados con menos de 1025 operaciones en coma flotante de cómputo acumulativo notifiquen su modelo a la Comisión Europea y cumplan las obligaciones de seguridad y protección, a menos que la Comisión Europea haya designado que su modelo presenta riesgos sistémicos.
¿Cuándo deben evaluar los proveedores si su modelo será un modelo de IA de uso general o un modelo de IA de uso general con riesgo sistémico?
El entrenamiento de un modelo de IA de propósito general (con o sin riesgo sistémico) requiere una asignación inicial considerable de recursos informáticos. Por lo tanto, los proveedores pueden saber si su modelo cumplirá el criterio indicativo para constituir un modelo de IA de uso general, que figura en la sección 2.1 de las Directrices sobre el alcance de las obligaciones para los modelos de IA de uso general, o el umbral de cómputo de entrenamiento acumulativo en el artículo 51, apartado 2, de la Ley de IA, antes de que se complete el entrenamiento (considerando 112 de la Ley de IA). En particular, se espera que los proveedores estimen si su modelo será un modelo de IA de propósito general (entrenado con más de 10 ^ 23 operaciones de coma flotante de cómputo acumulativo) y un modelo de IA de propósito general con riesgo sistémico (entrenado con más de 10 ^ 25 operaciones de coma flotante de cómputo acumulativo) antes del inicio de una gran carrera de pre-entrenamiento.
Una vez que un modelo supera el umbral de cómputo de entrenamiento acumulativo de 1025 operaciones de coma flotante, establecido en el artículo 51, apartado 2, de la Ley de IA, o el proveedor sabe que el modelo superará este umbral, el proveedor tiene dos semanas para notificarlo a la Comisión Europea (artículo 52 de la Ley de IA). Para más información sobre la notificación, véase la pregunta «Si un modelo de IA de uso general está por encima del umbral de cálculo para dichos modelos con riesgo sistémico, ¿se considera siempre que tiene riesgo sistémico?».
¿Cuál es la metodología para la estimación de cómputo de entrenamiento acumulativo (incluidos los datos sintéticos)?
Los proveedores pueden elegir su método para calcular / estimar el cómputo de entrenamiento acumulativo en operaciones de punto flotante. Las Directrices sobre el ámbito de aplicación de las obligaciones relativas a los modelos de IA de uso general, que figuran en su anexo, ofrecen dos enfoques posibles: basada en la arquitectura y en el hardware; así como los principios generales de lo que debe incluirse/excluirse en el cálculo. El cómputo utilizado para generar datos sintéticos —datos de entrenamiento creados artificialmente producidos por algoritmos (incluidos otros modelos) en lugar de recopilados de fuentes del mundo real— debe incluirse en el cálculo del cómputo de entrenamiento acumulativo, además del cómputo utilizado para entrenar sobre los datos sintéticos, si los datos sintéticos no son de acceso público. Sin embargo, el cálculo acumulativo del entrenamiento del modelo padre (es decir, el modelo que genera los datos sintéticos) no necesita ser incluido en el cálculo/estimación.
Si un modelo de IA de uso general está por encima del umbral de cómputo para dichos modelos con riesgo sistémico, ¿se considera siempre que tiene riesgo sistémico?
Los proveedores podrán impugnar la clasificación automática como modelo de IA de uso general con riesgo sistémico cuando cumplan el umbral de cálculo establecido en el artículo 51, apartado 2, de la Ley de IA. Por ejemplo, pueden refutar la presunción de que su modelo tiene capacidades de alto impacto aportando pruebas de que las capacidades de su modelo no coinciden ni superan las registradas en los modelos más avanzados. La sección 2.3 de las Directrices sobre el ámbito de aplicación de las obligaciones relativas a los modelos de IA de uso general ofrece orientaciones adicionales sobre cómo hacerlo. Si la Comisión Europea acepta los argumentos del proveedor, el modelo dejará de clasificarse como riesgo sistémico, reduciendo así las obligaciones del proveedor con respecto a este modelo específico a partir del momento de la aceptación.
En consonancia con la aplicación colaborativa y proporcionada de la Ley de IA y el derecho del proveedor a una buena administración, la Comisión Europea podrá tener en cuenta la nueva información presentada por el proveedor después de la notificación, una vez que esté disponible. Además, la decisión de la Comisión Europea de aceptar o rechazar los argumentos del prestador puede tener en cuenta las incertidumbres en la información facilitada y esbozar las condiciones para una posible reevaluación futura en consecuencia. Sin embargo, las obligaciones de los proveedores de modelos de IA de uso general con riesgo sistémico se aplican desde el momento en que el modelo cumple la condición del artículo 51, apartado 1, letra a), de la Ley de IA (es decir, capacidades de alto impacto, presumiblemente al cumplir el umbral de cálculo).
¿Afectan las medidas de seguridad incorporadas, como los filtros de salida, a la clasificación como modelo de IA de uso general con riesgo sistémico?
En general, no puede recurrirse a medidas de seguridad para mitigar los riesgos sistémicos derivados del modelo de IA de uso general del proveedor con riesgo sistémico. Sin embargo, las mitigaciones no cambian el hecho de que el modelo presenta un riesgo sistémico (aceptable). Si el modelo no presenta riesgos sistémicos, incluso sin medidas de seguridad y protección aplicadas, los proveedores pueden impugnar la clasificación automática con arreglo al artículo 52, apartado 2, de la Ley de IA (véase la pregunta «Si un modelo de IA de uso general está por encima del umbral de cómputo para dichos modelos con riesgo sistémico, ¿se considera siempre que tiene riesgo sistémico?»).