El término «agente de IA» se utiliza a menudo de manera incoherente en el debate público, debido en parte a una demarcación borrosa y aún en evolución entre los agentes de IA y otros tipos de IA. Sin embargo, existe un amplio acuerdo en que un agente de IA debe tener la capacidad de recibir y procesar información de su entorno, y ejecutar acciones basadas en este procesamiento que puedan interactuar con su entorno o afectarlo (por ejemplo, emitir llamadas a funciones). El término «IA genética» se utiliza a veces para describir configuraciones más sofisticadas que integran múltiples agentes de IA. Sin embargo, la interrelación precisa entre estos dos términos todavía está evolucionando.
Por lo general, un agente de IA contendrá al menos un modelo de IA de uso general (GPAI) y constituirá un sistema de IA, ya que normalmente tendrá algún tipo de interfaz, que se considera un componente del sistema (considerando 97 de la Ley de IA). Es difícil hacer una declaración más precisa que «típicamente», ya que el término agente de IA no está definido legalmente y se utiliza coloquialmente para diferentes tipos de artefactos. Por lo tanto, si bien los agentes de IA no son una categoría separada de IA en virtud de la Ley de IA, las definiciones de un sistema de IA en el artículo 3, apartado 1, de la Ley de IA y de un modelo de GPAI en el artículo 3, apartado 63, de la Ley de IA son suficientes para abarcar a los agentes de IA. Esto significa que las normas aplicables a los sistemas de IA y los modelos de IAGP en virtud de la Ley de IA también se aplican a los agentes de IA.
Entre las normas aplicables a los sistemas de IA, son especialmente pertinentes las prohibiciones de manipulación nociva y explotación de vulnerabilidades establecidas en la Ley de IA [artículo 5, apartado 1, letras a) y b), de la Ley de IA], cuyo cumplimiento puede requerir salvaguardias en el diseño y desarrollo de los agentes de IA para evitar prácticas prohibidas que puedan razonablemente causar un perjuicio significativo. A partir del 2 de agosto de 2026, si el agente de IA se clasifica como sistema de IA de alto riesgo, también estará sujeto a requisitos adicionales que garanticen su seguridad y fiabilidad para el uso previsto (capítulo III de la Ley de IA). Además, si se pretende que el agente de IA interactúe con personas físicas o genere contenido, se aplicarán normas de transparencia (artículo 50 de la Ley de IA): se está elaborando un código de buenas prácticas para poner en práctica estas normas.
Por lo que se refiere a los modelos de IAGP normalmente subyacentes a los agentes de IA, factores como el nivel de autonomía o el uso de herramientas del modelo pueden ser decisivos para la designación del modelo como modelo con riesgo sistémico [artículo 51, apartado 1, letra b), y anexo XIII, letra e), de la Ley de IA]. Además, los proveedores de modelos de IAGP con riesgo sistémico están sujetos a obligaciones de gestión de riesgos, que incluyen consideraciones relativas a las capacidades autónomas del modelo y su uso como agente (operado, por ejemplo, en la medida 5.1, punto 7, apéndice 1.3.1, puntos 5 y 7, apéndice 1.3.3, puntos 1, 4 y 12, o apéndice 3.2, párrafo segundo, capítulo sobre seguridad y protección del Código de buenas prácticas de IAGP).
Dado que los avances relacionados con los agentes de IA son recientes y evolucionan rápidamente, las consideraciones reglamentarias de la Comisión Europea solo son preliminares en esta fase. La Oficina de IA sigue supervisando de cerca estos avances y, si es necesario, considerará la posibilidad de desarrollar estrategias para abordar los posibles riesgos que plantean los agentes de IA. Por ejemplo, la reciente licitación de la Oficina de IA sobre asistencia técnica para la seguridad de la IA incluye un lote dedicado a la evaluación de la seguridad y la protección de los agentes de IA.