Termin „agent sztucznej inteligencji” jest często stosowany w sposób niespójny w debacie publicznej, częściowo ze względu na rozmyte i wciąż zmieniające się rozgraniczenie między agentami sztucznej inteligencji a innymi rodzajami sztucznej inteligencji. Istnieje jednak powszechna zgoda co do tego, że agent sztucznej inteligencji musi mieć możliwość odbierania i przetwarzania danych wejściowych ze swojego środowiska oraz wykonywania działań opartych na tym przetwarzaniu, które mogą wchodzić w interakcje z jego środowiskiem lub wpływać na nie (np. wydawanie wywołań funkcyjnych). Termin „agentyczna sztuczna inteligencja” jest czasami używany do opisania bardziej wyrafinowanych konfiguracji, które integrują wiele czynników sztucznej inteligencji. Niemniej jednak dokładny związek między tymi dwoma pojęciami wciąż ewoluuje.
Zazwyczaj agent sztucznej inteligencji będzie zawierał co najmniej model sztucznej inteligencji ogólnego przeznaczenia (GPAI) i będzie stanowił system sztucznej inteligencji, ponieważ zwykle będzie miał jakąś formę interfejsu, który jest uważany za element systemu (motyw 97 aktu w sprawie sztucznej inteligencji). Trudno jest sformułować bardziej precyzyjne stwierdzenie niż „zazwyczaj”, ponieważ termin „agent sztucznej inteligencji” nie jest prawnie zdefiniowany i jest używany potocznie w odniesieniu do różnych rodzajów artefaktów. W związku z tym, chociaż podmioty zajmujące się sztuczną inteligencją nie są odrębną kategorią sztucznej inteligencji na podstawie aktu w sprawie sztucznej inteligencji, definicje systemu sztucznej inteligencji zawarte w art. 3 ust. 1 aktu w sprawie sztucznej inteligencji i modelu sztucznej inteligencji ogólnego przeznaczenia zawarte w art. 3 pkt 63 aktu w sprawie sztucznej inteligencji są wystarczające, aby objąć nimi podmioty zajmujące się sztuczną inteligencją. Oznacza to, że przepisy mające zastosowanie do systemów sztucznej inteligencji i modeli sztucznej inteligencji ogólnego przeznaczenia na podstawie aktu w sprawie sztucznej inteligencji mają również zastosowanie do agentów sztucznej inteligencji.
Wśród przepisów dotyczących systemów sztucznej inteligencji szczególnie istotne są zawarte w akcie w sprawie sztucznej inteligencji zakazy szkodliwych manipulacji i wykorzystywania podatności (art. 5 ust. 1 lit. a) i b) aktu w sprawie sztucznej inteligencji), których przestrzeganie może wymagać zabezpieczeń przy projektowaniu i opracowywaniu agentów sztucznej inteligencji w celu uniknięcia zakazanych praktyk, co do których istnieje uzasadnione prawdopodobieństwo, że spowodują znaczne szkody. Począwszy od dnia 2 sierpnia 2026 r., jeżeli agent sztucznej inteligencji klasyfikuje się jako system sztucznej inteligencji wysokiego ryzyka, podlega on również dodatkowym wymogom, które zapewniają jego bezpieczeństwo i wiarygodność w odniesieniu do zamierzonego zastosowania (rozdział III aktu w sprawie sztucznej inteligencji). Ponadto jeżeli agent sztucznej inteligencji ma wchodzić w interakcje z osobami fizycznymi lub generować treści, zastosowanie będą miały zasady przejrzystości (art. 50 aktu w sprawie sztucznej inteligencji) – opracowywany jest kodeks postępowania mający na celu wdrożenie tych zasad.
Jeżeli chodzi o modele sztucznej inteligencji ogólnego przeznaczenia, na których zazwyczaj opierają się czynniki sztucznej inteligencji, czynniki takie jak poziom autonomii lub wykorzystanie modelu jako narzędzia mogą mieć decydujące znaczenie dla wyznaczenia modelu jako modelu o ryzyku systemowym (art. 51 ust. 1 lit. b) załącznika XIII lit. e) do aktu w sprawie sztucznej inteligencji). Ponadto dostawcy modeli sztucznej inteligencji ogólnego przeznaczenia o ryzyku systemowym podlegają obowiązkom w zakresie zarządzania ryzykiem, które obejmują względy dotyczące autonomicznych zdolności modelu i jego agentycznego wykorzystania (uruchomione na przykład w działaniu 5.1 pkt 7, dodatku 1.3.1, pkt 5 i 7, dodatku 1.3.3, pkt 1, 4 i 12 lub dodatku 3.2 akapit drugi, rozdział kodeksu postępowania w zakresie sztucznej inteligencji ogólnego przeznaczenia dotyczący bezpieczeństwa i ochrony).
Biorąc pod uwagę, że zmiany związane z agentami sztucznej inteligencji są niedawne i szybko ewoluują, rozważania regulacyjne Komisji Europejskiej są dopiero wstępne na tym etapie. Urząd ds. Sztucznej Inteligencji nadal uważnie monitoruje te zmiany i w razie potrzeby rozważy opracowanie strategii przeciwdziałania potencjalnym zagrożeniom stwarzanym przez podmioty zajmujące się sztuczną inteligencją. Na przykład niedawne zaproszenie do składania ofert przez Urząd ds. Sztucznej Inteligencji dotyczące pomocy technicznej w zakresie bezpieczeństwa sztucznej inteligencji obejmuje część poświęconą ocenie bezpieczeństwa i ochrony agentów sztucznej inteligencji.