Frequently Asked Questions

Termin „agent sztucznej inteligencji” jest często stosowany w sposób niespójny w debacie publicznej, częściowo ze względu na rozmyte i wciąż zmieniające się rozgraniczenie między agentami sztucznej inteligencji a innymi rodzajami sztucznej inteligencji. Istnieje jednak powszechna zgoda co do tego, że agent sztucznej inteligencji musi mieć możliwość odbierania i przetwarzania danych wejściowych ze swojego środowiska oraz wykonywania działań opartych na tym przetwarzaniu, które mogą wchodzić w interakcje z jego środowiskiem lub wpływać na nie (np. wydawanie wywołań funkcyjnych). Termin „agentyczna sztuczna inteligencja” jest czasami używany do opisania bardziej wyrafinowanych konfiguracji, które integrują wiele czynników sztucznej inteligencji. Niemniej jednak dokładny związek między tymi dwoma pojęciami wciąż ewoluuje. 

Zazwyczaj agent sztucznej inteligencji będzie zawierał co najmniej model sztucznej inteligencji ogólnego przeznaczenia (GPAI) i będzie stanowił system sztucznej inteligencji, ponieważ zwykle będzie miał jakąś formę interfejsu, który jest uważany za element systemu (motyw 97 aktu w sprawie sztucznej inteligencji). Trudno jest sformułować bardziej precyzyjne stwierdzenie niż „zazwyczaj”, ponieważ termin „agent sztucznej inteligencji” nie jest prawnie zdefiniowany i jest używany potocznie w odniesieniu do różnych rodzajów artefaktów. W związku z tym, chociaż podmioty zajmujące się sztuczną inteligencją nie są odrębną kategorią sztucznej inteligencji na podstawie aktu w sprawie sztucznej inteligencji, definicje systemu sztucznej inteligencji zawarte w art. 3 ust. 1 aktu w sprawie sztucznej inteligencji i modelu sztucznej inteligencji ogólnego przeznaczenia zawarte w art. 3 pkt 63 aktu w sprawie sztucznej inteligencji są wystarczające, aby objąć nimi podmioty zajmujące się sztuczną inteligencją. Oznacza to, że przepisy mające zastosowanie do systemów sztucznej inteligencji i modeli sztucznej inteligencji ogólnego przeznaczenia na podstawie aktu w sprawie sztucznej inteligencji mają również zastosowanie do agentów sztucznej inteligencji. 

Wśród przepisów dotyczących systemów sztucznej inteligencji szczególnie istotne są zawarte w akcie w sprawie sztucznej inteligencji zakazy szkodliwych manipulacji i wykorzystywania podatności (art. 5 ust. 1 lit. a) i b) aktu w sprawie sztucznej inteligencji), których przestrzeganie może wymagać zabezpieczeń przy projektowaniu i opracowywaniu agentów sztucznej inteligencji w celu uniknięcia zakazanych praktyk, co do których istnieje uzasadnione prawdopodobieństwo, że spowodują znaczne szkody. Począwszy od dnia 2 sierpnia 2026 r., jeżeli agent sztucznej inteligencji klasyfikuje się jako system sztucznej inteligencji wysokiego ryzyka, podlega on również dodatkowym wymogom, które zapewniają jego bezpieczeństwo i wiarygodność w odniesieniu do zamierzonego zastosowania (rozdział III aktu w sprawie sztucznej inteligencji). Ponadto jeżeli agent sztucznej inteligencji ma wchodzić w interakcje z osobami fizycznymi lub generować treści, zastosowanie będą miały zasady przejrzystości (art. 50 aktu w sprawie sztucznej inteligencji) – opracowywany jest kodeks postępowania mający na celu wdrożenie tych zasad. 

Jeżeli chodzi o modele sztucznej inteligencji ogólnego przeznaczenia, na których zazwyczaj opierają się czynniki sztucznej inteligencji, czynniki takie jak poziom autonomii lub wykorzystanie modelu jako narzędzia mogą mieć decydujące znaczenie dla wyznaczenia modelu jako modelu o ryzyku systemowym (art. 51 ust. 1 lit. b) załącznika XIII lit. e) do aktu w sprawie sztucznej inteligencji). Ponadto dostawcy modeli sztucznej inteligencji ogólnego przeznaczenia o ryzyku systemowym podlegają obowiązkom w zakresie zarządzania ryzykiem, które obejmują względy dotyczące autonomicznych zdolności modelu i jego agentycznego wykorzystania (uruchomione na przykład w działaniu 5.1 pkt 7, dodatku 1.3.1, pkt 5 i 7, dodatku 1.3.3, pkt 1, 4 i 12 lub dodatku 3.2 akapit drugi, rozdział kodeksu postępowania w zakresie sztucznej inteligencji ogólnego przeznaczenia dotyczący bezpieczeństwa i ochrony). 

Biorąc pod uwagę, że zmiany związane z agentami sztucznej inteligencji są niedawne i szybko ewoluują, rozważania regulacyjne Komisji Europejskiej są dopiero wstępne na tym etapie. Urząd ds. Sztucznej Inteligencji nadal uważnie monitoruje te zmiany i w razie potrzeby rozważy opracowanie strategii przeciwdziałania potencjalnym zagrożeniom stwarzanym przez podmioty zajmujące się sztuczną inteligencją. Na przykład niedawne zaproszenie do składania ofert przez Urząd ds. Sztucznej Inteligencji dotyczące pomocy technicznej w zakresie bezpieczeństwa sztucznej inteligencji obejmuje część poświęconą ocenie bezpieczeństwa i ochrony agentów sztucznej inteligencji. 

W przypadku gdy model sztucznej inteligencji ogólnego przeznaczenia jest zintegrowany z systemem sztucznej inteligencji lub stanowi jego część, powstały w ten sposób system należy uznać za system sztucznej inteligencji ogólnego przeznaczenia, jeżeli dzięki tej integracji zyskuje on zdolność do realizacji wielu celów. Systemy sztucznej inteligencji ogólnego przeznaczenia mogą być wykorzystywane bezpośrednio lub wbudowane w inne systemy sztucznej inteligencji. 

Ze względu na ich wszechstronność systemy sztucznej inteligencji ogólnego przeznaczenia mogą być wykorzystywane jako samodzielne systemy sztucznej inteligencji wysokiego ryzyka lub jako komponenty innych systemów sztucznej inteligencji wysokiego ryzyka. Aby zapewnić sprawiedliwy podział obowiązków w całym łańcuchu wartości AI, dostawcy systemów AI ogólnego przeznaczenia powinni ściśle współpracować z dostawcami odpowiednich systemów AI wysokiego ryzyka, chyba że w niniejszym rozporządzeniu określono inaczej. Współpraca ta powinna umożliwić dostawcom systemów sztucznej inteligencji wysokiego ryzyka wypełnianie ich obowiązków wynikających z niniejszego rozporządzenia i ułatwić interakcje z właściwymi organami ustanowionymi na mocy rozporządzenia. 

Akt w sprawie AI reguluje między innymi modele AI ogólnego przeznaczenia wprowadzane do obrotu w Unii, w tym ich opracowywanie i stosowanie. Więcej informacji na temat warunków, na jakich model sztucznej inteligencji uznaje się za model ogólnego przeznaczenia, można znaleźć w pytaniu „Kiedy model kwalifikuje się jako model sztucznej inteligencji ogólnego przeznaczenia?” oraz w sekcji 2.1 wytycznych w sprawie zakresu obowiązków dotyczących modeli sztucznej inteligencji ogólnego przeznaczenia.

„Wprowadzenie do obrotu” oznacza pierwsze dostarczenie systemu sztucznej inteligencji lub modelu sztucznej inteligencji ogólnego przeznaczenia do celów dystrybucji lub wykorzystania na rynku unijnym w ramach działalności handlowej, odpłatnie lub nieodpłatnie (art. 3 ust. 9 pkt 10 aktu w sprawie sztucznej inteligencji). Niektóre przykłady tego, co stanowi wprowadzenie do obrotu, można znaleźć w sekcji 3.1.2 wytycznych w sprawie zakresu obowiązków dotyczących modeli AI ogólnego przeznaczenia.

W art. 3 pkt 63 aktu w sprawie AI zdefiniowano „model AI ogólnego przeznaczenia” jako „model AI, w tym w przypadku gdy taki model AI jest trenowany z wykorzystaniem dużej ilości danych z wykorzystaniem nadzoru własnego na dużą skalę, który wykazuje znaczną ogólność i jest w stanie kompetentnie wykonywać szeroki zakres odrębnych zadań niezależnie od sposobu wprowadzania modelu do obrotu i który można zintegrować z różnymi systemami lub aplikacjami niższego szczebla, z wyjątkiem modeli AI, które są wykorzystywane do działań w zakresie badań, rozwoju lub prototypowania przed wprowadzeniem ich do obrotu”. Definicja ta zawiera ogólny wykaz czynników decydujących o tym, czy dany model jest modelem sztucznej inteligencji ogólnego przeznaczenia. Nie określono jednak szczegółowych kryteriów, które potencjalni dostawcy mogą stosować do oceny, czy ich model jest modelem AI ogólnego przeznaczenia. 

W sekcji 2.1 wytycznych w sprawie zakresu obowiązków dotyczących modeli AI ogólnego przeznaczenia przedstawiono orientacyjne kryterium: model uznaje się za model sztucznej inteligencji ogólnego przeznaczenia, jeżeli zasoby obliczeniowe wykorzystywane do jego szkolenia przekraczają 10 ^ 23 operacji zmiennoprzecinkowych i może generować język (tekst lub dźwięk), tekst na obraz lub tekst na wideo. Ten próg obliczeniowy odpowiada typowej ilości obliczeń stosowanych do trenowania modeli o miliardzie parametrów na dużych zbiorach danych. Ponadto wybrane metody umożliwiają elastyczne generowanie treści, które mogą pomieścić szeroki zakres różnych zadań. Nie jest to jednak reguła absolutna – modele spełniające to kryterium mogą wyjątkowo nie kwalifikować się jako modele AI ogólnego przeznaczenia, jeżeli nie mają znaczącego uogólnienia, natomiast modele poniżej tego progu mogą nadal być modelami AI ogólnego przeznaczenia, jeżeli wykazują znaczny uogólnienie i mogą kompetentnie wykonywać szeroki zakres zadań.

Model AI ogólnego przeznaczenia klasyfikuje się jako model AI ogólnego przeznaczenia z ryzykiem systemowym, jeżeli spełnia jeden z dwóch poniższych warunków.

Po pierwsze, jeśli ma możliwości, które pasują lub przewyższają możliwości najbardziej zaawansowanych modeli. Akt w sprawie sztucznej inteligencji zakłada, że modele trenowane z wykorzystaniem skumulowanej ilości zasobów obliczeniowych, która przekracza 10^25 operacji zmiennoprzecinkowych, mają takie możliwości (art. 51 ust. 2 aktu w sprawie sztucznej inteligencji). Próg ten ustala się na podstawie faktu, że wykorzystanie tej ilości obliczeń wskazuje, że model może mieć znaczący wpływ na rynek Unii ze względu na jego zasięg lub potencjalny negatywny wpływ na zdrowie publiczne, bezpieczeństwo, ochronę, prawa podstawowe lub społeczeństwo. Komisja Europejska dostosowuje ten próg w razie potrzeby w celu uwzględnienia rozwoju technologicznego.

Po drugie, Komisja Europejska może wyznaczyć model jako model sztucznej inteligencji ogólnego przeznaczenia o ryzyku systemowym, z własnej inicjatywy lub po otrzymaniu kwalifikowanego ostrzeżenia od panelu naukowego, jeżeli model ten ma możliwości lub wpływ równoważne z możliwościami lub wpływem najbardziej zaawansowanych modeli (art. 51 ust. 1 lit. b) aktu w sprawie sztucznej inteligencji). Wynika to z faktu, że istnieją modele, które mogą stwarzać ryzyko systemowe pomimo nieosiągnięcia progu obliczeniowego.

W przypadku modelu spełniającego którykolwiek z tych warunków jego dostawca musi spełnić dodatkowe obowiązki, w tym w zakresie oceny i ograniczania ryzyka systemowego (zob. pytanie „Jakie są dodatkowe wymogi dotyczące modeli AI ogólnego przeznaczenia obarczonych ryzykiem systemowym?”).

Od dostawców modeli przeszkolonych w zakresie operacji zmiennoprzecinkowych o łącznej wartości obliczeniowej poniżej 10^25 nie oczekuje się powiadamiania Komisji Europejskiej o swoim modelu i przestrzegania obowiązków w zakresie bezpieczeństwa i ochrony, chyba że Komisja Europejska wyznaczyła ich model jako stwarzający ryzyko systemowe.

Szkolenie modelu AI ogólnego przeznaczenia (z ryzykiem systemowym lub bez niego) wymaga znacznej alokacji zasobów obliczeniowych z góry. W związku z tym dostawcy mogą wiedzieć, czy ich model będzie spełniał orientacyjne kryterium stanowiące model sztucznej inteligencji ogólnego przeznaczenia, podane w sekcji 2.1 wytycznych w sprawie zakresu obowiązków dotyczących modeli sztucznej inteligencji ogólnego przeznaczenia, lub łączny próg obliczeń szkoleniowych określony w art. 51 ust. 2 aktu w sprawie sztucznej inteligencji, przed zakończeniem szkolenia (motyw 112 aktu w sprawie sztucznej inteligencji). W szczególności oczekuje się, że dostawcy oszacują, czy ich model będzie modelem sztucznej inteligencji ogólnego przeznaczenia (wyszkolonym z wykorzystaniem ponad 10^23 operacji zmiennoprzecinkowych obliczeń skumulowanych) oraz modelem sztucznej inteligencji ogólnego przeznaczenia z ryzykiem systemowym (wyszkolonym z wykorzystaniem ponad 10^25 operacji zmiennoprzecinkowych obliczeń skumulowanych) przed rozpoczęciem dużej operacji poprzedzającej szkolenie.

Jeżeli model przekroczy łączny próg obliczeń szkoleniowych wynoszący 10^25 operacji zmiennoprzecinkowych, określony w art. 51 ust. 2 aktu w sprawie sztucznej inteligencji, lub dostawca wie, że model przekroczy ten próg, dostawca ma dwa tygodnie na powiadomienie Komisji Europejskiej (art. 52 aktu w sprawie sztucznej inteligencji). Aby uzyskać więcej informacji na temat zgłoszenia, zob. pytanie „Jeżeli model sztucznej inteligencji ogólnego przeznaczenia przekracza próg obliczeniowy dla takich modeli o ryzyku systemowym, czy zawsze uznaje się, że ma on ryzyko systemowe?”.

Dostawcy mogą zakwestionować automatyczną klasyfikację jako model AI ogólnego przeznaczenia o ryzyku systemowym, gdy osiągają próg obliczeniowy określony w art. 51 ust. 2 aktu w sprawie AI. Mogą na przykład obalić domniemanie, że ich model ma możliwości o dużym wpływie, przedstawiając dowody na to, że możliwości ich modelu nie odpowiadają możliwościom zarejestrowanym w najbardziej zaawansowanych modelach lub je przewyższają. W sekcji 2.3 wytycznych w sprawie zakresu obowiązków dotyczących modeli AI ogólnego przeznaczenia przedstawiono dalsze wytyczne dotyczące tego, jak to zrobić. Jeżeli Komisja Europejska zaakceptuje argumenty dostawcy, model przestanie być klasyfikowany jako ryzyko systemowe, zmniejszając tym samym obowiązki dostawcy w odniesieniu do tego konkretnego modelu od momentu akceptacji.

Zgodnie ze wspólnym i proporcjonalnym stosowaniem aktu w sprawie sztucznej inteligencji oraz prawem dostawcy do dobrej administracji Komisja Europejska może uwzględnić nowe informacje przekazane przez dostawcę po zgłoszeniu, gdy tylko staną się one dostępne. Ponadto decyzja Komisji Europejskiej o przyjęciu lub odrzuceniu argumentów dostawcy może uwzględniać niepewność w przekazywanych informacjach i określać warunki ewentualnej przyszłej ponownej oceny. Obowiązki dostawców modeli AI ogólnego przeznaczenia o ryzyku systemowym mają jednak zastosowanie od momentu, w którym model spełnia warunek określony w art. 51 ust. 1 lit. a) aktu w sprawie AI (tj. zdolności o dużym wpływie, zakładane poprzez osiągnięcie progu obliczeniowego).