Skip to main content
AI Act Service Desk

Modele AI ogólnego przeznaczenia

W jaki sposób uwzględniono podmioty zajmujące się sztuczną inteligencją w akcie w sprawie sztucznej inteligencji?

Answer

Termin „agent sztucznej inteligencji” jest często stosowany w sposób niespójny w debacie publicznej, częściowo ze względu na rozmyte i wciąż zmieniające się rozgraniczenie między agentami sztucznej inteligencji a innymi rodzajami sztucznej inteligencji. Istnieje jednak powszechna zgoda co do tego, że agent sztucznej inteligencji musi mieć możliwość odbierania i przetwarzania danych wejściowych ze swojego środowiska oraz wykonywania działań opartych na tym przetwarzaniu, które mogą wchodzić w interakcje z jego środowiskiem lub wpływać na nie (np. wydawanie wywołań funkcyjnych). Termin „agentyczna sztuczna inteligencja” jest czasami używany do opisania bardziej wyrafinowanych konfiguracji, które integrują wiele czynników sztucznej inteligencji. Niemniej jednak dokładny związek między tymi dwoma pojęciami wciąż ewoluuje. 

Zazwyczaj agent sztucznej inteligencji będzie zawierał co najmniej model sztucznej inteligencji ogólnego przeznaczenia (GPAI) i będzie stanowił system sztucznej inteligencji, ponieważ zwykle będzie miał jakąś formę interfejsu, który jest uważany za element systemu (motyw 97 aktu w sprawie sztucznej inteligencji). Trudno jest sformułować bardziej precyzyjne stwierdzenie niż „zazwyczaj”, ponieważ termin „agent sztucznej inteligencji” nie jest prawnie zdefiniowany i jest używany potocznie w odniesieniu do różnych rodzajów artefaktów. W związku z tym, chociaż podmioty zajmujące się sztuczną inteligencją nie są odrębną kategorią sztucznej inteligencji na podstawie aktu w sprawie sztucznej inteligencji, definicje systemu sztucznej inteligencji zawarte w art. 3 ust. 1 aktu w sprawie sztucznej inteligencji i modelu sztucznej inteligencji ogólnego przeznaczenia zawarte w art. 3 pkt 63 aktu w sprawie sztucznej inteligencji są wystarczające, aby objąć nimi podmioty zajmujące się sztuczną inteligencją. Oznacza to, że przepisy mające zastosowanie do systemów sztucznej inteligencji i modeli sztucznej inteligencji ogólnego przeznaczenia na podstawie aktu w sprawie sztucznej inteligencji mają również zastosowanie do agentów sztucznej inteligencji. 

Wśród przepisów dotyczących systemów sztucznej inteligencji szczególnie istotne są zawarte w akcie w sprawie sztucznej inteligencji zakazy szkodliwych manipulacji i wykorzystywania podatności (art. 5 ust. 1 lit. a) i b) aktu w sprawie sztucznej inteligencji), których przestrzeganie może wymagać zabezpieczeń przy projektowaniu i opracowywaniu agentów sztucznej inteligencji w celu uniknięcia zakazanych praktyk, co do których istnieje uzasadnione prawdopodobieństwo, że spowodują znaczne szkody. Począwszy od dnia 2 sierpnia 2026 r., jeżeli agent sztucznej inteligencji klasyfikuje się jako system sztucznej inteligencji wysokiego ryzyka, podlega on również dodatkowym wymogom, które zapewniają jego bezpieczeństwo i wiarygodność w odniesieniu do zamierzonego zastosowania (rozdział III aktu w sprawie sztucznej inteligencji). Ponadto jeżeli agent sztucznej inteligencji ma wchodzić w interakcje z osobami fizycznymi lub generować treści, zastosowanie będą miały zasady przejrzystości (art. 50 aktu w sprawie sztucznej inteligencji) – opracowywany jest kodeks postępowania mający na celu wdrożenie tych zasad. 

Jeżeli chodzi o modele sztucznej inteligencji ogólnego przeznaczenia, na których zazwyczaj opierają się czynniki sztucznej inteligencji, czynniki takie jak poziom autonomii lub wykorzystanie modelu jako narzędzia mogą mieć decydujące znaczenie dla wyznaczenia modelu jako modelu o ryzyku systemowym (art. 51 ust. 1 lit. b) załącznika XIII lit. e) do aktu w sprawie sztucznej inteligencji). Ponadto dostawcy modeli sztucznej inteligencji ogólnego przeznaczenia o ryzyku systemowym podlegają obowiązkom w zakresie zarządzania ryzykiem, które obejmują względy dotyczące autonomicznych zdolności modelu i jego agentycznego wykorzystania (uruchomione na przykład w działaniu 5.1 pkt 7, dodatku 1.3.1, pkt 5 i 7, dodatku 1.3.3, pkt 1, 4 i 12 lub dodatku 3.2 akapit drugi, rozdział kodeksu postępowania w zakresie sztucznej inteligencji ogólnego przeznaczenia dotyczący bezpieczeństwa i ochrony). 

Biorąc pod uwagę, że zmiany związane z agentami sztucznej inteligencji są niedawne i szybko ewoluują, rozważania regulacyjne Komisji Europejskiej są dopiero wstępne na tym etapie. Urząd ds. Sztucznej Inteligencji nadal uważnie monitoruje te zmiany i w razie potrzeby rozważy opracowanie strategii przeciwdziałania potencjalnym zagrożeniom stwarzanym przez podmioty zajmujące się sztuczną inteligencją. Na przykład niedawne zaproszenie do składania ofert przez Urząd ds. Sztucznej Inteligencji dotyczące pomocy technicznej w zakresie bezpieczeństwa sztucznej inteligencji obejmuje część poświęconą ocenie bezpieczeństwa i ochrony agentów sztucznej inteligencji. 

Czego Komisja Europejska oczekuje od dostawców w pierwszym roku przed rozpoczęciem egzekwowania przepisów w sierpniu 2026 r.?

Answer

Komisja Europejska oczekuje, że dostawcy będą przestrzegać obowiązków spoczywających na dostawcach modeli AI ogólnego przeznaczenia określonych w akcie w sprawie AI, który wszedł w życie w sierpniu 2025 r. Niektóre z nich są proste – na przykład powiadomienie Urzędu ds. Sztucznej Inteligencji, gdy dostawca trenuje model sztucznej inteligencji ogólnego przeznaczenia z ryzykiem systemowym w art. 52 aktu w sprawie sztucznej inteligencji. Oczekuje się, że dostawcy będą wysyłać te powiadomienia bez dalszej zwłoki. Inne obowiązki są bardziej złożone. W przypadku tych dostawców dostawcy mogą wykazać zgodność za pomocą kodeksu postępowania w zakresie sztucznej inteligencji ogólnego przeznaczenia (kodeksu) lub poprzez wykazanie alternatywnych odpowiednich środków zgodności.

Komisja Europejska rozumie, że w szczególności w odniesieniu do bardziej złożonych obowiązków niektórzy dostawcy mogą nie być w stanie w pełni wdrożyć środków przewidzianych w kodeksie lub podobnie odpowiednich środków wykazania zgodności do sierpnia 2025 r. W przypadku gdy usługodawca nie wywiąże się od razu w pełni ze wszystkich zobowiązań wynikających z kodeksu, Komisja Europejska uzna je za działające w dobrej wierze i będzie gotowa do współpracy w celu znalezienia sposobów zapewnienia pełnej zgodności. W szczególności Komisja Europejska zachęca do ścisłej nieformalnej współpracy z dostawcami podczas szkolenia ich modeli AI ogólnego przeznaczenia o ryzyku systemowym, aby ułatwić przestrzeganie przepisów i zapewnić terminowe wprowadzanie na rynek. Ponadto Komisja Europejska oczekuje proaktywnej sprawozdawczości ze strony dostawców modeli AI ogólnego przeznaczenia obarczonych ryzykiem systemowym, czy to w ramach zobowiązań wynikających z kodeksu, czy też w ramach alternatywnych sposobów wykazania zgodności. Jest to szczególnie ważne w pierwszym roku, w którym Komisja Europejska skoncentruje się na wymianie technicznej na szczeblu roboczym, aby jak najszybciej ułatwić dostawcom pełną zgodność z przepisami.

Jakie są obowiązki dostawcy w przypadku wystąpienia poważnego incydentu związanego z jego modelem?

Answer

Dostawcy modeli AI ogólnego przeznaczenia o ryzyku systemowym muszą bez zbędnej zwłoki śledzić, dokumentować i zgłaszać Urzędowi ds. AI oraz, w stosownych przypadkach, właściwym organom krajowym istotne informacje na temat poważnych incydentów i możliwych środków naprawczych w celu zaradzenia im (art. 55 ust. 1 lit. c) aktu w sprawie AI). Komisja Europejska uważa, że obowiązek ten obejmuje poważne naruszenia cyberbezpieczeństwa związane z modelem lub jego infrastrukturą fizyczną, w tym (samo)eksfiltrację parametrów modelu i cyberataki, ze względu na ich możliwy wpływ na obowiązki przewidziane w art. 55 ust. 1 lit. b) i d) aktu w sprawie sztucznej inteligencji. Oprócz tego Komisja Europejska uznaje „poważny incydent” w kontekście rozdziału V aktu w sprawie sztucznej inteligencji za każdy incydent lub nieprawidłowe działanie modelu sztucznej inteligencji ogólnego przeznaczenia, które bezpośrednio lub pośrednio prowadzi do któregokolwiek ze zdarzeń wymienionych w odpowiedniej definicji systemów sztucznej inteligencji w art. 3 pkt 49 lit. a)–d) aktu w sprawie sztucznej inteligencji. Rozdział „Bezpieczeństwo i ochrona” kodeksu postępowania w zakresie sztucznej inteligencji ogólnego przeznaczenia, w drodze zobowiązania nr 9, stanowi sposób wykazania zgodności z tym obowiązkiem.

Co powinien zrobić dostawca, który nie zna zużycia energii w swoim modelu AI ogólnego przeznaczenia?

Answer

Zgodnie z art. 53 ust. 1 lit. a) i sekcją 1 pkt 2 lit. e) załącznika XI do aktu w sprawie AI dostawcy modeli AI ogólnego przeznaczenia muszą dokumentować znane lub szacowane zużycie energii przez ich model. Jeśli nie jest znana, szacunki te mogą opierać się na wykorzystanych zasobach obliczeniowych. Ponadto Komisja Europejska jest uprawniona do przyjęcia aktu delegowanego w celu szczegółowego określenia metod pomiaru i obliczeń, które dostawcy powinni stosować do pomiaru lub szacowania zużycia energii w swoich modelach, aby umożliwić porównywalną i weryfikowalną dokumentację. W odniesieniu do okresu do czasu przyjęcia takiego aktu delegowanego wzór formularza dokumentacji w związku z rozdziałem dotyczącym przejrzystości kodeksu postępowania (kodeksu) w zakresie sztucznej inteligencji ogólnego przeznaczenia zawiera wytyczne dotyczące sposobu, w jaki dostawcy mogą wykazać zgodność z tym wymogiem, w części „Zużycie energii (w trakcie szkolenia i wyciągania wniosków)”. 

W szczególności, jeżeli sygnatariusz kodeksu nie zna zużycia energii podczas szkolenia swojego modelu, zobowiązuje się do zgłoszenia szacunkowej ilości, chyba że brakuje mu krytycznych informacji na temat obliczeń lub sprzętu, które uniemożliwiają mu dokonanie oszacowania. W takim przypadku Sygnatariusz zobowiązuje się do udokumentowania brakujących informacji. Do celów oszacowania zużycia energii Urząd ds. Sztucznej Inteligencji wykorzysta dostępne informacje na temat zasobów obliczeniowych wykorzystywanych do szkolenia w celu uzyskania szacunków. W tym celu Urząd ds. Sztucznej Inteligencji będzie opierać się na wiedzy na temat tego, jakich kluczowych informacji brakuje dostawcy, dostępnych zasobach naukowych, a także na wstępnych wynikach trwającego badania Komisji Europejskiej dotyczącego energooszczędnej i niskoemisyjnej sztucznej inteligencji, oraz na wiedzy fachowej panelu naukowego. 

W jaki sposób można zaktualizować kodeks postępowania w zakresie AI ogólnego przeznaczenia?

Answer

Komisja Europejska będzie regularnie monitorować i oceniać realizację celów kodeksu postępowania (kodeksu) w zakresie sztucznej inteligencji ogólnego przeznaczenia. Mechanizm aktualizacji jest dalej rozwijany w przeprowadzonej przez Komisję Europejską ocenie adekwatności kodeksu. 

W szczególności Komisja Europejska rozważy ułatwienie formalnej aktualizacji kodeksu co najmniej raz na dwa lata, na przykład w oparciu o pojawienie się norm, istotny rozwój technologiczny lub zmiany w krajobrazie ryzyka. 

Aby monitorować realizację celów kodeksu, Komisja Europejska pozostanie w wymianie z sygnatariuszami, aby zrozumieć, gdzie konieczne jest wsparcie wdrażania, i może współpracować z właściwymi organami krajowymi, dostawcami niższego szczebla, posiadaczami praw i innymi podmiotami. Ponadto kodeks nie wpływa na odpowiedzialność Komisji Europejskiej za wydanie wytycznych dotyczących stosowania aktu w sprawie sztucznej inteligencji, które mogą mieć znaczenie dla pojęć zawartych w kodeksie. W szczególności w przypadku bezpośredniego zagrożenia wystąpieniem nieodwracalnej szkody na dużą skalę lub w celu zaradzenia jej negatywnym skutkom Komisja Europejska rozważy, czy oprócz odpowiednich działań w zakresie egzekwowania prawa właściwe są szybkie wytyczne dotyczące stosowania aktu w sprawie sztucznej inteligencji lub szybka aktualizacja kodeksu uzgodniona przez sygnatariuszy. Wytyczne w sprawie zakresu obowiązków dotyczących modeli AI ogólnego przeznaczenia będą regularnie poddawane przeglądowi i w stosownych przypadkach aktualizowane.

Czym jest kodeks postępowania w zakresie AI ogólnego przeznaczenia?

Answer

Kodeks postępowania w zakresie AI ogólnego przeznaczenia jest dobrowolnym narzędziem, przygotowanym przez niezależnych ekspertów w ramach procesu z udziałem wielu zainteresowanych stron, zaprojektowanym, aby pomóc przemysłowi w wypełnianiu obowiązków wynikających z aktu w sprawie AI w odniesieniu do dostawców modeli AI ogólnego przeznaczenia, zapewniając, aby modele AI ogólnego przeznaczenia wprowadzane do obrotu w Europie były bezpieczne i przejrzyste, w tym te o największej mocy.

Określono w nim sposób, w jaki dostawcy modeli AI ogólnego przeznaczenia i modeli AI ogólnego przeznaczenia o ryzyku systemowym mogą wykazać zgodność z obowiązkami określonymi w akcie w sprawie AI w art. 53 i 55 aktu w sprawie AI.

Kodeks składa się z trzech rozdziałów: Przejrzystość i prawo autorskie, zarówno w odniesieniu do wszystkich dostawców modeli AI ogólnego przeznaczenia, jak i bezpieczeństwo i ochrona, istotne tylko dla ograniczonej liczby dostawców najbardziej zaawansowanych modeli, którzy podlegają obowiązkom wynikającym z aktu w sprawie AI w odniesieniu do dostawców modeli AI ogólnego przeznaczenia o ryzyku systemowym. Każdy dostawca (lub potencjalny przyszły dostawca) modelu sztucznej inteligencji ogólnego przeznaczenia może podpisać kod, wypełniając formularz sygnatariusza i przesyłając go na adres EU-AIOFFICE-CODE-SIGNATURES@ec.europa.eu. Formularz powinien być podpisany przez osobę posiadającą wystarczające uprawnienia, aby związać usługodawcę z kodeksem (np. kadrę kierowniczą wyższego szczebla). Więcej informacji na temat procesu podpisywania można znaleźć w tych Q&A.

Więcej informacji na temat tego, które modele sztucznej inteligencji są „modelami ogólnego przeznaczenia” i na jakich warunkach klasyfikuje się je jako „ryzyko systemowe”, można znaleźć w pozostałych pytaniach oraz w sekcji 2 wytycznych w sprawie zakresu obowiązków dotyczących modeli sztucznej inteligencji ogólnego przeznaczenia. Aby dowiedzieć się więcej, przeczytaj o Kodeksie praktyk AI ogólnego przeznaczenia w tych Q&A. 

W jaki sposób akt w sprawie sztucznej inteligencji ma zastosowanie do modeli sztucznej inteligencji ogólnego przeznaczenia udostępnianych jako otwarte oprogramowanie?

Answer

Dostawcy modeli AI ogólnego przeznaczenia udostępnionych jako otwarte oprogramowanie mogą być zwolnieni z niektórych obowiązków (art. 53 ust. 2 i art. 54 ust. 6 aktu w sprawie AI), w szczególności: 

  • wymóg prowadzenia dokumentacji technicznej dla organów; 

  • wymóg dostarczania dokumentacji dostawcom systemów sztucznej inteligencji niższego szczebla; 

  • wymóg wyznaczenia upoważnionego przedstawiciela (w przypadku dostawców spoza UE). 

Wyłączenia te wymagają, aby model AI ogólnego przeznaczenia: 

  • jest udostępniany na podstawie bezpłatnej i otwartej licencji, umożliwiającej dostęp, wykorzystanie, modyfikację i dystrybucję bez monetyzacji; 

  • jego parametry, w tym wagi, architektura i informacje o użytkowaniu, są publicznie dostępne; 

  • nie jest modelem AI ogólnego przeznaczenia o ryzyku systemowym – dostawcy modeli AI ogólnego przeznaczenia o ryzyku systemowym muszą wywiązywać się ze wszystkich obowiązków spoczywających na dostawcach modeli AI ogólnego przeznaczenia, niezależnie od tego, czy model ten jest udostępniany jako otwarte oprogramowanie. 

Wyłączenia te uznają, że modele oparte na otwartym oprogramowaniu przyczyniają się do badań naukowych i innowacji, zapewniając jednocześnie przejrzystość dzięki ich otwartemu charakterowi. Dostawcy, których modele spełniają powyższe wymogi otwartego oprogramowania, nie są jednak zwolnieni z obowiązku dotyczącego polityki w zakresie praw autorskich ani z wymogu publikowania podsumowania danych treningowych (art. 53 ust. 1 lit. c) lit. d) aktu w sprawie sztucznej inteligencji), ponieważ ich otwarty charakter niekoniecznie udostępnia informacje na temat danych wykorzystywanych do szkolenia lub modyfikacji modelu ani na temat sposobu zapewnienia zgodności z prawem autorskim.

W sekcji 4 wytycznych Komisji Europejskiej w sprawie zakresu obowiązków dotyczących modeli AI ogólnego przeznaczenia zawarto dalsze wytyczne dotyczące wyłączenia ze stosowania otwartego oprogramowania. 

Jakie są dodatkowe wymogi dotyczące modeli AI ogólnego przeznaczenia obarczonych ryzykiem systemowym?

Answer

Oprócz standardowych obowiązków spoczywających na dostawcach wszystkich modeli AI ogólnego przeznaczenia dostawcy modeli AI ogólnego przeznaczenia o ryzyku systemowym muszą (art. 55 aktu w sprawie AI): 

  • przeprowadza ocenę modelu przy użyciu znormalizowanych protokołów i najnowocześniejszych narzędzi, w tym przeprowadza i dokumentuje badania kontradyktoryjne w celu identyfikacji i ograniczania ryzyka systemowego; 

  • ocenia i ogranicza ewentualne ryzyko systemowe na poziomie Unii, w tym jego źródła, które może wynikać z opracowania, wprowadzenia do obrotu lub stosowania tych modeli; 

  • bez zbędnej zwłoki śledzi, dokumentuje i zgłasza Urzędowi ds. Sztucznej Inteligencji oraz, w stosownych przypadkach, organom krajowym istotne informacje na temat poważnych incydentów i możliwych środków naprawczych; 

  • zapewniają odpowiednią ochronę cyberbezpieczeństwa zarówno modelu, jak i jego infrastruktury fizycznej, aby zapobiec nieuprawnionemu dostępowi, kradzieży lub wyciekowi. 

Dostawcy takich modeli mogą wykazać zgodność poprzez przestrzeganie kodeksu postępowania w zakresie AI ogólnego przeznaczenia lub wykazać alternatywne odpowiednie środki zgodności. Jeżeli usługodawcy zdecydują się zastosować alternatywne środki, muszą przedstawić Komisji Europejskiej do oceny argumenty przemawiające za tym, dlaczego takie środki są odpowiednie.

Jakie obowiązki prawne spoczywają na dostawcach modeli AI ogólnego przeznaczenia na mocy aktu w sprawie AI od dnia 2 sierpnia 2025 r.?

Answer

Dostawcy modeli AI ogólnego przeznaczenia muszą (art. 53 aktu w sprawie AI): 

  • sporządza i prowadzi dokumentację techniczną dotyczącą modelu, w tym informacje na temat procesu opracowywania, w celu przekazania jej na żądanie Urzędowi ds. AI; właściwe organy krajowe mogą również zwrócić się do Urzędu ds. Sztucznej Inteligencji o wystąpienie w ich imieniu z wnioskiem o udzielenie informacji, jeżeli informacje te są im niezbędne do wykonywania zadań nadzorczych; 

  • dostarczanie informacji i dokumentacji dostawcom systemów sztucznej inteligencji niższego szczebla, aby pomóc im zrozumieć możliwości i ograniczenia modelu oraz wywiązać się z własnych obowiązków; 

  • wdraża politykę zgodności z unijnym prawem autorskim i prawami pokrewnymi, w tym identyfikuje i respektuje zastrzeżenia praw za pomocą najnowocześniejszych technologii; publikuje wystarczająco szczegółowe streszczenie treści wykorzystanych do szkolenia modelu; jeżeli mają siedzibę poza UE, wyznaczają upoważnionego przedstawiciela w Unii przed wprowadzeniem ich modelu do obrotu. 

Dostawcy mogą wykazać zgodność z przepisami za pomocą kodeksu postępowania w zakresie sztucznej inteligencji ogólnego przeznaczenia, który został oceniony jako odpowiedni, lub za pomocą odpowiednich alternatywnych środków.

Czy podmioty mogą na podstawie umowy określić, kto jest dostawcą?

Answer

W akcie w sprawie sztucznej inteligencji uznano, że podmiotem, który szkoli model, może nie być ten, który jest odpowiedzialny umownie, ekonomicznie lub technicznie za opracowanie (zob. definicja dostawcy stwierdzająca „opracował” w art. 3 ust. 3 aktu w sprawie sztucznej inteligencji). Kwestia, pod czyim kierownictwem model jest szkolony, wymaga indywidualnej oceny, która może uwzględniać między innymi stosunki umowne. Niektóre przykłady przedstawiono w sekcji 3.1.1 wytycznych w sprawie zakresu obowiązków dotyczących modeli AI ogólnego przeznaczenia.

Subscribe to Modele AI ogólnego przeznaczenia