Czy to w ogóle jest system AI? Jak kwalifikować rozwiązania informatyczne według AI Act

Jak przeprowadzić kwalifikację rozwiązania według definicji systemu AI

Nie każdy algorytm jest sztuczną inteligencją. Nie każdy system automatyzujący proces jest systemem AI. Zwykła reguła biznesowa, workflow, arkusz kalkulacyjny, klasyczna baza danych czy system raportowy mogą wykonywać bardzo złożone operacje i nadal pozostawać poza definicją AI Act.

Błędem jest jednak również założenie:

„Jeżeli system nie wykorzystuje uczenia maszynowego, to nie jest AI”.

AI Act obejmuje również niektóre rozwiązania wykorzystujące podejścia logiczne i oparte na wiedzy.

Dlatego pierwszym etapem inwentaryzacji technologii w jednostce sektora finansów publicznych powinno być ustalenie, czy konkretna funkcja lub rozwiązanie jest w ogóle systemem AI w rozumieniu art. 3 pkt 1 AI Act.

Dopiero po odpowiedzi twierdzącej można przechodzić do dalszych etapów: ustalenia roli jednostki, kompetencji w zakresie AI, zakazanych praktyk, obowiązków transparentności oraz ewentualnej kwalifikacji jako systemu wysokiego ryzyka.

Stan prawny: 23 sierpnia 2026 r.

Definicji systemu AI nie można sprowadzić do jednego pytania

Art. 3 pkt 1 AI Act definiuje system AI jako system maszynowy zaprojektowany do działania z różnym poziomem autonomii, który może wykazywać zdolność adaptacji po wdrożeniu i który – dla wyraźnych lub dorozumianych celów – wnioskuje na podstawie otrzymywanych danych wejściowych, jak generować wyniki takie jak predykcje, treści, zalecenia lub decyzje, które mogą wpływać na środowisko fizyczne lub wirtualne.

AI Act – aktualny tekst skonsolidowany

Komisja Europejska wyróżnia siedem elementów definicji:

1. system maszynowy;
2. różny poziom autonomii;
3. możliwą adaptacyjność po wdrożeniu;
4. wyraźne lub dorozumiane cele systemu;
5. wnioskowanie na podstawie danych wejściowych, jak generować wyniki;
6. generowanie wyników, takich jak predykcje, treści, zalecenia lub decyzje;
7. możliwość wpływania na środowisko fizyczne lub wirtualne.

Definicję trzeba analizować w perspektywie całego cyklu życia systemu, obejmującego jego budowę i późniejsze używanie. Nie wszystkie elementy muszą manifestować się w identyczny sposób na każdym etapie.

Wytyczne przestrzegają przed mechaniczną kwalifikacją. Nie istnieje zamknięta lista technologii, które zawsze są systemami AI, ani technologii, które zawsze pozostają poza definicją.

Wytyczne Komisji dotyczące definicji systemu AI – C(2025) 5053 final

Przedstawione dalej drzewo decyzyjne jest zatem narzędziem przesiewowym, a nie formalnym testem ustanowionym przez AI Act.

Co oznacza „wnioskuje, jak generować wyniki”?

To jeden z najważniejszych elementów odróżniających system AI od tradycyjnego oprogramowania. Nie można jednak rozumieć go wyłącznie jako sytuacji, w której system podczas eksploatacji „sam wymyśla odpowiedź”. Komisja interpretuje zwrot „infer how to generate outputs” szerzej.

Znaczenie mają dwa powiązane aspekty:

• sposób uzyskiwania konkretnego wyniku na podstawie danych wejściowych podczas używania systemu;
• sposób, w jaki podczas budowy systemu powstał model lub algorytm umożliwiający późniejsze generowanie wyników.

Model uczenia maszynowego może zostać wyprowadzony z danych treningowych podczas budowy, a następnie po wdrożeniu działać w niezmienionej postaci. Brak uczenia się podczas eksploatacji nie oznacza więc braku AI.

Czy zdolność systemu do generowania wyników została uzyskana – z uwzględnieniem całego jego cyklu życia – przy użyciu uczenia maszynowego albo podejścia logicznego lub opartego na wiedzy w sposób odpowiadający wnioskowaniu w rozumieniu AI Act, czy rozwiązanie ogranicza się do podstawowego przetwarzania danych i wykonywania jednoznacznych operacji określonych przez człowieka?

Nie jest to jednak test samodzielny. Wynik trzeba oceniać razem z pozostałymi elementami definicji.

Uczenie maszynowe nie jest jedyną drogą do systemu AI

Pierwszą grupę stanowią podejścia oparte na uczeniu maszynowym, w tym uczenie nadzorowane, nienadzorowane, samonadzorowane, uczenie przez wzmacnianie oraz uczenie głębokie.

Drugą grupę stanowią podejścia logiczne i oparte na wiedzy. Mogą wykorzystywać między innymi:

• reprezentację wiedzy;
• bazy wiedzy;
• ontologie;
• relacje pomiędzy pojęciami i faktami;
• mechanizmy dedukcyjne lub indukcyjne;
• rozumowanie symboliczne;
• systemy eksperckie.

Brak uczenia maszynowego nie oznacza automatycznie braku systemu AI. Jednocześnie sama obecność silnika regułowego, bazy wiedzy, wyszukiwania, dopasowania lub optymalizacji nie przesądza kwalifikacji. Znaczenie ma ich rzeczywista funkcja, architektura i sposób wykorzystania.

A co ze zwykłymi regułami biznesowymi?

AI Act nie ma obejmować tradycyjnych systemów opartych wyłącznie na regułach zdefiniowanych przez człowieka w celu automatycznego wykonywania operacji.

JEŻELI dochód <= próg
I liczba_osób >= 3
TO zastosuj stawkę X

JEŻELI rodzaj_dokumentu = "faktura"
TO przekaż do księgowości

To co do zasady klasyczna automatyzacja. Granica nie przebiega jednak po prostu między systemem zawierającym reguły a systemem bez reguł. System oparty na wiedzy również może korzystać z reguł przygotowanych przez ekspertów.

Przy rozwiązaniach granicznych trzeba sprawdzić m.in.:

• czy występuje reprezentacja wiedzy lub relacji między pojęciami;
• czy działa mechanizm dedukcyjny albo indukcyjny;
• czy reguły i wiedza są stosowane do nowych przypadków w celu wyprowadzania wniosków;
• czy system analizuje złożone relacje lub wzorce;
• czy na którymś etapie cyklu życia występuje uczenie, modelowanie lub rozumowanie;
• czy cały proces sprowadza się do wcześniej określonych operacji i podstawowego przetwarzania danych.

Komisja wskazuje, że poza definicją mogą znajdować się m.in. określone przypadki podstawowego przetwarzania danych, analizy opisowej, klasycznych heurystyk oraz prostych systemów predykcyjnych.

Autonomia nie oznacza działania bez człowieka

System może otrzymać ręcznie wprowadzony prompt albo dokument, a następnie wygenerować wynik, którego użytkownik nie określił wcześniej w sposób dokładny. Samo kliknięcie przycisku „generuj”, wpisanie promptu, przesłanie dokumentu lub wskazanie pliku do analizy nie oznacza więc braku autonomii.

Czy po otrzymaniu danych lub uruchomieniu system generuje wynik, którego dokładna treść nie jest w każdym przypadku bezpośrednio określana przez człowieka?

Spełnienie tego warunku samo w sobie nie oznacza jeszcze, że rozwiązanie jest systemem AI. Zwykłe oprogramowanie deterministyczne również może automatycznie generować wyniki. Kalkulator podatku czy system naliczający odsetki także tworzy wynik bez ręcznego wpisania go przez człowieka.

Dlatego po analizie autonomii trzeba zbadać sposób powstania zdolności generowania wyników oraz występowanie wnioskowania w rozumieniu AI Act.

Adaptacyjność jest fakultatywna

System AI nie musi uczyć się po wdrożeniu. Art. 3 pkt 1 mówi, że system może wykazywać adaptacyjność. Komisja potwierdza, że zdolność do zmiany zachowania podczas eksploatacji jest elementem fakultatywnym, a nie warunkiem koniecznym definicji.

System wykorzystujący wcześniej wytrenowany, a następnie „zamrożony” model nadal może spełniać definicję systemu AI. Pytanie „czy system uczy się podczas używania?” jest informacyjnie wartościowe, ale nie powinno decydować o kwalifikacji.

Cel systemu a jego przeznaczenie

AI Act rozróżnia cele systemu od jego przeznaczenia. Cele mogą być wyraźne lub dorozumiane i wpływają na sposób działania systemu.

„Przeznaczenie” jest pojęciem z art. 3 pkt 12. Obejmuje sposób użycia, do którego system został przeznaczony przez dostawcę, w tym konkretny kontekst i warunki używania określone m.in. w dokumentacji, instrukcjach, materiałach promocyjnych lub informacjach technicznych. Rozróżnienie nabiera szczególnego znaczenia podczas kwalifikacji systemów wysokiego ryzyka.

Praktyczne drzewo kwalifikacji dla JSFP

Poniższy schemat nie jest formalnym testem AI Act. Ma pomóc uporządkować analizę.

1. Czy analizujemy system maszynowy?

Jeżeli nie – nie spełnia definicji systemu AI. Jeżeli tak – przechodzimy dalej.

2. Czy system posiada pewien poziom autonomii?

Ustal, czy po otrzymaniu danych lub uruchomieniu system sam generuje wynik, którego człowiek nie określa dokładnie w każdym przypadku. Odpowiedź twierdząca przemawia za spełnieniem elementu autonomii, ale nie przesądza o istnieniu systemu AI. Także klasyczne oprogramowanie deterministyczne może automatycznie generować wyniki.

3. Jakie są cele systemu?

Należy ustalić cele wyraźne oraz – jeżeli występują – dorozumiane. Brak dokumentacji nie powinien automatycznie prowadzić do wyniku „nie AI”. Właściwy status to wtedy: brak wystarczających informacji – wymaga wyjaśnienia.

4. W jaki sposób powstała zdolność systemu do generowania wyników?

To zazwyczaj najbardziej wymagający etap analizy i element mający szczególne znaczenie dla odróżnienia systemu AI od tradycyjnego oprogramowania.

• Czy system został wytrenowany na danych?
• Czy wykorzystuje model uczenia maszynowego?
• Czy stosuje podejście logiczne lub oparte na wiedzy?
• Czy wykorzystuje reprezentację wiedzy lub mechanizm rozumowania?
• Czy jedynie wykonuje deterministyczne operacje określone przez człowieka?

Analiza powinna obejmować nie tylko działanie systemu po wdrożeniu, ale również sposób jego zbudowania.

5. Jakie wyniki generuje system?

Definicja wymienia przykładowo predykcje, treści, zalecenia i decyzje. Katalog nie ma charakteru zamkniętego.

6. Czy wyniki mogą wpływać na środowisko fizyczne lub wirtualne?

Wpływ nie musi dotyczyć urządzenia fizycznego. Środowisko wirtualne może obejmować m.in. przepływy informacji, dane, przestrzeń cyfrową i inne systemy informatyczne.

7. Oceń całość

Końcowy wynik może brzmieć:

• prawdopodobnie system AI;
• prawdopodobnie poza definicją systemu AI;
• brak wystarczających informacji – konieczne wyjaśnienie.

Wynik należy udokumentować i uzasadnić.

Przykłady z administracji

1. Kalkulator świadczenia według ustawowych progów

Program pobiera dochód, liczbę osób i inne wymagane wartości, a następnie stosuje jednoznacznie zapisane reguły. Najprawdopodobniej poza definicją systemu AI. Automatyzuje obliczenie, ale nie oznacza to jeszcze wnioskowania w rozumieniu AI Act.

2. Workflow obiegu dokumentów

Pracownik wybiera kategorię „faktura”, a system przekazuje dokument do księgowości. Najprawdopodobniej poza definicją. Automatyzacja workflow nie jest sama w sobie systemem AI.

3. Automatyczna klasyfikacja pism

System został wytrenowany na dokumentach i klasyfikuje nowe pismo jako skargę, wniosek, fakturę, korespondencję sądową lub pismo ogólne. Prawdopodobnie system AI. Zdolność klasyfikacji została uzyskana poprzez wytrenowanie modelu na danych.

4. Wyszukiwanie dokumentów

Klasyczna wyszukiwarka pełnotekstowa zwracająca dokumenty zawierające wskazane słowa jest co do zasady poza definicją. Wyszukiwarka semantyczna wykorzystująca wytrenowany model i reprezentacje znaczenia dokumentów jest prawdopodobnie systemem AI. Sama nazwa „wyszukiwarka” nie wystarcza do kwalifikacji.

5. Chatbot

Chatbot działający według przygotowanego drzewa odpowiedzi jest najprawdopodobniej poza definicją. Chatbot wykorzystujący model językowy do interpretowania swobodnie sformułowanych pytań i generowania odpowiedzi jest prawdopodobnie systemem AI.

6. OCR i przetwarzanie dokumentów

Sama nazwa „OCR” nie przesądza kwalifikacji. Rozwiązanie oparte na stałych szablonach, określonych pozycjach pól, prostym dopasowaniu znaków lub deterministycznych regułach może pozostawać poza definicją.

Jeżeli rozpoznawanie znaków, układu dokumentu lub pól wykorzystuje model wytrenowany na danych, prawdopodobieństwo kwalifikacji jako systemu AI istotnie rośnie. W większym systemie trzeba osobno przeanalizować sam OCR, klasyfikację dokumentu, ekstrakcję semantyczną i rekomendowanie dalszej ścieżki obsługi.

Czy rozpoznawanie znaków, układu lub pól dokumentu wykorzystuje model wytrenowany na danych, czy wyłącznie stałe szablony i deterministyczne reguły?

7. Dashboard a system predykcyjny

System wyświetlający liczbę spraw, średni czas realizacji, historyczne trendy, wykonanie planu i odchylenia jest najprawdopodobniej poza definicją. Natomiast system wykorzystujący wytrenowany model do przewidywania, które sprawy prawdopodobnie przekroczą termin, prawdopodobnie jest systemem AI. Sama analiza opisowa i wizualizacja mogą pozostawać poza definicją.

8. Punktowa reguła ryzyka a wykrywanie anomalii

System sumujący wcześniej ustalone punkty, np. brak dokumentu +10, przekroczenie terminu +20, wartość powyżej X +30, jest najprawdopodobniej klasyczną automatyzacją. System wytrenowany na danych i wykrywający nietypowe transakcje lub wzorce jest prawdopodobnie systemem AI.

9. System ekspercki

Nazwa technologii nie pozwala rozstrzygnąć kwalifikacji. Prosty zestaw reguł if/then wykonywanych według określonego scenariusza może pozostawać poza definicją. System posiadający reprezentację wiedzy, relacje, ontologię i mechanizm dedukcyjny wykorzystujący zakodowaną wiedzę do wyprowadzania wniosków w nowych sytuacjach może spełniać definicję systemu AI.

Nazwa „system ekspercki” nie ma samodzielnego znaczenia prawnego. O kwalifikacji decydują konkretna architektura i funkcjonalność rozwiązania.

Machine learning nie jest automatycznym testem AI

Nieprawidłowe są oba skróty: ML = zawsze system AI oraz brak ML = brak systemu AI.

Komisja wskazuje, że niektóre zastosowania technik uczenia maszynowego mogą pozostawać poza definicją, jeżeli ich funkcja nie wykracza poza podstawowe przetwarzanie danych, np. w określonych przypadkach służących jedynie usprawnieniu klasycznych metod optymalizacyjnych. Z drugiej strony system oparty na podejściu logicznym lub wiedzy może spełniać definicję bez wykorzystania ML.

Dlatego kwalifikujemy konkretną architekturę i funkcjonalność systemu, a nie nazwę zastosowanej technologii.

Model AI to nie to samo co system AI

AI Act reguluje także modele AI ogólnego przeznaczenia w rozdziale V. Model jest czymś innym niż gotowy system AI.

AI Act posługuje się również kategorią systemu AI ogólnego przeznaczenia, czyli systemu AI opartego na modelu AI ogólnego przeznaczenia, który może służyć różnym celom – zarówno do bezpośredniego użycia, jak i do integracji z innymi systemami AI.

Jeżeli analizowane rozwiązanie nie jest systemem AI, nie przechodzi do klasyfikacji ryzyka właściwej dla systemów AI. Warto jednak sprawdzić, czy przedmiotem analizy nie jest sam model AI ogólnego przeznaczenia, który może podlegać odrębnym przepisom rozdziału V.

Jakich informacji żądać od dostawcy?

Pytanie „czy Państwa rozwiązanie wykorzystuje AI?” jest niewystarczające. W przypadku wątpliwości warto ustalić:

1. która dokładnie funkcja produktu jest analizowana;
2. jakie dane wejściowe wykorzystuje;
3. jakie wyniki generuje;
4. jakie techniki zastosowano podczas jej budowy;
5. czy zastosowano model wytrenowany na danych;
6. czy wykorzystywane jest podejście logiczne lub oparte na wiedzy;
7. czy występuje baza wiedzy, ontologia lub mechanizm wnioskowania;
8. czy system adaptuje się po wdrożeniu;
9. jakie jest przeznaczenie deklarowane przez dostawcę;
10. jakie komponenty i modele AI są wykorzystywane.

Jeżeli odpowiedzi są niewystarczające, właściwym wynikiem nie powinno być przypadkowe „tak” lub „nie”, lecz „do wyjaśnienia”. Taki status powinien mieć wskazaną brakującą informację, właściciela działania, źródło informacji i termin wyjaśnienia.

Jak dokumentować kwalifikację?

Pojedyncze pole „System AI: TAK / NIE” to za mało. Praktyczna karta kwalifikacji może wyglądać następująco:

Warto również prowadzić rejestr wykorzystywanych komponentów i zależności technicznych, zamiast sprowadzać opis architektury jedynie do nazwy modelu.

Co dalej po stwierdzeniu, że mamy system AI?

Ustalenie, że rozwiązanie spełnia definicję systemu AI, jest dopiero pierwszą bramką.

zakres stosowania AI Act i wyłączenia → przeznaczenie → rola jednostki → art. 4 → art. 5 → art. 50 → art. 6 i załączniki I/III → obowiązki właściwe dla roli i kategorii systemu → RODO i przepisy sektorowe

Kompetencje w zakresie AI – art. 4

Art. 4 jest stosowany od 2 lutego 2025 r. Dotyczy dostawców i podmiotów stosujących systemy AI niezależnie od tego, czy system zostanie później zakwalifikowany jako wysokiego ryzyka. Jednostka powinna ustalić, kto będzie obsługiwał i wykorzystywał system oraz jakie działania wspierające rozwój kompetencji są adekwatne do danego zastosowania.

Rola jednostki

JSFP nie musi zawsze występować wyłącznie jako podmiot stosujący. Jednostka może zostać dostawcą m.in. wtedy, gdy sama opracuje system albo zleci jego opracowanie i następnie wprowadzi go do obrotu lub odda do użytku pod własną nazwą lub znakiem towarowym.

W przypadku systemów wysokiego ryzyka art. 25 przewiduje ponadto określone sytuacje, w których inny podmiot przejmuje obowiązki dostawcy, m.in. w związku z istotną modyfikacją albo określoną zmianą przeznaczenia.

Aktualność dalszej kwalifikacji

Artykuł dotyczy wyłącznie pierwszego etapu – ustalenia, czy rozwiązanie jest systemem AI. Według stanu na 23 sierpnia 2026 r.:

• art. 3 oraz art. 4 są już stosowane;
• art. 50 dotyczący transparentności jest stosowany od 2 sierpnia 2026 r.;
• Komisja opublikowała wytyczne dotyczące obowiązków transparentności;
• odpowiednie wymagania dla systemów wysokiego ryzyka z załącznika III będą stosowane od 2 grudnia 2027 r.;
• odpowiednie wymagania dla systemów związanych z produktami z załącznika I będą stosowane od 2 sierpnia 2028 r.;
• materiały Komisji dotyczące klasyfikacji systemów wysokiego ryzyka mają według stanu na tę datę status projektu wytycznych.

Dlatego dalszą kwalifikację należy prowadzić według stanu prawnego i materiałów interpretacyjnych aktualnych w chwili analizy.

Najważniejsza zasada

Największym błędem byłoby utożsamienie automatyzacji ze sztuczną inteligencją. System może automatycznie naliczać odsetki, sprawdzać terminy, stosować progi, przekazywać dokumenty, filtrować dane, tworzyć zestawienia i wykonywać skomplikowane obliczenia, a nadal pozostawać poza definicją systemu AI.

Z drugiej strony system nie musi być generatywny ani uczyć się podczas eksploatacji, aby spełniać definicję.

cały cykl życia → architektura → sposób powstania zdolności generowania wyników → funkcjonalność → autonomia → wyniki → wpływ → pozostałe elementy art. 3 pkt 1

Dopiero wtedy można odpowiedzialnie przejść do kolejnego pytania: skoro to jest system AI – jakie obowiązki wynikają z konkretnego sposobu jego wykorzystania?

Podstawy prawne i materiały interpretacyjne

Źródła prawa

• Rozporządzenie (UE) 2024/1689 – AI Act, aktualny tekst skonsolidowany – w szczególności art. 2, art. 3 pkt 1, 3, 4 i 12, art. 4 oraz art. 25; wersja uwzględniająca zmiany obowiązujące od 27 lipca 2026 r.

Wytyczne i materiały Komisji Europejskiej

• Commission Guidelines on the definition of an artificial intelligence system established by Regulation (EU) 2024/1689 (AI Act), C(2025) 5053 final, 29 July 2025 – materiał niewiążący, w szczególności pkt 9–10, 14–20, 22–23, 26–31, 39–51 oraz 60–63.
• Guidelines on transparency obligations for providers and deployers of certain AI systems – materiały Komisji dotyczące art. 50 AI Act.
• Projekt wytycznych dla dostawców i podmiotów stosujących systemy AI wysokiego ryzyka – według stanu na 23 sierpnia 2026 r. materiały mają status projektu; strona zawiera również aktualny harmonogram stosowania wymogów.
• AI Act Service Desk – FAQ dotyczące definicji systemu AI – dodatkowe materiały praktyczne Komisji.

Wytyczne Komisji nie są źródłem prawa i nie mają charakteru prawnie wiążącego. Ostatecznej, wiążącej wykładni przepisów prawa Unii może dokonać Trybunał Sprawiedliwości Unii Europejskiej.