Zanim organizacja wdroży AI

Sztuczna inteligencja coraz częściej trafia do organizacji nie w ramach dużych, wielomiesięcznych projektów technologicznych, lecz poprzez pozornie niewielkie decyzje operacyjne: zakup narzędzia do analizy dokumentów, uruchomienie chatbota, wykorzystanie AI w rekrutacji, czy też podłączenie asystenta do firmowej bazy wiedzy.

Problem polega na tym, że pytanie o zgodność takiego rozwiązania z przepisami o ochronie danych osobowych często pojawia się dopiero wtedy, gdy narzędzie zostało już wybrane, umowa z dostawcą zawarta, a system zaczął przetwarzać dane.

Skalę tego problemu pokazują wyniki badania potrzeb organizacji przeprowadzonego przez Społeczny Zespół Ekspertów przy Prezesie UODO. Od 41 do 58,5% badanych podmiotów nie dostrzega związku pomiędzy wykorzystywaniem narzędzi AI a przetwarzaniem danych osobowych, natomiast aż 95,9% organizacji nie uważa się za przygotowane do wdrażania AI zgodnie z RODO. *(1)

UODO publikuje listy pytań dotyczących RODO i AI

Wsparciem dla firm na wstępnym etapie analizy zagadnień związanych z ochroną danych osobowych przy tworzeniu lub wykorzystywaniu systemów sztucznej inteligencji mogą okazać się opublikowane przez Urząd Ochrony Danych Osobowych listy pytań inicjalnych.

Ich znaczenie można sprowadzić do jednej zasadniczej zmiany podejścia o ochronie danych należy zacząć myśleć przed wyborem i wdrożeniem AI, a nie dopiero po uruchomieniu: systemu.

Już na początku trzeba wyraźnie zaznaczyć, czym opublikowane listy nie są. Nie zastępują analizy ryzyka, oceny skutków dla ochrony danych – DPIA – ani, gdy jest ona wymagana na podstawie AI Act, oceny wpływu na prawa podstawowe – FRIA. Nie stanowią również wiążącej wykładni przepisów i samo ich wypełnienie nie oznacza, że system AI jest zgodny z RODO. Co istotne z praktycznego punktu widzenia, wypełnionych list nie przekazuje się organowi nadzorczemu. Ich funkcja jest inna: mają pomóc organizacji zebrać informacje potrzebne do podjęcia świadomej decyzji o wdrożeniu, zidentyfikować braki oraz ustalić, jakie dalsze działania prawne, organizacyjne i techniczne trzeba przeprowadzić.

DPIA nie powinna rozpoczynać się od poszukiwania odpowiedzi na pytanie, co właściwie robi kupiony kilka miesięcy wcześniej system, gdzie dostawca przechowuje dane albo czy wykorzystuje prompty użytkowników do dalszego trenowania modeli. Informacje te powinny być znane wcześniej.

Najpierw trzeba wiedzieć, co właściwie chcemy wdrożyć

W praktyce prawnik lub inspektor ochrony danych często otrzymuje pytanie: „czy możemy używać tego narzędzia zgodnie z RODO?”. Tymczasem nie sposób odpowiedzieć na nie bez wcześniejszego ustalenia, co system rzeczywiście robi, na jakich danych pracuje, skąd dane pochodzą, gdzie trafiają i jaki wpływ jego wyniki mają na człowieka.

Dlatego pytanie: „Jakie dane przetwarza system?” musi poprzedzać pytanie: „Jaka jest podstawa prawna ich przetwarzania?”

Taką również zależność przyjęto wprost jako jedno z założeń metodologicznych list. To jednocześnie praktyczne zastosowanie podejścia privacy by design: zgodność z RODO powinna być jednym z elementów procesu projektowania i wyboru technologii, a nie wyłącznie kontrolą przeprowadzaną po jego zakończeniu.

Cztery listy – zależnie od organizacji i charakteru wdrożenia

Wersja dla MŚP

Najbardziej praktyczny charakter ma wersja przeznaczona dla małych i średnich przedsiębiorstw korzystających z gotowych systemów AI bez ich samodzielnego trenowania. Ma ona umożliwić przedsiębiorcy sprawdzenie, czy korzystanie z danego narzędzia nie narusza przepisów o ochronie danych oraz co należy zrobić przed rozpoczęciem wykorzystywania go na danych klientów lub pracowników. 

Lista została skonstruowana w sposób niewymagający specjalistycznej wiedzy prawniczej. Przedsiębiorca powinien odpowiedzieć m.in. na pytania: czy system rzeczywiście przetwarza dane osobowe, w tym dane klientów, pracowników lub kontrahentów, czy wiadomo, na jakiej podstawie prawnej dane są przetwarzane, czy zawarto odpowiednią umowę z dostawcą, gdzie dostawca przechowuje dane i czy są one przekazywane poza EOG, czy dane wprowadzane do systemu mogą być wykorzystywane przez dostawcę do trenowania jego własnych modeli, jak długo przechowywana jest historia rozmów i przesłane pliki, czy osoby zostały poinformowane o przetwarzaniu danych z wykorzystaniem AI, czy wynik AI jest rzeczywiście weryfikowany przez człowieka przed wykorzystaniem go wobec konkretnej osoby? 

Szczególnie istotne jest pytanie o wtórne wykorzystywanie danych przez dostawcę AI. Jeżeli dostawca wykorzystuje dane przekazane przez klienta do własnych celów, np. dalszego trenowania własnego modelu, relacja stron nie musi już ograniczać się do klasycznego układu administrator–podmiot przetwarzający. Lista zwraca w tym kontekście uwagę na konsekwencje wynikające z art. 28 ust. 10 RODO. 

Wersja dla sektora publicznego

Odrębną listę przygotowano dla jednostek samorządu terytorialnego, urzędów administracji publicznej i innych podmiotów wykonujących zadania publiczne. W tym przypadku ocena nie może ograniczać się do odpowiedzi na pytanie, czy istnieje podstawa prawna przetwarzania danych. Trzeba również ustalić, czy organ może wykorzystywać AI w konkretnym procesie realizacji zadania publicznego.

Lista uwzględnia więc zasadę legalizmu oraz szczególną odpowiedzialność administracji wobec obywateli. Szczególnego znaczenia nabierają zatem pytania dotyczące wykorzystania AI do wspierania wydawania decyzji administracyjnych lub załatwiania innych spraw wpływających na prawa obywateli, autonomiczności systemu, wpływu jego wyniku na prawa i obowiązki osoby oraz istnienia przepisu umożliwiającego zastosowanie AI w danym procesie. 

W administracji publicznej pytanie nie powinno zatem brzmieć jedynie: „Czy AI potrafi wykonać to zadanie?”, ale przede wszystkim: „Czy organ może powierzyć AI taką rolę i gdzie musi pozostać człowiek?”

Lista wyraźnie wskazuje również na znaczenie rzeczywistego nadzoru człowieka, możliwości wyjaśnienia obywatelowi wpływu AI na jego sprawę oraz przejrzystości wykorzystania systemu. 

Wersja 0 – uniwersalny punkt wejścia

Wersja 0 przeznaczona jest dla organizacji, które nie mieszczą się w dwóch wcześniejszych profilach, w tym dla podmiotów budujących lub dotrenowujących własne rozwiązania.

Jej podstawowym zadaniem jest ustalenie, czy i w jakim zakresie projekt AI wiąże się z przetwarzaniem danych osobowych, jakie obowiązki mogą z tego wynikać oraz jakich informacji organizacja jeszcze nie posiada?

Analiza obejmuje nie tylko dane i podstawę prawną, lecz również m.in. charakter i autonomię systemu, źródła danych treningowych, jakość i reprezentatywność danych, data governance, model pozyskania rozwiązania, role stron, dostawcę, transfery danych, bezpieczeństwo, prawa osób, transparentność oraz gotowość organizacyjną.

Co ważne, to samo narzędzie powinno zostać ocenione odrębnie dla każdego procesu, w którym jest wykorzystywane. Ogólna ocena produktu nie wystarcza, ponieważ wykorzystanie tego samego modelu np. do redagowania materiałów marketingowych i do oceny pracowników może mieć zupełnie inny profil ryzyka. 

Wersja rozszerzona

Listy wejściowe nie zawsze będą wystarczające. Po wersję rozszerzoną należy sięgnąć w szczególności, gdy organizacja buduje albo dotrenowuje model na własnych danych, wynik systemu wpływa na sytuację prawną osób, przetwarzane są dane szczególnych kategorii, dane dzieci lub dane dotyczące wyroków, dochodzi do przekazywania danych poza EOG, gdy system może zostać zakwalifikowany jako system AI wysokiego ryzyka w rozumieniu AI Act. 

Wersja rozszerzona nie zmienia więc adresata – zmienia zakres analizy. Pozwala rozdzielić m.in. fazę trenowania od fazy wdrożenia i używania systemu. To istotne, ponieważ podstawa prawna, zakres danych czy okres retencji nie muszą być takie same na obu etapach. 

Przykładowo, czym innym jest wykorzystanie istniejącego zbioru danych osobowych do dotrenowania modelu, a czym innym późniejsze przetwarzanie danych użytkownika w ramach eksploatacji gotowego systemu. Wersja rozszerzona wymaga dlatego odrębnego ustalenia podstawy prawnej dla danych treningowych oraz dla danych przetwarzanych podczas używania AI. 

Checklista powinna być procesem, a nie dokumentem „do odhaczenia”

Z list UODO wynika jeszcze jeden ważny wniosek: ocena AI nie powinna być jednorazowa. Każdy proces powinien być oceniany oddzielnie, a wypełniona lista może stanowić element dokumentacji rozliczalności i punkt odniesienia przy późniejszej weryfikacji wdrożenia. Nie wszystkie zidentyfikowane działania mają przy tym taki sam charakter.  

Niektóre warunki muszą zostać spełnione przed rozpoczęciem przetwarzania – dotyczy to w szczególności ustalenia podstawy prawnej, przesłanki przetwarzania danych szczególnych kategorii, powierzenia, podstaw transferu poza EOG, obowiązków informacyjnych, nadzoru człowieka czy przeprowadzenia DPIA, jeżeli jest wymagana. 

Inne działania organizacyjne – np. rozwijanie polityki AI, szkoleń czy procedur zarządzania danymi – mogą być realizowane równolegle, o ile ryzyko pozostaje pod kontrolą. Są wreszcie sytuacje, w których nie wystarczy stworzyć „planu naprawczego”: konstrukcja procesu musi zostać zmieniona albo z wdrożenia należy zrezygnować. 

Od „czy wolno nam używać AI?” do zarządzania całym cyklem życia systemu

Największą wartością opublikowanych list może okazać się nie sama odpowiedź na poszczególne pytania, lecz zmiana sposobu organizowania procesu wdrażania AI. Prawidłowa kolejność powinna wyglądać inaczej niż w wielu dotychczasowych projektach:

W ocenę powinien być zaangażowany właściciel procesu, osoba odpowiedzialna za system informatyczny, IOD lub osoba odpowiedzialna za ochronę danych, compliance, a w odpowiednich przypadkach również dział prawny, bezpieczeństwo informacji, zakupy oraz osoby odpowiedzialne za data governance. 

Najważniejsze pytanie należy zadać przed wdrożeniem

Publikacja list pytań inicjalnych UODO nie tworzy nowego obowiązku prawnego ani nowej procedury zatwierdzania systemów AI przez organ nadzorczy. Nie daje też organizacji „certyfikatu zgodności” z RODO. Jej praktyczne znaczenie jest jednak istotne.

Listy porządkują zagadnienia, które w dobrze zarządzanym projekcie AI powinny zostać przeanalizowane już na etapie poprzedzającym decyzję o wdrożeniu konkretnego rozwiązania – zanim organizacja kupi system, przekaże dostawcy dane osobowe albo zacznie wykorzystywać jego wyniki wobec klientów, pracowników czy obywateli.

Jeżeli dopiero po wdrożeniu okazuje się, że organizacja nie zna lokalizacji przetwarzania danych, nie potrafi prawidłowo określić swojej roli oraz roli dostawcy, nie ma podstawy prawnej dla części operacji przetwarzania, nie wie, czy przekazywane do systemu prompty są wykorzystywane do dalszego trenowania modelu, albo nie jest w stanie zapewnić rzeczywistej interwencji człowieka – problemem przestaje być wyłącznie brak odpowiedniej dokumentacji. Może to oznaczać konieczność renegocjowania zawartych umów, zmiany konfiguracji systemu, przebudowania procesu biznesowego, a w skrajnych przypadkach – rezygnacji z określonego zastosowania AI.

Dlatego analizę zgodności warto rozpocząć nie od pytania, jak wdrożyć wybrane już narzędzie AI, lecz od pytania, czy i do czego organizacja rzeczywiście go potrzebuje.

Najpierw należy ustalić, jaki cel ma realizować AI, jakie zadania będzie wykonywać, z wykorzystaniem jakich danych, kto będzie uczestniczył w ich przetwarzaniu oraz jaki wpływ działanie systemu może mieć na człowieka. Dopiero na tej podstawie można odpowiedzialnie ocenić, czy dane rozwiązanie powinno zostać wdrożone, a jeżeli tak – na jakich warunkach organizacyjnych, technicznych i prawnych.

W tym właśnie zakresie listy pytań UODO mogą okazać się szczególnie użyteczne: nie jako końcowy test zgodności, lecz jako punkt wyjścia do świadomego i zgodnego z prawem projektowania wdrożenia AI.

*(1)Żródło: https://uodo.gov.pl/pl/138/4533 (dostęp 31.08.2026r.).