RODO i sztuczna inteligencja (AI) w Holandii spotykają się w jednym punkcie: gdy tylko algorytm przetwarza informacje o możliwej do zidentyfikowania osobie, RODO ma pełne zastosowanie, niezależnie od technologii i osoby, która go stworzyła. Oznacza to prawną podstawę każdej operacji przetwarzania, informowanie osób zainteresowanych o logice działania systemu, prawo do interwencji człowieka w przypadku, gdy decyzję podejmuje wyłącznie maszyna, oraz udokumentowaną ocenę ryzyka przed wdrożeniem. Ustawa o ochronie danych osobowych (Autoriteit Persoonsgegevens) egzekwuje te obowiązki, a unijna ustawa o sztucznej inteligencji dodaje do nich odrębną warstwę bezpieczeństwa produktu, nie zastępując żadnego z nich.
Niniejszy artykuł dotyczy aspektu operacyjnego: co musi zrobić organizacja, gdy dane osobowe faktycznie przepływają przez aplikację AI. Wcześniejsze pytanie, jak uzasadnić tworzenie dużego zbioru danych i jak działa test zgodności, gdy dane zebrane w jednym celu są ponownie wykorzystywane do trenowania modelu, zostało omówione osobno w naszym artykule na temat RODO i big data.
Kiedy system sztucznej inteligencji podlega przepisom RODO
Regulacja jest neutralna technologicznie. Nie pyta, czy system jest drzewem decyzyjnym, modelem statystycznym czy dużym modelem językowym; pyta, czy przetwarzane są dane osobowe. Ten próg jest przekraczany w trzech różnych momentach cyklu życia aplikacji AI i każdy z nich wymaga osobnej analizy.
Pierwszym z nich jest uczenie. Jeśli zbiór treningowy zawiera informacje dotyczące identyfikowalnych osób, jego gromadzenie i wykorzystywanie jest przetwarzaniem, a fakt, że wynik jest modelem, a nie bazą danych, niczego w tej kwestii nie zmienia. Drugim jest wnioskowanie. Każdy monit, zapytanie lub rekord wejściowy zawierający dane osobowe jest operacją przetwarzania, podobnie jak wynik, który mówi coś o identyfikowalnej osobie. Trzecim jest rejestrowanie. Dzienniki wnioskowania, rekordy informacji zwrotnych i zbiory danych ewaluacyjnych często zawierają więcej danych osobowych niż zbiór treningowy i są rutynowo pomijane w rejestrze działań przetwarzania.
Powszechnym błędnym przekonaniem jest to, że wytrenowany model jest z definicji anonimowy. Tak nie jest. Model może przechowywać dane osobowe w formie, która umożliwia ich ekstrakcję, a to, czy tak się dzieje, jest kwestią faktu, którą należy oceniać dla każdego modelu. Europejska Rada Ochrony Danych doszła do tego wniosku w swojej opinii na temat modeli sztucznej inteligencji z końca 2024 r. i dodała kwestię istotną z punktu widzenia biznesowego: w przypadku gdy model został wytrenowany na danych osobowych przetwarzanych niezgodnie z prawem, ta niezgodność z prawem może mieć wpływ na legalność wdrożenia modelu, chyba że można wykazać, że sam model jest rzeczywiście anonimowy. Podstawy rozporządzenia przedstawiono we wprowadzeniu do prawa ochrony danych oraz w naszym przeglądzie ogólnego rozporządzenia o ochronie danych.
Kto jest odpowiedzialny i za jaką część
Odpowiedzialność wynika z procesu decyzyjnego, a nie z technologii. Stroną, która określa cele i sposoby przetwarzania, jest administrator; stroną, która przetwarza dane wyłącznie na podstawie udokumentowanych instrukcji, jest podmiot przetwarzający. W łańcuchu sztucznej inteligencji role te zmieniają się krok po kroku: dostawca modelu jest zazwyczaj administratorem dla własnego rozwoju, a podmiotem przetwarzającym dla użytku klienta. Gdy obie strony wspólnie ustalają cel, są współadministratorami i muszą rejestrować podział wynikających z tego obowiązków. Rozróżnienia i ich konsekwencje wyjaśniono w naszym artykule na temat ról administratora i podmiotu przetwarzającego , a stronę umowną w naszym przewodniku po umowie o przetwarzaniu danych.
W praktyce większość tych pytań rozstrzygają dwie klauzule. Jeśli dostawca ma prawo wykorzystać dane klientów do ulepszenia własnego modelu, działa w tym celu jako administrator, a Ty ujawniasz mu dane osobowe. Jeśli korzysta z podprocesorów lub infrastruktury spoza Europejskiego Obszaru Gospodarczego, obowiązują zasady transferu danych zawarte w rozdziale V rozporządzenia, a wymagany jest mechanizm transferu danych oraz ocena. Żadnego z tych punktów nie da się rozwiązać po uruchomieniu.
Zautomatyzowane podejmowanie decyzji i prawo do interwencji człowieka
Artykuł 22 RODO to przepis, który najmocniej uderza w zastosowania sztucznej inteligencji. Daje on każdej osobie prawo do niepodlegania decyzji, która opiera się wyłącznie na zautomatyzowanym przetwarzaniu, w tym profilowaniu, i wywołuje wobec niej skutki prawne lub w podobny sposób istotnie na nią wpływa. Interpretowany jako zakaz, a nie jako prawo do sprzeciwu, jak interpretuje go Trybunał Sprawiedliwości, oznacza to, że takie decyzje są niedozwolone, chyba że zachodzi jeden z trzech wyjątków: decyzja jest niezbędna do zawarcia lub wykonania umowy, jest dozwolona przez prawo Unii lub państwa członkowskiego z odpowiednimi zabezpieczeniami lub opiera się na wyraźnej zgodzie osoby, której dane dotyczą.
O tym, czy artykuł ma zastosowanie, decydują trzy elementy. Decyzja musi opierać się wyłącznie na zautomatyzowanym przetwarzaniu, którego nie można podważyć symbolicznym podpisem człowieka; osoba zaangażowana musi mieć realne uprawnienia i faktycznie rozważyć wynik. Skutek musi być prawny lub podobnie istotny, co obejmuje odmowę kredytu, odrzucenie aplikacji o pracę, zakończenie świadczenia usług, odrzucenie roszczenia ubezpieczeniowego oraz automatyczne flagi oszustwa blokujące klienta. Decyzja musi dotyczyć konkretnej osoby, dlatego ogólne reguły cenowe nie wchodzą w zakres artykułu, podczas gdy zindywidualizowany scoring jest w jego obrębie.
Trybunał Sprawiedliwości rozszerzył tę kwestię dalej, niż zakłada wiele organizacji. W przypadku gdy firma oblicza scoring danej osoby, a strona trzecia w dużym stopniu opiera się na tym scoringu, decydując o zawarciu umowy, samo wygenerowanie scoringu stanowi zautomatyzowaną decyzję w rozumieniu art. 22. Innymi słowy, dostawca scoringu nie może ukrywać się za faktem, że formalną decyzję podejmuje jego klient. W przypadku holenderskich organizacji, które kupują scoring kredytowy, w zakresie oszustw lub ryzyka, zmienia to pytanie o zgodność z przepisami z kwestii, czy podejmują zautomatyzowane decyzje, na pytanie, czy robią to ich dostawcy.
W przypadku jednego z wyjątków, zabezpieczenia są obowiązkowe i szczegółowe: co najmniej prawo do uzyskania interwencji ludzkiej, prawo do wyrażenia własnego punktu widzenia oraz prawo do zakwestionowania decyzji. Oznacza to sprawną, obsadzoną i udokumentowaną procedurę, a nie skrzynkę pocztową. Dane szczególnej kategorii mogą być wykorzystywane w takich decyzjach wyłącznie na podstawie wyraźnej zgody lub w związku z istotnym interesem publicznym, a decyzje tego rodzaju nie mogą być podejmowane w odniesieniu do dzieci.
Jak naprawdę powinien wyglądać ludzki nadzór
Sensowne zaangażowanie człowieka to punkt, w którym większość systemów zawodzi. Recenzent, który widzi jedynie wyniki modelu i rekomendacje, nie ma dostępu do danych bazowych, jest oceniany pod kątem przepustowości i pomija system w znikomej liczbie przypadków, nie sprawuje nadzoru w rozumieniu przepisów. Skuteczny nadzór oznacza, że recenzent ma kompetencje i uprawnienia do wyciągnięcia odmiennych wniosków, widzi informacje wykorzystane przez model, rejestruje powody potwierdzenia lub odejścia od wyniku oraz jest monitorowany pod kątem częstotliwości i przyczyn występowania odchyleń. Te statystyki dotyczące odchyleń to również pierwsza rzecz, o którą poprosi badacz.
Przejrzystość: co musisz powiedzieć ludziom o algorytmie
W przypadku zautomatyzowanego podejmowania decyzji w rozumieniu art. 22, obowiązki informacyjne określone w art. 13 i 14 oraz prawo dostępu określone w art. 15 wymagają ujawnienia istnienia zautomatyzowanego podejmowania decyzji, istotnych informacji o logice jego podejmowania oraz znaczeniu i przewidywanych konsekwencjach przetwarzania dla osoby, której dane dotyczą. Obowiązek ten ma zastosowanie w momencie gromadzenia danych oraz ponownie na żądanie.
Istotne informacje na temat logiki nie oznaczają publikacji kodu źródłowego ani wag modeli, ani też matematycznego opisu, którego nie jest w stanie zrozumieć żaden laik. Trybunał Sprawiedliwości orzekł, że osoba ma prawo do wyjaśnienia procedury i faktycznie zastosowanych zasad, opisanego na tyle konkretnie, aby umożliwić jej zrozumienie, które z jej danych osobowych zostały wykorzystane i w jaki sposób, co pozwala jej sprawdzić dokładność tych danych i zakwestionować decyzję. Opis kategorii wykorzystanych danych, ich względnej wagi, zastosowanych progów oraz skutków, jakie miałyby różne wartości, jest tego rodzaju wyjaśnieniem, które spełnia ten warunek.
Tajemnica handlowa jest czynnikiem, ale nie atutem. Jeżeli administrator danych uzna, że udzielenie wyjaśnień ujawniłoby tajemnicę handlową lub prawa innych osób, nie może po prostu odmówić: musi przekazać rzekomo chronione informacje organowi nadzorczemu lub sądowi, który następnie wyważy interesy i określi, co należy ujawnić. Stworzenie systemu, którego logiki w ogóle nie da się wyjaśnić, stwarza zatem problem prawny, a nie techniczną wymówkę. Zakres samego prawa dostępu omówiono w naszym artykule na temat prawa dostępu na mocy artykułu 15.
Przejrzystość ma również bardziej oczywisty wymiar. Oświadczenia o ochronie prywatności, które opisują cele w języku wystarczająco szerokim, by objąć wszystko, są traktowane przez holenderski organ nadzoru jako odrębne naruszenie, a znaczna część jego niedawnych działań egzekucyjnych dotyczyła właśnie tego. Nasz przewodnik po polityce prywatności w Holandii opisuje, jak opisać przetwarzanie algorytmiczne w sposób precyzyjny i czytelny. Ta sama zasada ma zastosowanie do powiadomień wewnętrznych, na przykład w przypadku systemów wykorzystywanych do monitorowania pracowników lub monitoringu wizyjnego w miejscu pracy.
Dane, które wprowadzasz do systemu i dane, które on generuje
Każda operacja przetwarzania w łańcuchu wymaga podstawy prawnej, a podstawa szkolenia nie jest automatycznie podstawą wdrożenia. Zgoda, konieczność zawarcia umowy i uzasadniony interes to trzy realne kryteria, które należy ocenić i zarejestrować przed rozpoczęciem przetwarzania. W przypadku powołania się na uzasadniony interes, należy spisać trzyetapową ocenę interesu, konieczności i równowagi; interes czysto komercyjny może się kwalifikować, co potwierdził Trybunał Sprawiedliwości w holenderskiej sprawie z 2024 r., ale tylko wtedy, gdy przetwarzanie jest rzeczywiście konieczne, a równowaga jest zachowana.
Dwie kategorie danych wejściowych wymagają odrębnego traktowania. Szczególne kategorie danych osobowych, takie jak dane dotyczące zdrowia, dane biometryczne wykorzystywane do identyfikacji oraz dane ujawniające pochodzenie etniczne, poglądy polityczne, wyznanie, przynależność do związków zawodowych lub orientację seksualną, nie mogą być przetwarzane, chyba że ma zastosowanie warunek określony w artykule 9; praktycznymi drogami są wyraźna zgoda oraz, w wąskich przypadkach, istotny interes publiczny określony w prawie. Pułapką jest wnioskowanie: gdy model wywodzi chronioną cechę ze zwykłych danych, stosuje się bardziej rygorystyczny system, nawet jeśli nikt tej cechy nie zebrał. Szczegółowe zasady dotyczące biometrii opisano w naszym artykule na temat danych biometrycznych i zgodności z RODO.
Drugą kategorią są dane zeskrobane lub publicznie dostępne. Fakt, że informacje można znaleźć w internecie, nie oznacza, że ich wykorzystanie jest zgodne z prawem. Nadal potrzebna jest podstawa, a test równowagi musi uwzględniać fakt, że dana osoba nie ma z Tobą żadnego związku, nie została poinformowana i nie oczekiwała, że jej dane zostaną wykorzystane w tym celu. W przypadku gdy dane pochodzą ze źródła innego niż dana osoba, ma zastosowanie obowiązek informacyjny określony w artykule 14, z nielicznymi wyjątkami.
Wyniki to obszar, w którym organizacje najczęściej popełniają błędy. Wnioskowanie wygenerowane przez model na temat identyfikowalnej osoby to dane osobowe tej osoby: punktacja ryzyka, ocena przydatności, przewidywana diagnoza lub wygenerowane oświadczenie – wszystkie te elementy podlegają przepisom. Wynika z tego, że takie wyniki muszą być dokładne, muszą zostać poprawione lub uzupełnione, jeśli nie są, i są objęte prawem dostępu. Model generujący nieprawdziwe informacje na temat konkretnej osoby stanowi nie tylko problem jakościowy; jest to obowiązek sprostowania, a w przypadku rozpowszechnienia nieprawdziwego oświadczenia może to również skutkować roszczeniem wykraczającym poza przepisy o ochronie danych. Praktyczne środki minimalizacji, które zmniejszają to narażenie, są znane: usuwanie niepotrzebnych identyfikatorów, rozdzielanie danych rozwojowych i produkcyjnych, ograniczanie możliwości wykonywania zapytań w systemie, ustalanie okresów przechowywania danych szkoleniowych, przechowywanie i logi funkcji oraz testowanie, czy model może ujawnić swoje dane szkoleniowe. W przypadku gdy ruch e-mail jest wykorzystywany jako dane wejściowe, szczegółowe kwestie omówiono w naszym artykule na temat ochrony poczty elektronicznej i danych w ramach RODO.
Uprzedzenia, dyskryminacja i równe traktowanie
Prawo o ochronie danych i prawo o równym traktowaniu nakładają się na siebie, a organizacja może przestrzegać jednego z nich, jednocześnie naruszając drugie. RODO wymaga, aby przetwarzanie było rzetelne i dokładne, a poprzez ocenę skutków, nakazuje identyfikację i ograniczenie ryzyka dyskryminacji. Holenderskie przepisy dotyczące równego traktowania idą dalej: zabraniają bezpośredniego i pośredniego rozróżniania ze względu na rasę, narodowość, religię, płeć, orientację seksualną, niepełnosprawność, choroby przewlekłe i wiek, w obszarach takich jak zatrudnienie, dostarczanie towarów i usług oraz edukacja. Algorytm, który systematycznie generuje gorsze wyniki dla grupy chronionej, dokonuje pośredniego rozróżnienia, które jest niezgodne z prawem, chyba że można je obiektywnie uzasadnić prawnie uzasadnionym celem realizowanym za pomocą odpowiednich i koniecznych środków.
Holenderski Instytut Praw Człowieka rozpatruje skargi na podstawie tych przepisów i opublikował wytyczne dotyczące dyskryminacji algorytmicznej w rekrutacji i selekcji. Punkt wyjścia jest niewygodny, ale słuszny: ciężar wykazania, że rozróżnienie jest obiektywnie uzasadnione, spoczywa na stronie korzystającej z systemu, więc organizacja, która nie potrafi wyjaśnić, dlaczego jej model osiąga różne rezultaty dla różnych grup, jest od samego początku na słabej pozycji.
Uprzedzenia wkraczają znanymi drogami. Dane treningowe odzwierciedlają historyczne decyzje, które same w sobie były stronnicze; zbiór danych niedostatecznie reprezentuje część populacji; cecha działa jak substytut chronionej cechy, podobnie jak kod pocztowy często działa w przypadku przynależności etnicznej; a optymalizacja pod kątem dokładności w całej populacji maskuje słabe wyniki mniejszości w jej obrębie. Istnieje tu realne napięcie prawne, ponieważ testowanie pod kątem dyskryminacji często wymaga przetwarzania danych o konkretnej kategorii, którą ograniczają przepisy. Sposobem na osiągnięcie tego celu jest testowanie w sposób kontrolowany, z udokumentowaną podstawą prawną, ścisłymi limitami dostępu i zagregowanymi wynikami, zamiast unikania testowania i liczenia na to, że pytanie nigdy nie zostanie zadane.
Holenderskie doświadczenia z systemem wskazywania ryzyka, stosowanym do wykrywania oszustw związanych ze świadczeniami, pokazują, co się dzieje, gdy ten aspekt jest zaniedbywany. Sąd uznał, że przepisy stanowiące podstawę systemu są sprzeczne z prawem do poszanowania życia prywatnego gwarantowanym przez Europejską Konwencję Praw Człowieka, ponieważ system był niewystarczająco przejrzysty i weryfikowalny, a także nie można było go zweryfikować pod kątem dyskryminacji. Lekcja, która przetrwała ten wyrok, jest taka, że nieprzejrzystość sama w sobie jest wadą prawną, a nie neutralną cechą techniczną. W przypadku gdy błąd algorytmiczny prowadzi do szkody, kwestia tego, kto za niego odpowiada, jest odrębną kwestią, omówioną w naszym artykule na temat odpowiedzialności za błędy popełnione przez sztuczną inteligencję , a aspekt prawa karnego w naszym artykule na temat sztucznej inteligencji i prawa karnego.
Kto nadzoruje sztuczną inteligencję i algorytmy w Holandii
Autoriteit Persoonsgegevens jest organem nadzorczym RODO w Holandii i stosuje rozporządzenie wraz z krajowym aktem wykonawczym, Uitvoeringswet AVG, który uzupełnia wybory pozostawione przez rozporządzenie państwom członkowskim, zamiast tworzyć oddzielny system. Jego uprawnienia obejmują ostrzeżenie i upomnienie, nakaz zapłaty kary pieniężnej, zakaz przetwarzania i grzywnę administracyjną w wysokości do dwudziestu milionów euro lub czterech procent całkowitego rocznego światowego obrotu, w zależności od tego, która kwota jest wyższa. Poza RODO utrzymuje on specjalną jednostkę ds. koordynacji nadzoru algorytmów i publikuje okresowe raporty na temat ryzyka algorytmicznego w Holandii, które stanowią najjaśniejszy dostępny obraz jego oczekiwań. Zakres obowiązków i sposób działania organu opisano w naszym artykule na temat holenderskiego organu ochrony danych.
Nadzór nad sztuczną inteligencją jest celowo dzielony. Rijksinspectie Digitale Infrastructuur i Autoriteit Persoonsgegevens działają wspólnie jako organy nadzoru koordynującego w ramach ustawy o sztucznej inteligencji, podczas gdy organy regulacyjne poszczególnych sektorów zachowują swoje własne kompetencje: nadzór finansowy nad modelami stosowanymi w bankowości i ubezpieczeniach, inspektorat opieki zdrowotnej nad aplikacjami medycznymi oraz organ ds. mediów nad platformami. Holenderski Instytut Praw Człowieka zajmuje się kwestią równego traktowania. Dla organizacji oznacza to, że jeden system może być oceniany przez kilka organów z różnych powodów, co przemawia za jednym wewnętrznym plikiem, który odpowiada na wszystkie te pytania, a nie za oddzielnymi ścieżkami zgodności.
Organy publiczne mają dodatkową warstwę. Organizacje rządowe rejestrują używane przez siebie algorytmy w krajowym rejestrze algorytmów, a decyzje administracyjne oparte na algorytmie nadal muszą spełniać ogólne wymogi holenderskiego prawa administracyjnego, zgodnie z którymi decyzja musi być przygotowana z należytą starannością i właściwie uzasadniona. Uzasadnienie, które sprowadza się do stwierdzenia, że system wygenerował taki wynik, nie spełnia tego standardu.
Jak ustawa o sztucznej inteligencji jest zgodna z RODO
Ustawa o sztucznej inteligencji (AI) reguluje systemy AI jako produkty, klasyfikowane według ryzyka, z obowiązkami dostawców i użytkowników. Nie jest ona instrumentem ochrony danych: nie tworzy podstawy prawnej do przetwarzania danych osobowych, a jej przestrzeganie nie ma wpływu na zgodność z RODO. W przypadku przetwarzania danych osobowych przez system AI, oba systemy obowiązują równolegle i w pełnym zakresie.
Etapowanie ma znaczenie dla planowania. Zakazy niedopuszczalnych praktyk, w tym punktacji społecznej przez organy publiczne i nieukierunkowanego scrapowania wizerunków twarzy w celu tworzenia baz danych rozpoznawczych, już obowiązują, podobnie jak obowiązki dotyczące modeli sztucznej inteligencji ogólnego przeznaczenia oraz obowiązki przejrzystości dla systemów, które wchodzą w interakcję z ludźmi lub generują treści syntetyczne. Deepfake'i i teksty generowane przez sztuczną inteligencję publikowane w celu informowania opinii publicznej muszą być oznaczone. System wysokiego ryzyka został odroczony przez pakiet omnibus cyfrowy: obowiązki dotyczące systemów wysokiego ryzyka wymienionych w załączniku III, które obejmują rekrutację i selekcję, ocenę zdolności kredytowej, edukację i dostęp do podstawowych usług, obowiązują teraz od 2 grudnia 2027 r., a obowiązki dotyczące sztucznej inteligencji, która jest elementem bezpieczeństwa produktu regulowanego załącznikiem I, od 2 sierpnia 2028 r. Odrębny wniosek dotyczący dyrektywy w sprawie odpowiedzialności za sztuczną inteligencję został wycofany, więc szkody wyrządzone przez system sztucznej inteligencji są rozpatrywane zgodnie ze zwykłym holenderskim prawem umów i deliktów oraz europejskimi przepisami o odpowiedzialności za produkt.
W przypadku systemu, który podejmuje decyzje dotyczące ludzi i jednocześnie należy do kategorii wysokiego ryzyka, oba systemy wzajemnie się wzmacniają: RODO wymaga oceny skutków dla ochrony danych i interwencji człowieka na żądanie, a ustawa o sztucznej inteligencji (AI) wymaga systemu zarządzania ryzykiem, zarządzania danymi, dokumentacji technicznej, rejestrowania, nadzoru człowieka w fazie projektowania oraz, w przypadku niektórych wdrożeń, oceny skutków dla praw podstawowych. Stworzenie ich w ramach jednego ćwiczenia jest znacznie tańsze niż ich dwukrotne wykonanie. Zasady klasyfikacji zostały określone w naszych przewodnikach dotyczących unijnej ustawy o sztucznej inteligencji (AI) , systemów AI wysokiego ryzyka oraz w naszym praktycznym przewodniku dla przedsiębiorstw ; szersze tło znajduje się w naszym artykule na temat prawnych aspektów sztucznej inteligencji w UE.
Inne zasady cyfrowe, które obowiązują jednocześnie
Trzy kolejne reżimy są istotne dla systemów algorytmicznych. Ustawa o usługach cyfrowych nakłada na platformy internetowe wykorzystujące algorytmy do moderowania i rekomendowania treści obowiązki w zakresie przejrzystości i ryzyka, w tym obowiązek wyjaśnienia głównych parametrów systemów rekomendacji oraz, w przypadku największych platform, oferowania opcji nieopartej na profilowaniu; omawiamy to w naszych artykułach na temat Ustawy o usługach cyfrowych i Ustawy o rynkach cyfrowych oraz tego , co firmy muszą o nich wiedzieć. Ustawa o odporności cybernetycznej określa wymogi bezpieczeństwa dla produktów z elementami cyfrowymi, wprowadzane stopniowo w nadchodzących latach, i wymaga uwzględniania bezpieczeństwa w fazie projektowania oraz obsługi luk w zabezpieczeniach. Ustawa Cyberbeveiligingswet, holenderska implementacja NIS2, obowiązująca od 15 sierpnia 2026 r., nakłada na podmioty objęte jej zakresem rejestracji w NCSC i zgłaszania incydentów w ciągu 24 i 72 godzin, niezależnie od obowiązku zgłaszania naruszeń RODO; zobacz nasz przegląd NIS2 i holenderskiej ustawy o cyberbezpieczeństwie.
Zarządzanie: co musi znaleźć się w pliku
Odpowiedzialność to obowiązek udowodnienia. Samo przestrzeganie zasad nie wystarczy; administrator musi być w stanie wykazać zgodność, co w kontekście algorytmicznym oznacza plik zgodny z systemem w jego rzeczywistej formie i użytkowaniu. Pięć dokumentów wykonuje większość pracy.
Rejestr działań przetwarzania musi opisywać przepływy danych leżące u podstaw każdego modelu, w tym dane szkoleniowe, dane wejściowe wnioskowania i logi, a nie działy, które są ich właścicielami. Obok każdej operacji znajduje się informacja o podstawie prawnej, a w przypadku jej wykorzystania dołączona jest ocena uzasadnionych interesów. Ocena skutków dla ochrony danych jest obowiązkowa, gdy przetwarzanie może powodować wysokie ryzyko, co rozporządzenie przewiduje w przypadku systematycznej i szeroko zakrojonej zautomatyzowanej oceny aspektów osobowych, na których opierają się decyzje o istotnych skutkach, w przypadku przetwarzania na dużą skalę szczególnych kategorii danych oraz systematycznego monitorowania obszarów publicznie dostępnych; holenderski organ nadzorczy publikuje również listę operacji przetwarzania, dla których ocena jest zawsze wymagana. W przypadku gdy wysokiego ryzyka resztkowego nie można zminimalizować, przed rozpoczęciem przetwarzania należy skonsultować się z organem.
Obok nich znajduje się wewnętrzny rejestr algorytmów, który coraz częściej prowadzą nawet organizacje prywatne, ponieważ jest to jedyny praktyczny sposób odpowiedzi na żądanie nadzorcze, a także procedury obsługi żądań osób fizycznych: dostępu, sprostowania, usuwania, sprzeciwu i wniosku o interwencję człowieka – każdy z wyznaczonym właścicielem i terminem. Inspektor ochrony danych jest obowiązkowy dla organów publicznych i organizacji, których główna działalność obejmuje regularne i systematyczne monitorowanie na dużą skalę lub przetwarzanie na dużą skalę szczególnych kategorii, co obejmuje wiele wdrożeń sztucznej inteligencji.
Nic z tego nie działa jako ćwiczenie na papierze. Osoby budujące modele i osoby oceniające ryzyko muszą pracować na tym samym dokumencie, a plik musi być aktualizowany, gdy model jest ponownie trenowany lub wykorzystywany, ponieważ istotnie zmieniony system stanowi nową operację przetwarzania. To, jak wpisuje się to w szerszą strukturę zgodności, omówiono w naszych artykułach na temat rodzajów zgodności z prawem i ram ładu korporacyjnego , a także w holenderskim krajobrazie ochrony danych jako całości w naszym przewodniku po holenderskich przepisach dotyczących prywatności danych.
Ochrona samego systemu: własność intelektualna i tajemnice handlowe
Zasady chroniące algorytm działają w przeciwnym kierunku niż zasady wymagające jego wyjaśnienia, a te dwa elementy muszą być celowo uzgadniane. Programy komputerowe jako takie są wyłączone z ochrony patentowej, ale aplikacja sztucznej inteligencji (AI), która zapewnia techniczne rozwiązanie problemu technicznego, może być zasadniczo opatentowana na mocy holenderskiej ustawy patentowej i Europejskiej Konwencji Patentowej. Prawo autorskie chroni kod źródłowy i inne oryginalne wyrażenia na mocy ustawy o ochronie praw autorskich (Auteurswet), ale nie leżącą u jego podstaw ideę, metodę czy technikę matematyczną. W praktyce najcenniejszą ochroną jest ustawa o tajemnicach handlowych: Wet bescherming bedrijfsgeheimen, która wdraża europejską dyrektywę o tajemnicach handlowych, chroni informacje, które są tajne, mają wartość handlową, ponieważ są tajne i podlegają rozsądnym krokom w celu ich zachowania. Dotyczy to danych szkoleniowych, parametrów modelu i architektury, pod warunkiem że te rozsądne kroki zostaną faktycznie podjęte i udokumentowane. Egzekwowanie prawa odbywa się za pośrednictwem sądów cywilnych, które mogą nakazać zakazy, wydanie towarów naruszających patenty i odszkodowanie; nie jest to sprawa organu ochrony konkurencji.
Dane treningowe rodzą osobne pytania dotyczące praw autorskich. Wyjątki dotyczące eksploracji tekstu i danych w holenderskim prawie autorskim, które wdrażają europejską dyrektywę w sprawie praw autorskich na jednolitym rynku cyfrowym, zezwalają na eksplorację utworów dostępnych zgodnie z prawem, ale podmioty praw autorskich mogą zastrzec sobie swoje prawa, a dostawcy modeli sztucznej inteligencji ogólnego przeznaczenia są zobowiązani, zgodnie z ustawą o sztucznej inteligencji, do posiadania polityki zgodności z prawem autorskim UE i respektowania tych zastrzeżeń. Scraping jest zatem ograniczony przez dwa odrębne systemy: ochronę danych i prawa autorskie, a usunięcie jednego z nich nie ma wpływu na drugi. Nasz przewodnik po prawie własności intelektualnej w Holandii oraz artykuł na temat ochrony tajemnic handlowych szczegółowo omawiają te kwestie.
Ograniczeniem jest to, o czym wspomniano wcześniej: poufność nie zwalnia z obowiązku wyjaśnienia zautomatyzowanej decyzji. W przypadku kolizji tych dwóch kwestii, organ nadzoru lub sąd decyduje, co należy ujawnić, zatem rozsądnym celem projektowym jest system, którego logikę można opisać na poziomie zasad i czynników, nie ujawniając niczego, co jest rzeczywiście tajne.
PYTANIA I ODPOWIEDZI
Poniższe pytania pojawiają się najczęściej, gdy holenderskie organizacje przetwarzają dane osobowe za pomocą algorytmu. Więcej materiałów na ten temat można znaleźć w naszych holenderskich poradnikach dotyczących prawa IT.
Jakie wymagania stawiane są systemom sztucznej inteligencji zgodnie z RODO podczas przetwarzania danych osobowych w Holandii?
Twoje systemy AI muszą spełniać wszystkie wymogi RODO podczas przetwarzania danych osobowych w Holandii. Musisz ustalić podstawę prawną przetwarzania, taką jak zgoda, wykonanie umowy lub uzasadniony interes.
Musisz upewnić się, że gromadzenie danych osobowych jest ograniczone do tego, co jest niezbędne do osiągnięcia określonego celu. Twoje aplikacje AI nie mogą przetwarzać większej ilości danych niż jest to konieczne do osiągnięcia wyznaczonych celów.
Holenderski Urząd Ochrony Danych Osobowych (HOL) oczekuje od Ciebie prowadzenia kompleksowej dokumentacji Twoich działań związanych z przetwarzaniem danych. Musisz rejestrować, jakie dane zbierasz, dlaczego je zbierasz i jak długo je przechowujesz.
Jak RODO wpływa na rozwój i wdrażanie algorytmów sztucznej inteligencji przetwarzających poufne informacje?
W przypadku przetwarzania przez systemy sztucznej inteligencji wrażliwych kategorii danych osobowych, takich jak informacje o zdrowiu, rasie, religii, poglądach politycznych czy dane biometryczne, obowiązują surowsze wymagania.
Przed przetwarzaniem danych wrażliwych za pomocą algorytmów musisz uzyskać wyraźną zgodę lub wskazać inną ważną podstawę prawną . W przypadku tych kategorii danych ogólna zgoda nie jest wystarczająca.
Proces rozwoju musi obejmować dodatkowe zabezpieczenia i środki bezpieczeństwa dla informacji wrażliwych. Należy wdrożyć szyfrowanie, kontrolę dostępu i regularnie przeprowadzać oceny bezpieczeństwa w całym cyklu życia systemu AI.
Jakie środki należy podjąć, aby zapewnić przejrzystość procesu decyzyjnego w zakresie sztucznej inteligencji, w którym wykorzystywane są dane osobowe mieszkańców Holandii?
Musisz zapewnić jasne informacje o tym, jak Twoje systemy sztucznej inteligencji podejmują decyzje wpływające na jednostki. Twoi użytkownicy muszą rozumieć, jakie dane gromadzisz i jak Twoje algorytmy je wykorzystują.
Logikę i procesy decyzyjne modelu sztucznej inteligencji należy dokumentować prostym językiem. Same wyjaśnienia techniczne nie spełniają wymogów RODO dotyczących przejrzystości.
Gdy Twój system sztucznej inteligencji podejmuje zautomatyzowane decyzje, musisz poinformować osoby, których to dotyczy, o przetwarzaniu. Musisz wyjaśnić im znaczenie i potencjalne konsekwencje tych decyzji.
Jakie prawa przysługują osobom w Holandii w związku z automatycznym podejmowaniem decyzji na mocy RODO?
Osoby fizyczne mają prawo nie podlegać decyzjom opartym wyłącznie na zautomatyzowanym przetwarzaniu, które wywołuje skutki prawne lub inne istotne skutki. W przypadku zaistnienia tych warunków należy zapewnić udział człowieka w procesie podejmowania decyzji.
Użytkownicy mogą poprosić o interwencję człowieka w celu weryfikacji zautomatyzowanych decyzji, które ich dotyczą. Musisz opracować procedury obsługi tych żądań i zapewnić znaczący nadzór ludzki.
Osoby, których dane dotyczą, mogą kwestionować zautomatyzowane decyzje i żądać wyjaśnień dotyczących logiki ich podejmowania. Musisz być przygotowany na podanie informacji o tym, w jaki sposób Twój system sztucznej inteligencji doszedł do konkretnych wniosków dotyczących osób fizycznych.
W jaki sposób RODO wymaga, aby systemy AI były projektowane z uwzględnieniem ochrony danych domyślnie i w fazie projektowania w kontekście Holandii?
Musisz zintegrować ochronę danych z systemami AI już na najwcześniejszych etapach rozwoju. Kwestie prywatności nie mogą być kwestią drugorzędną, gdy algorytm jest już gotowy.
Domyślne ustawienia powinny zapewniać najwyższy możliwy poziom ochrony danych. Użytkownicy nie powinni być zmuszeni do zmiany ustawień, aby zapewnić sobie podstawową ochronę prywatności.
Musisz wdrożyć środki techniczne, takie jak pseudonimizacja i minimalizacja danych w całej architekturze systemu. Twoja sztuczna inteligencja powinna uzyskiwać dostęp i przetwarzać tylko minimalną ilość danych wymaganą dla każdej konkretnej funkcji.
W jaki sposób organizacje mogą wykazać zgodność z zasadą odpowiedzialności określoną w RODO, korzystając ze sztucznej inteligencji w Holandii?
Musisz prowadzić szczegółową dokumentację swoich działań związanych z przetwarzaniem danych i działaniem systemów sztucznej inteligencji. Dokumentacja potwierdza, że uwzględniłeś i zastosowałeś się do wymogów RODO.
Przed wdrożeniem systemów AI, które stwarzają wysokie ryzyko naruszenia prywatności, należy przeprowadzić ocenę skutków dla ochrony danych. Oceny te identyfikują potencjalne problemy.
Twoja organizacja musi wdrożyć odpowiednie polityki, programy szkoleniowe i mechanizmy nadzoru dotyczące wykorzystania sztucznej inteligencji. Powinieneś być w stanie w dowolnym momencie przedstawić holenderskiemu Urzędowi Ochrony Danych dowód swoich bieżących działań na rzecz zgodności z przepisami.
W jaki sposób Law and More może pomóc
Law and More Doradza holenderskim i międzynarodowym organizacjom w zakresie ochrony danych w kontekście sztucznej inteligencji: ocenia, czy artykuł 22 ma zastosowanie do systemu, projektuje nadzór ludzki, który jest odporny na kontrolę, sporządza wyjaśnienia, które należy przekazać osobom, których dotyczą dane, przeprowadza oceny skutków, negocjuje umowy o przetwarzaniu danych z dostawcami modeli i platform oraz odpowiada na skargi i roszczenia osób fizycznych. Jeśli wdrażasz algorytm, który podejmuje lub wspiera decyzje dotyczące osób, nasze prawnicy zajmujący się prywatnością są dostępni, aby zapoznać się z plikiem przed dokonaniem tego przez organ regulacyjny.
