Ustawa europejska o sztucznej inteligencji wprowadziła 2 lutego 2025 r. istotne zmiany, które zapewnią, Praktyki AI nielegalne w całej UE. Holenderskie firmy muszą teraz przestrzegać rygorystycznych zasad dotyczących tego, z jakich systemów sztucznej inteligencji mogą korzystać.
Firmy, które nie usuną zakazanych narzędzi AI, mogą zostać ukarane wysokimi grzywnami i potencjalnymi konsekwencjami prawnymi ze strony osób, które poniosły szkodę.
Od lutego 2025 r. w Holandii zakazane są systemy sztucznej inteligencji, które manipulują ludźmi, stosują punktację społeczną, kategoryzują osoby na podstawie danych biometrycznych lub wykorzystują rozpoznawanie twarzy w czasie rzeczywistym w miejscach publicznych. Zakazy te obejmują również technologię rozpoznawania emocji w miejscach pracy i szkołach, a także nieukierunkowane gromadzenie obrazów twarzy z Internetu w celu tworzenia baz danych rozpoznających.
Przepisy obowiązują natychmiast, nie dając firmom okresu karencji na wycofanie tych systemów. Zrozumienie, które praktyki AI są zakazane i jakie kroki musi podjąć Twoja organizacja, jest kluczowe, aby uniknąć kar.
W tym przewodniku wyjaśniono konkretne zakazy, przedstawiono obowiązki zgodności jako przedsiębiorstwo holenderskie, a także obejmuje wymogi szkoleniowe niezbędne do zachowania zgodności Twojej działalności z prawem na mocy nowego prawa.
Przegląd zakazów obowiązujących w lutym 2025 r.
Rozporządzenie (UE) 2024/1689, znane jako Ustawa UE o sztucznej inteligencjiwprowadziło szczegółowe zakazy dotyczące niektórych praktyk związanych ze sztuczną inteligencją, które weszły w życie 2 lutego 2025 r. Zasady te mają zastosowanie do Twojej holenderskiej firmy, jeśli ją rozwijasz, wdrażasz lub używasz System AIw Holandii lub w szerszej Unii Europejskiej.
Zakres zabronionych praktyk AI
Ustawa o sztucznej inteligencji (AI) zakazuje określonych praktyk AI, które stanowią niedopuszczalne ryzyko dla praw podstawowych i wartości europejskich. Artykuł 5 rozporządzenia (UE) 2024/1689 identyfikuje te zakazane praktyki na podstawie ich potencjalnej szkodliwości, a nie samej technologii.
Główne kategorie zakazane obejmują:
- Manipulacyjne systemy sztucznej inteligencji które wykorzystują luki w zabezpieczeniach określonych grup
- Systemy punktacji społecznej przez władze publiczne
- Zdalna identyfikacja biometryczna w czasie rzeczywistym w przestrzeniach dostępnych publicznie dla prawo egzekwowanie (z nielicznymi wyjątkami)
- Systemy kategoryzacji biometrycznej które wywnioskowują wrażliwe atrybuty
- Nieukierunkowane skrobanie zdjęć twarzy z internetu lub nagrań z monitoringu
Twoja firma podlega tym zakazom, niezależnie od tego, czy działasz jako dostawca, wdrożeniowiec czy dystrybutor sztucznej inteligencji w Holandii. Holenderski Urząd Ochrony Danych Osobowych współpracuje z innymi organami ścigania Unii Europejskiej, aby zapewnić przestrzeganie przepisów.
Niedostosowanie się do przepisów wiąże się z karami finansowymi sięgającymi 7% rocznego obrotu na całym świecie.
Daty wejścia w życie i okresy przejściowe
Zakazy określone w Artykule 5 weszły w życie 2 lutego 2025 r. Oznacza to, że Twoja firma musi natychmiast zastosować się do tych przepisów, jeśli korzysta z odpowiednich systemów sztucznej inteligencji lub je rozwija.
Ramy egzekwowania prawa są stopniowe. Pełne kary, struktury zarządzania i przepisy dotyczące poufności wchodzą w życie 2 sierpnia 2025 r.
Daje to Twojej organizacji sześciomiesięczne okno czasowe, w którym przepisy będą obowiązywać, ale pełne mechanizmy egzekwowania wciąż są opracowywane. Komisja Europejska opublikowała oficjalne wytyczne 4 lutego 2025 r., aby wyjaśnić, jak te zakazy działają w praktyce.
Organy nadzoru rynku, w tym holenderski Urząd Ochrony Danych Osobowych, przejęły odpowiedzialność za monitorowanie i egzekwowanie tych przepisów od daty ich wejścia w życie w lutym.
Kluczowe definicje: Systemy i praktyki sztucznej inteligencji
Na mocy ustawy o sztucznej inteligencji System AI Oznacza oprogramowanie wykorzystujące uczenie maszynowe, podejścia oparte na logice lub metody statystyczne do generowania wyników, takich jak prognozy, rekomendacje czy decyzje. Definicja ta jest celowo szeroka, aby objąć obecne i nowe technologie.
A zabroniona praktyka sztucznej inteligencji Odnosi się do konkretnych sposobów wdrażania lub wykorzystywania sztucznej inteligencji, które Unia Europejska uznała za niedopuszczalne. Zakaz dotyczy samej praktyki, a nie technologii, na której się opiera.
Oznacza to, że możesz używać tego samego systemu sztucznej inteligencji (AI) do dozwolonych celów, mimo że będziesz mieć zakaz korzystania z niektórych aplikacji. Twoja firma musi rozróżniać między systemem AI (technologią) a jego działaniem (sposobem, w jaki go wykorzystujesz).
System sztucznej inteligencji do rozpoznawania twarzy może być legalny w kontekście kontroli dostępu do budynków, ale niedozwolony w kontekście nadzoru w czasie rzeczywistym w przestrzeni publicznej. Kontekst i zastosowanie decydują o legalności zgodnie z rozporządzeniem (UE) 2024/1689.
Szczegółowa lista zakazanych praktyk sztucznej inteligencji
Ustawa UE o sztucznej inteligencji zakazuje konkretnych zastosowań sztucznej inteligencji, które stwarzają niedopuszczalne ryzyko dla praw podstawowych i bezpieczeństwa. Te zakazane praktyki dzielą się na trzy główne kategorie: systemy manipulujące ludzkim zachowaniem, wykorzystywać bezbronne grupyoraz mechanizmy umożliwiające masową inwigilację za pomocą punktacji społecznej.
Systemy manipulacyjne i oszukańcze
Ustawa o sztucznej inteligencji (AI Act) zakazuje stosowania wszelkich systemów AI, które wykorzystują techniki podprogowe w celu istotnego zniekształcenia ludzkich zachowań w sposób powodujący szkody. Są to metody, które działają poza naszą świadomością, wpływając na nasze decyzje lub działania.
Zakazane praktyki manipulacyjne obejmują:
- Systemy sztucznej inteligencji, które wdrażają podprogowe komponenty, których nie można wykryć
- Systemy zaprojektowane w celu wykorzystania podatności związanych z wiekiem u dzieci
- Technologie manipulujące zachowaniem w celu wyrządzenia szkody fizycznej lub psychicznej
Nie możesz używać sztucznej inteligencji do celów celowych oszukiwać ludzi w sposób, który prowadzi do znacząca szkodaOznacza to, że Twoja firma nie może wdrażać chatbotów ani wirtualnych asystentów, którzy wprowadzają użytkowników w błąd co do ich sztucznej inteligencji, gdyż takie oszustwo mogłoby skutkować szkodami.
Zakaz obejmuje systemy sztucznej inteligencji, które wykorzystują mroczne wzorce lub manipulację psychologiczną, aby nakłonić użytkowników do podejmowania szkodliwych wyborów. prawo chroni jednostki przed praktykami sztucznej inteligencji, które omijają racjonalne podejmowanie decyzji.
Jeśli Twój system sztucznej inteligencji wpływa na zachowanie poprzez ukrytą manipulację, a nie poprzez przejrzyste informacje, narusza on ustawę.
Wykorzystywanie osób bezbronnych
Systemy sztucznej inteligencji (AI), które wykorzystują luki związane z wiekiem, niepełnosprawnością lub sytuacją społeczną lub ekonomiczną, są surowo zabronione. Nie można używać sztucznej inteligencji do wykorzystywania osób, które nie potrafią zrozumieć manipulacji ani oprzeć się jej.
Zakaz ten obejmuje sztuczną inteligencję, która wykorzystuje niedoświadczenie dzieci lub upośledzenie funkcji poznawczych osób starszych. Twoja firma nie może wdrażać systemów wykorzystujących niepełnosprawność fizyczną lub psychiczną do manipulowania zachowaniem.
Zakaz ten dotyczy również sztucznej inteligencji żerującej na desperacji ekonomicznej lub izolacji społecznej.
Do chronionych grup wrażliwych zaliczają się:
- Dzieci i osoby niepełnoletnie
- Osoby starsze z zaburzeniami funkcji poznawczych
- Osoby z niepełnosprawnością fizyczną lub psychiczną
- Osoby borykające się z trudnościami ekonomicznymi
Zakaz obowiązuje, gdy Twój system sztucznej inteligencji powoduje lub może spowodować znaczną szkodę poprzez wykorzystanie. Musisz ocenić, czy Twoje aplikacje sztucznej inteligencji mogłyby nieuczciwie atakować wrażliwe grupy społeczne.
Punktacja społeczna i profilowanie behawioralne
Ustawa o sztucznej inteligencji zakazuje systemów sztucznej inteligencji, które oceniają lub klasyfikują ludzi na podstawie ich zachowanie społeczne lub cech osobistych. Nie można stosować mechanizmów punktacji społecznej, które prowadzą do niesprawiedliwego traktowania lub krzywdy.
Punktacja społeczna polega na ocenie jednostek na podstawie ich zachowania, relacji lub przewidywanego zachowania. W ten sposób tworzone są profile, które decydują o dostępie do usług, możliwości lub praw.
Zakazane działania związane z punktacją społeczną obejmują:
- Ocenianie obywateli na podstawie zachowań społecznych lub zawodowych
- Tworzenie ocen wiarygodności na podstawie danych osobowych
- Przewidywanie zachowań przestępczych na podstawie profilowania
- Odmowa świadczenia usług na podstawie oceny zachowania
Nie można wdrażać systemów sztucznej inteligencji, które przyznają punkty decydujące o tym, czy dana osoba otrzyma opiekę zdrowotną, edukację, zatrudnienie lub usługi finansowe. Zakaz obowiązuje niezależnie od tego, czy systemy te są obsługiwane przez organ publiczny, czy przez firmę prywatną.
Zdalne sterowanie w czasie rzeczywistym identyfikacja biometryczna w przestrzeni publicznej również podlegają surowym zakazom, z nielicznymi wyjątkami dla organów ścigania.
Zakazy dotyczące sztucznej inteligencji biometrycznej, rozpoznawania twarzy i emocji
Ustawa UE o sztucznej inteligencji zakazuje stosowania kilku rodzajów systemów biometrycznych i systemów rozpoznawania twarzy, które stwarzają ryzyko podstawowe prawa. Te zakazy mają wpływ na sposób, w jaki holenderskie przedsiębiorstwa mogą korzystać dane biometryczne, bazy danych rozpoznawania twarzy, narzędzia rozpoznawania emocji i systemy identyfikacji w czasie rzeczywistym w przestrzeni publicznej.
Kategoryzacja biometryczna i wykorzystanie danych
Nie można używać systemów sztucznej inteligencji, które kategoryzują ludzi na podstawie ich danych biometrycznych, aby wnioskować o ich rasie, poglądach politycznych, przynależności do związków zawodowych, przekonaniach religijnych lub orientacji seksualnej. Zakaz ten obowiązuje w przypadku wprowadzania tych systemów na rynek, oddawania ich do użytku lub wykorzystywania ich w tym konkretnym celu.
Zakaz dotyczy systemów, które wrażliwe wnioski o osobach fizycznych poprzez analizę biometryczną. Twoja firma może zostać ukarana grzywną w wysokości do 7% światowego rocznego obrotu za nieprzestrzeganie przepisów.
Istnieje jeden wyjątek od tej reguły. Możesz oznaczyć lub filtrować legalnie pozyskane zbiory danych biometrycznych, takie jak zdjęcia, na podstawie danych biometrycznych w kontekście organów ścigania.
Poza organami ścigania tego typu praktyki kategoryzacyjne pozostają całkowicie zakazane.
Ograniczenia technologii rozpoznawania twarzy
Nie można tworzyć ani rozszerzać baz danych rozpoznawania twarzy poprzez nieukierunkowane pobieranie obrazów twarzy z internetu lub nagrań z monitoringu. Zakaz ten wszedł w życie 2 lutego 2025 r.
Aby zakaz został zastosowany, muszą być spełnione cztery warunki:
- Praktyka ta obejmuje umieszczanie, serwisowanie lub używanie systemu AI
- Celem jest stworzenie lub rozszerzenie baz danych rozpoznawania twarzy
- Metoda ta polega na nieukierunkowanym scrapowaniu obrazów twarzy
- Źródłami danych są internet lub nagrania z monitoringu CCTV
Kluczowe słowo to „nieukierunkowane”. Nie można gromadzić wizerunków twarzy w sposób szeroki i nieuporządkowany.
Oznacza to, że nie można umieszczać w supermarketach lub miejscach publicznych kamer, które automatycznie skanują twarze w celu tworzenia baz danych rozpoznających osoby bez określonych kryteriów docelowych.
Rozpoznawanie emocji w zatrudnieniu i edukacji
Nie można używać systemów sztucznej inteligencji do wnioskowania o emocjach ludzi w miejscach pracy i placówkach edukacyjnych. Ten zakaz bezpośrednio dotyczy działów kadr, szkół i placówek szkoleniowych, które mogą rozważyć wdrożenie narzędzi do wykrywania emocji.
Zakaz obejmuje każdy system sztucznej inteligencji zaprojektowany do odczytywania lub interpretowania stanów emocjonalnych w tych konkretnych sytuacjach. Nie ma znaczenia, czy korzystasz z analizy twarzy, rozpoznawania wzorców głosu, czy innych wskaźników biometrycznych.
Istnieje jeden niewielki wyjątek. Możesz używać sztucznej inteligencji rozpoznającej emocje, jeśli służy to celom medycznym lub bezpieczeństwu.
Na przykład monitorowanie czujności kierowcy ze względów bezpieczeństwa lub wykrywanie stresu pacjenta w placówkach opieki zdrowotnej może kwalifikować się do tego wyjątku.
Ograniczenia zdalnej identyfikacji biometrycznej
Nie można używać zdalnych systemów identyfikacji biometrycznej w czasie rzeczywistym w miejscach publicznych do celów egzekwowania prawa, z wyjątkiem ściśle określonych okoliczności. Wyjątki te obejmują poszukiwanie ofiar porwań lub handlu ludźmi, zapobieganie bezpośrednim zagrożeniom życia lub atakom terrorystycznym oraz lokalizowanie osób podejrzanych o popełnienie poważnych przestępstw zagrożonych karą co najmniej czterech lat pozbawienia wolności.
Każde użycie wymaga uprzednia autoryzacja z władza sądownicza lub niezależny organ administracyjny. W nagłych przypadkach możesz rozpocząć korzystanie bez zezwolenia, ale musisz wystąpić o zgodę w ciągu 24 godzin.
W przypadku odmowy autoryzacji przez władze, należy natychmiast zaprzestać korzystania z systemu i usunąć wszystkie dane. Holandia może ustanowić własne szczegółowe zasady dotyczące tych wyjątków w ramach prawa krajowego.
Twoja firma musi powiadomić właściwy organ nadzoru rynku i krajowy organ ochrony danych o każdym użyciu. Państwa członkowskie składają Komisji Europejskiej coroczne sprawozdania dotyczące korzystania z zdalnej identyfikacji biometrycznej w czasie rzeczywistym.
Obowiązki zgodności dla przedsiębiorstw holenderskich
Holenderskie firmy muszą podjąć konkretne kroki, aby osiągnąć zgodność z przepisami dotyczącymi sztucznej inteligencji, identyfikując zakazane systemy, usuwając je z działalności i prowadząc odpowiednią dokumentację. Holenderski organ ochrony danych a Holenderski Urząd ds. Infrastruktury Cyfrowej będzie egzekwować te wymagania, nakładając surowe kary za naruszenia.
Identyfikacja zabronionej sztucznej inteligencji w operacjach
Należy przeprowadzić dokładną ocenę ryzyka w całej organizacji, aby zlokalizować systemy sztucznej inteligencji, które mogą naruszać nowe zasady. Oznacza to zbadanie każdej technologii wykorzystującej techniki manipulacji, wykorzystującej luki w zabezpieczeniach, wdrażającej scoring społecznościowy lub dokonującej identyfikacji biometrycznej w czasie rzeczywistym w przestrzeni publicznej.
Zacznij od stworzenia inwentaryzacji wszystkich obecnie używanych systemów AI. Udokumentuj, co każdy system robi, jak przetwarza dane i na kogo ma wpływ.
Zwróć szczególną uwagę na systemy, które oddziałują na klientów, pracowników lub opinię publiczną. Twoja ocena ryzyka powinna uwzględniać, czy dany system może naruszać prawa podstawowe.
Obejmuje to sprawdzenie, czy systemy sztucznej inteligencji podejmują decyzje dotyczące ludzi na podstawie zachowania, cech osobistych lub powiązań społecznych. Systemy, które śledzą lub profilują osoby bez przejrzystości, wymagają natychmiastowej weryfikacji.
Współpracuj ze swoimi zespołami technicznymi, aby zrozumieć, jak działa każdy system AI. Nie możesz polegać wyłącznie na opisach dostawców.
Holenderski organ ochrony danych jasno stwierdził, że odpowiedzialność za zgodność z przepisami ponosisz niezależnie od tego, czy system został stworzony przez Ciebie, czy zakupiony od osoby trzeciej.
Wycofywanie lub usuwanie zakazanych systemów AI
Musisz natychmiast zaprzestać stosowania zakazanych praktyk sztucznej inteligencji. Prawo nie przewiduje okresu karencji dla zakazanych systemów.
Jeśli ocena ryzyka wykaże niedozwoloną praktykę, należy ją natychmiast wycofać. Stwórz plan eliminacji, uwzględniający zarówno skutki techniczne, jak i operacyjne.
Niektóre systemy mogą być osadzone w większych platformach lub połączone z wieloma procesami. Należy upewnić się, że usunięcie zabronionych elementów nie zakłóci podstawowych funkcji biznesowych.
Przed wyłączeniem systemu określ, jak zamierzasz wykonać zadania, które wykonywał on wcześniej. Może to oznaczać powrót do procesów ręcznych, wdrożenie innej technologii lub całkowitą przebudowę przepływów pracy.
Udokumentuj każdy etap procesu usuwania. Zapisz, kiedy odkryłeś niedozwoloną praktykę, jakie działania podjąłeś i kiedy system został całkowicie dezaktywowany.
Organy regulacyjne będą oczekiwać wyraźnych dowodów na to, że podjąłeś działania niezwłocznie po stwierdzeniu naruszenia.
Prowadzenie ewidencji i dokumentacja
Musisz prowadzić dokumentację techniczną potwierdzającą zgodność z przepisami zakazu. Obejmuje to zapisy ocen ryzyka, decyzji dotyczących systemów sztucznej inteligencji oraz wszelkich zmian wprowadzonych w celu zapewnienia zgodności.
Twoja dokumentacja powinna obejmować:
- Inwentaryzacje systemowe z opisami każdej aplikacji AI
- Raporty oceny ryzyka pokazując Twoją analizę potencjalnych naruszeń
- Rekordy dotyczące usuwania szczegółowo opisujące, kiedy i w jaki sposób dezaktywowałeś zakazane systemy
- Oceny wpływu na prawa podstawowe w przypadku jakichkolwiek przypadków granicznych
Przechowuj te dane przez co najmniej pięć lat. Holenderski organ ochrony danych może zażądać ich udostępnienia podczas kontroli lub dochodzeń.
Brak lub niekompletność dokumentacji może skutkować karami finansowymi w wysokości do 7 500 000 euro lub 1% rocznego globalnego obrotu. Dokumentacja techniczna musi być na tyle szczegółowa, aby organy regulacyjne mogły zrozumieć, co robią Twoje systemy sztucznej inteligencji i dlaczego są zgodne z prawem.
Ogólne opisy lub materiały marketingowe nie spełniają tego wymogu. Należy uwzględnić specyfikacje techniczne, przepływy danych i procesy decyzyjne.
Aktualizuj dokumentację za każdym razem, gdy modyfikujesz systemy AI lub wdrażasz nowe. Potrzebujesz ciągłych procesów, aby mieć pewność, że przyszłe systemy nie wprowadzą niedozwolonych praktyk.
Wymagania dotyczące umiejętności korzystania ze sztucznej inteligencji i szkolenia personelu
Od 2 lutego 2025 r. holenderskie firmy dostarczające lub wdrażające systemy AI muszą zapewnić swoim pracownikom odpowiednią wiedzę z zakresu AI. Obowiązek ten obowiązuje niezależnie od tego, czy korzystają z systemów AI wysokiego, czy niskiego ryzyka.
Udokumentowane programy szkoleniowe muszą być dostosowane do roli i wiedzy technicznej pracowników.
Wyjaśnienie obowiązku znajomości sztucznej inteligencji
Artykuł 4 ustawy UE o sztucznej inteligencji nakłada wymóg prawny Do wszystkich dostawców i firm wdrażających sztuczną inteligencję (AI) należy zapewnić odpowiednią znajomość AI wśród personelu. Należy podjąć działania, aby zagwarantować, że pracownicy i kontrahenci zajmujący się systemami AI rozumieją technologię, z którą pracują.
Obowiązek znajomości AI dotyczy wszystkich, którzy obsługują, używają lub podejmują decyzje dotyczące systemów AI w Twoim imieniu. Dotyczy to personelu technicznego, który tworzy lub utrzymuje systemy AI, a także pracowników nietechnicznych, którzy korzystają z narzędzi AI w swojej codziennej pracy.
Należy dostosować szkolenie z zakresu znajomości sztucznej inteligencji (AI) do roli, wiedzy technicznej, doświadczenia, wykształcenia i specyficznego kontekstu, w jakim korzysta z systemów AI. Programista oprogramowania wdrażający modele AI wymaga innego szkolenia niż przedstawiciel obsługi klienta korzystający z chatbotów opartych na AI.
Obowiązek ten wymaga od Ciebie dołożenia „wszelkich starań” w celu zapewnienia odpowiedniego poziomu umiejętności czytania i pisania. Nie możesz po prostu zaoferować symbolicznego szkolenia i twierdzić, że spełniasz wymagania.
Opracowywanie efektywnych programów szkoleniowych
Program edukacji w zakresie sztucznej inteligencji (AI) powinien odnosić się do konkretnych systemów AI używanych w organizacji, a nie dostarczać ogólnych informacji. Pracownicy muszą rozumieć, jak działają konkretne narzędzia AI, z których korzystają, ich ograniczenia i potencjalne zagrożenia.
Treści szkolenia powinny obejmować:
- Podstawowe koncepcje sztucznej inteligencji istotne dla Twoich systemów
- Jak prawidłowo obsługiwać narzędzia AI
- Potencjalne błędy i uprzedzenia w wynikach AI
- Kiedy konieczny jest nadzór człowieka
- Polityki i procedury dotyczące sztucznej inteligencji w Twojej organizacji
Należy wziąć pod uwagę początkowy poziom wiedzy każdego pracownika. Personel techniczny może potrzebować zaawansowanego szkolenia z zakresu tworzenia i testowania modeli, podczas gdy zwykli użytkownicy potrzebują praktycznych wskazówek dotyczących interpretacji wyników sztucznej inteligencji i rozpoznawania, kiedy wyniki wydają się nieprawidłowe.
Szkolenia mogą przybierać różne formy, takie jak warsztaty, kursy online, coaching w miejscu pracy czy programy zewnętrzne. Format szkolenia jest mniej ważny niż zapewnienie, że pracownicy faktycznie zdobędą niezbędną wiedzę i umiejętności.
Dokumentowanie działań z zakresu znajomości sztucznej inteligencji
Musisz prowadzić dokumentację swoich działań szkoleniowych w zakresie umiejętności posługiwania się sztuczną inteligencją, aby wykazać zgodność z unijną ustawą o sztucznej inteligencji. Dokumentacja ta stanowi dowód na to, że wypełniłeś swoje zobowiązania. zobowiązania prawne.
Twoje zapisy powinny zawierać:
- Treść i materiały programu szkoleniowego
- Listy pracowników, którzy ukończyli szkolenie
- Terminy i czas trwania szkoleń
- Wyniki oceny (jeśli dotyczy)
- Jak określiłeś odpowiedni poziom umiejętności czytania i pisania dla różnych stanowisk?
Udokumentuj proces identyfikacji potrzeb w zakresie znajomości sztucznej inteligencji (AI) w całej organizacji. Obejmuje to sposób, w jaki oceniłeś, którzy pracownicy wymagają szkolenia i jakiej konkretnej wiedzy potrzebują w oparciu o interakcję z systemami AI.
Prowadź dokumentację dotyczącą aktualizacji szkoleń w miarę zmian w systemach AI lub dołączania nowych pracowników do organizacji. Znajomość AI nie jest jednorazowym wymogiem, ale stałym obowiązkiem, który musi dostosowywać się do zmieniającego się wykorzystania technologii AI.
Nadzór, egzekwowanie i kary
Ustawa UE o sztucznej inteligencji ustanawia wielowarstwową strukturę egzekwowania prawa ze znacznym kary finansowe za nieprzestrzeganie przepisów. Holenderskie przedsiębiorstwa podlegają nadzorowi organów krajowych i europejskich, a za niedozwolone praktyki związane ze sztuczną inteligencją grożą im kary sięgające do 7% światowego rocznego obrotu.
Organy nadzorcze Holandii i UE
Holenderski Urząd Ochrony Danych Osobowych pełni funkcję głównego krajowego organu nadzorującego egzekwowanie ustawy o sztucznej inteligencji w Holandii. Organ ten współpracuje z innymi wyznaczonymi holenderskimi organami nadzoru rynku w celu monitorowania przestrzegania przepisów.
Na szczeblu europejskim Komisja Europejska nadzoruje wdrażanie ustawy o sztucznej inteligencji we wszystkich państwach członkowskich. Europejski Urząd ds. Sztucznej Inteligencji, utworzony w ramach Komisji, koordynuje działania egzekucyjne i zapewnia specjalistyczną wiedzę.
Europejska Rada Ochrony Danych popiera spójne stosowanie ustawy, szczególnie w przypadku systemów sztucznej inteligencji, które wiążą się z przetwarzaniem danych osobowych. Organy te współpracują ze sobą, aby zapewnić jednolite egzekwowanie przepisów w całej Unii Europejskiej.
Jeśli obsługujesz systemy AI w wielu krajach UE, możesz spotkać się z kontrolą organów nadzorczych w każdej jurysdykcji, w której Twoje systemy są wdrożone lub obowiązują.
Sankcje i odpowiedzialność cywilna
Naruszenia zakazanych praktyk określonych w artykule 5 pociągają za sobą kary do 35 milionów euro lub 7% całkowitego rocznego światowego obrotu, w zależności od tego, która kwota jest wyższa. Kary te obowiązują od 2 lutego 2025 r.
Trybunał Sprawiedliwości UE (TSUE) ma ostateczną władzę w zakresie interpretacji przepisów ustawy o sztucznej inteligencji. Sądy krajowe mogą kierować pytania do TSUE w przypadku sporów dotyczących tego, co stanowi niedozwoloną praktykę.
Oprócz kar administracyjnych, możesz zostać obciążony roszczeniami z tytułu odpowiedzialności cywilnej ze strony osób lub organizacji poszkodowanych przez niezgodne z przepisami systemy sztucznej inteligencji. Państwa członkowskie mogą ustanowić dodatkowe kary w swoim prawie krajowym.
Wytyczne organów europejskich i krajowych
Komisja Europejska opublikowała wytyczne dotyczące zakazów Praktyki w zakresie sztucznej inteligencji z 4 lutego 2025 r. Dokumenty te wyjaśniają, w jaki sposób władze będą interpretować zakazy określone w artykule 5, i podają praktyczne przykłady ich przestrzegania.
Chociaż niniejsze wytyczne nie mają charakteru wiążącego, oferują cenne informacje na temat priorytetów egzekwowania prawa. Tylko TSUE może zapewnić autorytatywne interpretacje prawne.
Holenderskie organy nadzoru mogą wydawać dodatkowe wytyczne krajowe, dostosowane do lokalnych uwarunkowań biznesowych. Należy śledzić aktualizacje ze strony organów europejskich i holenderskich w miarę rozwoju podejścia do egzekwowania prawa.
Wytyczne są dostępne we wszystkich językach UE, aby ułatwić ich zrozumienie w kontekście transgranicznym.
Najczęściej zadawane pytania
Europejska ustawa o sztucznej inteligencji wprowadza szczegółowe wymogi i ograniczenia, które będą miały wpływ na holenderskie przedsiębiorstwa od lutego 2025 r. Przepisy te zakazują niektórych praktyk związanych ze sztuczną inteligencją, wymagają środki zgodnościi ustanowić kary za naruszenia.
Jakie nowe przepisy dotyczące wykorzystania sztucznej inteligencji w holenderskich firmach zaczną obowiązywać od lutego 2025 r.?
Europejska ustawa o sztucznej inteligencji weszła w życie 1 sierpnia 2024 r., a pierwszy zestaw zakazów wszedł w życie 2 lutego 2025 r. Przepisy te dotyczą wszystkich holenderskich przedsiębiorstw, które opracowują, wdrażają lub wykorzystują systemy sztucznej inteligencji w Unii Europejskiej.
Ustawa zakazuje manipulacyjnych systemów sztucznej inteligencji (AI), które wykorzystują techniki podprogowe do wpływania na decyzje, których ludzie normalnie by nie podjęli. Zakazane są również systemy AI wykorzystujące luki w zabezpieczeniach oparte na wieku, niepełnosprawności lub statusie społeczno-ekonomicznym.
Systemy punktacji społecznej, które oceniają jednostki na podstawie ich zachowań społecznych lub cech osobistych, zostaną całkowicie zakazane. Przepisy zabraniają również stosowania ocen ryzyka opartych na sztucznej inteligencji, które przewidują przestępstwa wyłącznie na podstawie profilowania lub analizy cech osobowości, a nie faktów związanych z działalnością przestępczą.
Systemy kategoryzacji biometrycznej, które na podstawie obrazów twarzy lub odcisków palców wnioskowały o rasie, poglądach politycznych, przynależności związkowej, przekonaniach religijnych lub orientacji seksualnej, są niedozwolone. Zdalna identyfikacja biometryczna w czasie rzeczywistym w przestrzeni publicznej jest zabroniona, z wyjątkiem ściśle określonych sytuacji. upoważnienie prawne.
W jaki sposób holenderskie wytyczne dotyczące sztucznej inteligencji z lutego 2025 r. wpływają na prywatność danych i ochronę konsumentów?
Ustawa o sztucznej inteligencji (AI) działa równolegle z obowiązującymi przepisami o ochronie danych, w tym z RODO. Holenderski Urząd Ochrony Danych Osobowych (Holenderski Urząd Ochrony Danych) zapewnia wytyczne dotyczące tego, jak systemy AI muszą przestrzegać przepisów o ochronie danych, w szczególności w zakresie zautomatyzowanego podejmowania decyzji.
Nieukierunkowane pozyskiwanie obrazów twarzy z internetu lub nagrań z kamer w celu tworzenia lub rozbudowy baz danych rozpoznawania twarzy jest zabronione. To ograniczenie chroni prawo do prywatności osób i zapobiega nieautoryzowanemu gromadzeniu danych biometrycznych.
Systemy AI muszą respektować prawa podstawowe przez cały cykl życia. Władze publiczne i podmioty świadczące usługi publiczne muszą przeprowadzić ocenę wpływu na prawa podstawowe w przypadku korzystania z systemów AI wysokiego ryzyka.
Jakich działań wykorzystujących sztuczną inteligencję nie wolno już podejmować holenderskim przedsiębiorstwom ze względu na ostatnie zmiany w przepisach?
Twoja firma nie może korzystać z systemów rozpoznawania emocji w miejscu pracy ani w placówkach edukacyjnych. Systemy te są zakazane niezależnie od deklarowanych korzyści lub zastosowań.
Nie można wdrażać systemów AI, które manipulują ludźmi za pomocą technik podprogowych lub wykorzystują ich słabości. Dotyczy to również systemów, które atakują jednostki ze względu na ich niepełnosprawność, status społeczny lub wiek, aby wpływać na ich zachowanie.
Biometryczne systemy kategoryzacji, które klasyfikują ludzi na podstawie wrażliwych cech, są zabronione. Nie można używać sztucznej inteligencji do wnioskowania o czyjejś rasie, poglądach politycznych, przekonaniach religijnych ani orientacji seksualnej na podstawie danych biometrycznych.
Systemy punktacji społecznej są całkowicie zakazane. Nie można wdrażać sztucznej inteligencji, która ocenia lub klasyfikuje ludzi na podstawie ich zachowań społecznych lub cech osobistych.
Zdalna identyfikacja biometryczna w czasie rzeczywistym w przestrzeniach publicznych jest zabroniona do użytku komercyjnego. Organy ścigania mogą korzystać z takich systemów wyłącznie w ściśle określonych okolicznościach i po uzyskaniu odpowiedniego zezwolenia prawnego.
Jakie kroki muszą podjąć holenderskie przedsiębiorstwa, aby dostosować swoje systemy sztucznej inteligencji do standardów zgodności określonych w lutym 2025 r.?
Musisz zidentyfikować wszystkie systemy AI, z których obecnie korzysta lub które wdraża Twoja organizacja. Inwentaryzacja powinna sklasyfikować każdy system zgodnie z klasyfikacjami ryzyka określonymi w ustawie o AI.
Sprawdź swoje systemy sztucznej inteligencji pod kątem listy zabronionych praktyk. Jeśli korzystasz z zakazanych systemów, musisz je natychmiast wycofać, aby uniknąć kar regulacyjnych.
Udokumentuj cele, źródła danych i procesy decyzyjne swoich systemów AI. Taka dokumentacja pomaga wykazać zgodność i wspiera wszelkie wymagane oceny wpływu.
W przypadku systemów AI wysokiego ryzyka konieczne są dodatkowe środki zgodności. Organy publiczne muszą zarejestrować systemy wysokiego ryzyka w europejskiej bazie danych do 2 sierpnia 2026 r. i przeprowadzić ocenę wpływu na prawa podstawowe.
Przeszkol swój personel w zakresie nowych wymagań i wprowadź wewnętrzne procesy bieżącego monitorowania zgodności. Twój program zgodności powinien obejmować regularne przeglądy systemów AI, aby zapewnić ich zgodność z przepisami.
Czy istnieją jakieś sektorowe zakazy dotyczące sztucznej inteligencji, o których holenderskie firmy powinny wiedzieć po wprowadzeniu nowych przepisów?
Organizacje sektora edukacyjnego podlegają szczególnym ograniczeniom. Nie można używać systemów rozpoznawania emocji do monitorowania uczniów ani oceny ich stanu emocjonalnego, niezależnie od zamierzonych korzyści edukacyjnych.
Środowiska pracy mają podobne ograniczenia. Pracodawcy nie mogą wdrażać sztucznej inteligencji rozpoznającej emocje do monitorowania stanów emocjonalnych i reakcji pracowników podczas wykonywania obowiązków służbowych.
Organy ścigania mają ograniczone wyjątki dotyczące systemów identyfikacji biometrycznej. Wyjątki te wymagają ścisłego zezwolenia prawnego i mają zastosowanie wyłącznie w określonych sytuacjach, takich jak poszukiwanie ofiar porwań, zapobieganie bezpośrednim zagrożeniom lub śledzenie podejrzanych o poważne przestępstwa.
Organy publiczne świadczące usługi publiczne podlegają dodatkowym wymogom wykraczającym poza ogólne zakazy. Należy przeprowadzić ocenę wpływu na prawa podstawowe wszystkich systemów sztucznej inteligencji wysokiego ryzyka i zarejestrować te systemy w europejskiej bazie danych.
Jakie kary grożą za nieprzestrzeganie holenderskich ograniczeń dotyczących sztucznej inteligencji, wprowadzonych w lutym 2025 r.?
Organy regulacyjne mogą nakładać wysokie grzywny za nieprzestrzeganie ustawy o sztucznej inteligencji. Struktura kar opiera się na podejściu wielopoziomowym, zależnym od wagi naruszenia.
Korzystanie z zakazanych systemów AI stanowi najpoważniejszą kategorię naruszeń. Twoja organizacja naraża się na wysokie kary finansowe, jeśli będziesz nadal korzystać z zakazanych systemów po upływie terminu w lutym 2025 r.
Dokładna wysokość kar zależy od tego, czy Twoja organizacja kwalifikuje się jako małe i średnie przedsiębiorstwo, czy jako duża firma. Organy regulacyjne biorą pod uwagę takie czynniki, jak charakter naruszenia, czas jego trwania oraz ewentualne szkody.
Oprócz kar finansowych, nieprzestrzeganie zasad może zaszkodzić reputacji Twojej organizacji. Osoby poszkodowane przez niedozwolone systemy sztucznej inteligencji mogą dochodzić dodatkowych środków zaradczych w drodze postępowania cywilnego.
Holenderski Urząd Ochrony Danych Osobowych i inne organy regulacyjne mają uprawnienia egzekucyjne. Mogą rozpatrywać skargi, przeprowadzać audyty i żądać natychmiastowego zaprzestania niedozwolonych praktyk.
