Zabronione praktyki sztucznej inteligencji: czego ustawa o sztucznej inteligencji zabrania holenderskim przedsiębiorstwom

Zabronione praktyki AI

Od 2 lutego 2025 r. unijna ustawa o sztucznej inteligencji (rozporządzenie (UE) 2024/1689) zakazuje w całej UE, w tym w Holandii, kilku praktyk związanych ze sztuczną inteligencją: manipulacji, wykorzystywania osób bezbronnych, oceny społecznej, rozpoznawania emocji w pracy i szkołach, niektórych zastosowań biometrycznych oraz nieukierunkowanego scrapowania twarzy. Nie obowiązuje okres przejściowy, a zakaz dotyczy zarówno firm rozwijających sztuczną inteligencję, jak i tych, które wyłącznie z niej korzystają.

Zakaz dotyczy użytkowania, a nie technologii. To samo oprogramowanie do rozpoznawania twarzy może być legalne w celu kontroli dostępu do serwerowni i zabronione w innych celach. Ta strona wyjaśnia każdą zakazaną praktykę, kto egzekwuje zakaz w Holandii i co Twoja firma powinna teraz zrobić.

Jakie praktyki AI są zakazane?

Lista zakazanych praktyk zawarta w artykule 5 ustawy o AI zawiera osiem kategorii. Większość z nich ma zastosowanie tylko wtedy, gdy praktyka powoduje lub istnieje uzasadnione prawdopodobieństwo, że spowoduje znaczną szkodę lub gdy jest ukierunkowana na określone cele.

Techniki manipulacyjne lub oszukańcze

Nie wolno używać sztucznej inteligencji, która stosuje podprogowe, celowo manipulacyjne lub zwodnicze techniki w celu istotnego zniekształcenia czyjegoś zachowania w sposób, który powoduje lub może spowodować znaczną szkodę. Należy tu wymienić ukryte podpowiedzi lub schematy, które nakłaniają konsumentów do podejmowania decyzji, których inaczej by nie podjęli. Zwykła, transparentna personalizacja ofert nie jest objęta ochroną. Wprowadzające w błąd praktyki handlowe mogą również naruszać holenderskie prawo konsumenckie dotyczące nieuczciwych praktyk handlowych.

Wykorzystywanie luk w zabezpieczeniach

Sztuczna inteligencja nie może wykorzystywać słabości ludzi wynikających z ich wieku, niepełnosprawności lub szczególnej sytuacji społecznej lub ekonomicznej, w celu lub w celu istotnego zniekształcenia ich zachowania i wyrządzenia im znacznej szkody. Przykładami są systemy, które wykorzystują brak doświadczenia dzieci lub nakłaniają osoby w trudnej sytuacji finansowej do zaciągania drogich kredytów.

Punktacja społeczna

Ocenianie lub klasyfikowanie osób na przestrzeni czasu na podstawie ich zachowań społecznych lub cech osobistych jest zabronione, jeśli wynik prowadzi do niekorzystnego traktowania w kontekście niezwiązanym z daną sytuacją lub traktowania, które jest nieuzasadnione lub nieproporcjonalne. Zakaz dotyczy zarówno organów publicznych, jak i przedsiębiorstw prywatnych. Zwykłe kontrole kredytowe oparte na istotnych danych finansowych nie są punktacją społeczną, ale mogą być obarczone wysokim ryzykiem.

Przewidywanie przestępstw na podstawie profilowania

Sztucznej inteligencji nie można wykorzystywać do oceny ryzyka popełnienia przestępstwa przez daną osobę wyłącznie na podstawie profilowania lub cech osobowości. Systemy wspierające ludzką ocenę opartą na obiektywnych, weryfikowalnych faktach związanych z działalnością przestępczą nie podlegają temu zakazowi.

Nieukierunkowane zbieranie obrazów twarzy

Tworzenie lub rozszerzanie baz danych rozpoznawania twarzy poprzez nieukierunkowane pozyskiwanie wizerunków twarzy z internetu lub nagrań z monitoringu jest zabronione. Zakup dostępu do takiej bazy danych może skutkować dopuszczeniem się zabronionej praktyki.

Rozpoznawanie emocji w pracy i edukacji

Nie wolno używać sztucznej inteligencji do wnioskowania o emocjach osób w miejscu pracy lub placówkach edukacyjnych, z wyjątkiem sytuacji medycznych lub ze względów bezpieczeństwa, takich jak wykrywanie zmęczenia u kierowcy. Dotyczy to narzędzi HR, które analizują mimikę twarzy lub głos podczas rozmów kwalifikacyjnych, oraz oprogramowania call center, które ocenia emocje pracowników. Jeśli planujesz monitoring miejsca pracy, wymagana jest również zgoda rady zakładowej na podstawie art. 27(1)(l) Ustawy o radach zakładowych (WOR).

Kategoryzacja biometryczna cech wrażliwych

Sztuczna inteligencja nie może kategoryzować osób na podstawie danych biometrycznych w celu ustalenia ich rasy, poglądów politycznych, przynależności do związków zawodowych, przekonań religijnych lub filozoficznych, życia seksualnego lub orientacji seksualnej. Etykietowanie lub filtrowanie legalnie pozyskanych zbiorów danych biometrycznych w organach ścigania stanowi wyjątek.

Zdalna identyfikacja biometryczna w czasie rzeczywistym przez policję

Rozpoznawanie twarzy w czasie rzeczywistym w przestrzeniach publicznych jest zabronione dla organów ścigania, z wyjątkiem ściśle określonych przypadków, takich jak poszukiwanie ofiar porwań lub handlu ludźmi, zapobieganie bezpośredniemu zagrożeniu życia lub atakowi terrorystycznemu oraz lokalizowanie osób podejrzanych o popełnienie poważnych przestępstw. Każde użycie wymaga uprzedniej zgody organu sądowego lub niezależnego organu administracyjnego. W przypadku firm najważniejsze jest to, że wyjątek dotyczy wyłącznie organów ścigania.

Grupa profesjonalistów biznesowych w nowoczesnym biurze prowadzi dyskusję przy stole konferencyjnym z ekranami cyfrowymi i widokiem miasta w tle.

Kto musi się podporządkować?

Wszyscy w łańcuchu: dostawcy, którzy opracowują lub wprowadzają na rynek system AI, firmy wdrażające go w swojej działalności, a także importerzy i dystrybutorzy. Zakup narzędzia od dostawcy nie zwalnia Cię z odpowiedzialności jako użytkownika.

Ustawa o sztucznej inteligencji ma również zastosowanie do dostawców spoza UE, gdy wyniki ich systemu są wykorzystywane w UE. Umowy z dostawcami sztucznej inteligencji powinny zatem zawierać gwarancję, że system nie jest wykorzystywany do niedozwolonych celów, oraz prawo do rozwiązania umowy, jeśli okaże się, że tak jest.

Grupa profesjonalistów biznesowych w nowoczesnym biurze dyskutuje o przepisach dotyczących sztucznej inteligencji, siedząc przy laptopach i oglądając dokumenty na stole konferencyjnym. Przez duże okna widać panoramę miasta z holenderską architekturą.

Kto egzekwuje zakaz w Holandii?

Holenderska ustawa wyznaczająca organy nadzoru na mocy ustawy o sztucznej inteligencji (Uitvoeringswet AI-verordening) jest nadal projektem ustawy. Planowana struktura opiera się na istniejących organach nadzoru sektorowego, z holenderskim Urzędem Ochrony Danych Osobowych (Autoriteit Persoonsgegevens, AP) w obszarach bez organu nadzoru sektorowego oraz holenderskim Urzędem ds. Infrastruktury Cyfrowej (RDI) jako koordynatorem.

Brak aktu wykonawczego nie czyni niedozwolonej praktyki zgodną z prawem. Większość niedozwolonej praktyki wiąże się również z bezprawnym przetwarzaniem danych osobowych w rozumieniu RODO , a Urząd Ochrony Danych Osobowych może egzekwować RODO już dziś. Komisja Europejska opublikowała niewiążące wytyczne dotyczące niedozwolonej praktyki 4 lutego 2025 r.; ostateczna decyzja w sprawie interpretacji należy do Trybunału Sprawiedliwości UE.

Jakie są sankcje?

Naruszenie zakazu pociąga za sobą najwyższy pułap grzywny określony w ustawie o sztucznej inteligencji: ustaloną kwotę maksymalną lub procent całkowitego rocznego obrotu światowego, w zależności od tego, która kwota jest wyższa. Niższe pułapy mają zastosowanie do innych naruszeń oraz do przekazywania organowi nieprawdziwych informacji, a niższe limity dotyczą małych i średnich przedsiębiorstw.

Osoba poszkodowana przez niedozwolony system może również dochodzić odszkodowania w holenderskich sądach cywilnych, na przykład z tytułu czynu niedozwolonego (onrechtmatige daad, art. 6:162 holenderskiego kodeksu cywilnego). Proponowana dyrektywa UE w sprawie odpowiedzialności za sztuczną inteligencję została wycofana, więc zastosowanie ma zwykłe holenderskie prawo o odpowiedzialności.

Grupa ludzi biznesu w nowoczesnym biurze dyskutuje o przepisach dotyczących sztucznej inteligencji przy stole z urządzeniami cyfrowymi i dużym ekranem wyświetlającym grafiki związane ze sztuczną inteligencją.

Co powinieneś teraz zrobić?

Zacznij od inwentaryzacji każdego używanego systemu AI, w tym funkcji AI wbudowanych w oprogramowanie, które już posiadasz, takie jak narzędzia HR, marketingowe czy bezpieczeństwa. Następnie przetestuj każde zastosowanie w ośmiu powyższych kategoriach.

  • Rejestruj dla każdego systemu jego cel, dane wejściowe, dane wyjściowe i osoby, na które ma wpływ.
  • Natychmiast zaprzestań jakiegokolwiek niedozwolonego użycia i zapisz, kiedy i w jaki sposób to zrobiłeś.
  • Zapytaj dostawców na piśmie, czy ich system obejmuje rozpoznawanie emocji, kategoryzację biometryczną lub zeskanowane dane twarzy.
  • Zachowaj swoje oceny, aby móc pokazać przełożonemu, co sprawdziłeś i kiedy.

Czy obowiązek znajomości sztucznej inteligencji ma również zastosowanie?

Tak. Od tej samej daty, 2 lutego 2025 r., dostawcy i firmy wdrażające muszą podjąć działania w celu zapewnienia, że ​​personel obsługujący lub korzystający z systemów AI posiada wystarczający poziom wiedzy z zakresu AI. Dotyczy to wszystkich systemów AI, nie tylko tych wysokiego ryzyka.

Szkolenie powinno być dostosowane do roli: dział HR musi rozpoznawać niedozwoloną funkcję rozpoznawania emocji w narzędziu rekrutacyjnym, a dział zakupów musi zadawać odpowiednie pytania dostawcom. Prowadź dokumentację dotyczącą tego, kto, kiedy i z czego został przeszkolony.

Na co powinna zwrócić uwagę firma wykorzystująca sztuczną inteligencję?

  • Czy jakieś narzędzie pozwala wywnioskować emocje pracowników lub kandydatów do pracy?
  • Czy istnieje jakiś system oceniający zachowania klientów, które nie mają związku ze świadczoną przez Państwa usługą?
  • Czy jakiekolwiek narzędzie marketingowe jest skierowane do osób w podeszłym wieku, niepełnosprawnych lub znajdujących się w trudnej sytuacji finansowej w sposób, który może im zaszkodzić?
  • Czy korzystasz z bazy danych umożliwiającej rozpoznawanie twarzy? Czy wiesz, w jaki sposób została ona zbudowana?
  • Czy przeszkoliłeś personel w zakresie rozpoznawania niedozwolonych zastosowań?

Na co powinieneś zwrócić uwagę jako dostawca sztucznej inteligencji?

  • Czy Twój produkt można skonfigurować do niedozwolonego użytku i czy warunki zabraniają takiego użycia?
  • Czy Twój produkt wyciąga wnioski na temat emocji lub wrażliwych cech na podstawie danych biometrycznych?
  • Czy jakiekolwiek dane szkoleniowe uzyskano poprzez nieskierowane zbieranie obrazów twarzy?
  • Czy instrukcja użytkowania wyjaśnia, jakie zastosowania są niedozwolone?
  • Czy udokumentowałeś swoją ocenę pod kątem niedozwolonych praktyk?

Co możemy dla Ciebie zrobić w związku z zakazanymi praktykami dotyczącymi sztucznej inteligencji?

Nasi prawnicy specjalizujący się w IT pomagają przedsiębiorstwom sprawdzać zgodność wykorzystania sztucznej inteligencji z Ustawą o sztucznej inteligencji oraz rozporządzeniem RODO.

  • Oceniamy Twój inwentarz sztucznej inteligencji pod kątem niedozwolonych praktyk i kategorii wysokiego ryzyka.
  • Sprawdzamy umowy z dostawcami i dodajemy gwarancje oraz prawa do rozwiązania umowy w przypadku niedozwolonego użycia.
  • Przygotujemy dla Ciebie wewnętrzną politykę dotyczącą sztucznej inteligencji oraz program edukacji w zakresie sztucznej inteligencji.
  • Doradzamy w zakresie pozycji RODO w tych samych systemach, w których egzekwowanie przepisów jest już możliwe.
  • Pomagamy Państwu w dochodzeniach i śledztwach prowadzonych przez AP lub nadzorcę sektorowego.

Podsumowanie

  • Od 2 lutego 2025 r. ustawa o sztucznej inteligencji zakazuje ośmiu kategorii praktyk związanych ze sztuczną inteligencją, bez okresu przejściowego.
  • Zakaz dotyczy dostawców i przedsiębiorstw, które wykorzystują wyłącznie sztuczną inteligencję.
  • Rozpoznawanie emocji jest zakazane w pracy i edukacji, chyba że wymagają tego względy medyczne lub bezpieczeństwa.
  • Holenderski akt wykonawczy jest nadal projektem ustawy, ale AP może już działać w ramach RODO.
  • Za niedozwolone praktyki grozi najwyższa grzywna zgodnie z ustawą o AI; osoby poszkodowane mogą również ubiegać się o odszkodowanie.

PYTANIA I ODPOWIEDZI

Od kiedy tego typu praktyki z wykorzystaniem sztucznej inteligencji są zakazane?

Od 2 lutego 2025 r. Zakaz obowiązuje bezpośrednio we wszystkich państwach członkowskich UE, w tym w Holandii, bez okresu przejściowego.

Czy rozpoznawanie emocji jest zawsze zabronione?

Nie. Jest to zabronione w miejscu pracy i placówkach edukacyjnych, z wyjątkiem sytuacji, gdy wymagają tego względy medyczne lub bezpieczeństwa. Poza tymi miejscami nie jest to zabronione, ale jest to użycie wysokiego ryzyka, w związku z czym obowiązuje RODO.

Czy sprawdzenie zdolności kredytowej jest formą niedozwolonej oceny społecznej?

Zwykle nie. Weryfikacja kredytowa oparta na istotnych danych finansowych nie jest oceną społeczną, ale ocena kredytowa osób fizycznych jest działaniem wysokiego ryzyka w rozumieniu ustawy o sztucznej inteligencji.

Kto może nałożyć karę na moją firmę za korzystanie z niedozwolonego systemu sztucznej inteligencji?

Po wejściu w życie holenderskiego aktu wykonawczego wyznaczone organy nadzoru rynku. Do tego czasu holenderski Urząd Ochrony Danych Osobowych (AP) może działać zgodnie z RODO w zakresie przetwarzania danych osobowych.

Toma Meevisa
Tom Meevis jest prawnikiem w Law & More in Eindhoven oraz AmsterdamZajmuje się ogólną praktyką prawniczą, jest negocjatorem i pełnomocnikiem procesowym firmy.

Masz pytanie dotyczące prawa IT lub prywatności?

Wyślij nam kilka słów na temat swojego pytania na adres e-mail: info@lawandmore.nlPoinformujemy Cię, czy możemy Ci pomóc i jaki jest Twój następny krok. Nie oceniamy spraw ani dokumentów drogą mailową bez wcześniejszego kontaktu.

Czy chcesz, aby prawnik IT ocenił Twoją sytuację? W ramach płatnej konsultacji w cenie 300 EUR z VAT otrzymasz precyzyjną odpowiedź na swoje pytanie.

Niniejszy artykuł zawiera ogólne informacje i nie zastępuje porady dotyczącej konkretnej sytuacji.

Powiązane artykuły

W Holandii alimenty małżeńskie (partneralimentatie) wygasają z mocy prawa w momencie ponownego zawarcia związku małżeńskiego przez osobę otrzymującą alimenty, zawarcia

Jeśli Twoja holenderska firma korzysta ze sztucznej inteligencji przetwarzającej dane osobowe, w jej przypadku zastosowanie ma RODO (AVG).

Po naruszeniu danych w Holandii organizacja, która decyduje o przyczynach i sposobie naruszenia danych,

System sztucznej inteligencji nie może być wynalazcą ani na mocy prawa holenderskiego, ani na mocy prawa europejskiego.

Przedsiębiorstwo, które akceptuje, przechowuje lub płaci kryptoaktywami, podejmuje ryzyko prawne, które

Dane osobowe możesz udostępniać wyłącznie na mocy RODO, jeśli posiadasz podstawę prawną