Zarządzanie algorytmiczne: czy algorytm może ocenić Twoją wydajność?

Zarządzanie algorytmiczne, czyli wykorzystanie systemów sztucznej inteligencji (AI) do monitorowania, oceniania i kierowania pracownikami, jest dozwolone w Holandii, ale tylko w granicach określonych przez firmę. Algorytm może wspierać ocenę wyników, ale nie musi być jedyną podstawą decyzji mających istotny wpływ na pracownika, takich jak zwolnienie, degradacja czy odmowa premii, ponieważ artykuł 22 RODO zastrzega te decyzje dla człowieka, który je rzetelnie analizuje. Ponadto, unijna ustawa o sztucznej inteligencji (AI) klasyfikuje systemy wykorzystywane do monitorowania i oceny pracowników jako systemy wysokiego ryzyka i całkowicie zabrania wykorzystywania sztucznej inteligencji do wnioskowania o emocjach pracowników w miejscu pracy.

Czym właściwie jest zarządzanie algorytmiczne

Zarządzanie algorytmiczne to sytuacja, w której to oprogramowanie, a nie nadzorca, zajmuje się obserwacją, pomiarem i często oceną. Występuje ono w magazynach i centrach dystrybucji, centrach obsługi klienta, w pracy platformowej, a coraz częściej także w zwykłych rolach biurowych, gdzie narzędzia zwiększające produktywność są wbudowane w systemy, z których ludzie już korzystają. Pracodawca nie musi kupować produktu o nazwie „menedżer AI”, aby pojawiły się pytania prawne; wystarczy panel, który automatycznie ocenia pracowników na podstawie zebranych danych.

Taki system dobrze sobie radzi z liczeniem. Rejestruje wykonane zadania, czas obsługi, czas reakcji, przestrzeganie skryptu, godziny spędzone w aplikacji. Nie potrafi jednak zrozumieć, dlaczego liczba uległa zmianie. Pracownik, którego wydajność spada, ponieważ spędził trzy tygodnie na szkoleniu nowego współpracownika, ponieważ zajmował się on jedynym klientem, z którym nikt inny nie mógł sobie poradzić, lub ponieważ praca w tym okresie była wyjątkowo złożona, wygląda w danych tak samo jak pracownik, który po prostu pracował mniej. Ta rozbieżność między pomiarem a znaczeniem jest źródłem niemal każdego sporu prawnego w tej dziedzinie.

Nie chodzi o to, że mierzenie wyników jest niezgodne z prawem. Pracodawcy mają prawo wiedzieć, jak przebiega praca, a rozsądny monitoring jest normalnym elementem prowadzenia działalności gospodarczej. Chodzi o to, że prawo holenderskie i europejskie nakłada warunki na sposób przeprowadzania pomiaru, a przede wszystkim na sposób wykorzystania jego wyników.

Jak te systemy oceniają Twoją wydajność

Zrozumienie mechanizmów jest ważne, ponieważ Twoje prawa wiążą się z konkretnymi etapami procesu. Ogólnie rzecz biorąc, dzieją się trzy rzeczy: dane są gromadzone, model przekształca je w osąd, a ktoś lub coś podejmuje na ich podstawie działanie.

Co system zbiera

Gromadzenie jest zazwyczaj niewidoczne i ciągłe. W środowisku obsługi klienta system może rejestrować liczbę obsłużonych kontaktów, średni czas obsługi, rozwiązywanie problemów za pierwszym razem, czas przestoju między połączeniami oraz przestrzeganie ustalonego schematu. Może pójść dalej i analizować treść: przetwarzanie języka naturalnego stosowane w transkrypcjach wiadomości e-mail i rozmów, wykrywanie słów kluczowych oraz ocenę sentymentu klienta w rozmowie. W logistyce będą to wskaźniki skanowania i szybkość kompletowania; w pracy biurowej – aktywność w narzędziach do współpracy.

Każdy z tych punktów danych to Twoje dane osobowe i każdy musi być uzasadniony. Zgodnie z RODO pracodawca nie może gromadzić wszystkich informacji, które system jest w stanie zebrać; przetwarzanie musi być niezbędne do realizacji określonego celu i proporcjonalne do niego. System, który rejestruje naciśnięcia klawiszy lub okresowo wykonuje zrzuty ekranu w celu ustalenia, kto ciężko pracuje, jest bardzo trudny do obrony jako proporcjonalny, a Autoriteit Persoonsgegevens (holenderski urząd ochrony danych) konsekwentnie krytykuje tego rodzaju powszechny monitoring.

Od reguł do modeli i czarnej skrzynki

Najprostsze systemy opierają się na regułach. Jeśli średni czas obsługi przekroczy ustalony próg więcej niż określoną liczbę razy w tygodniu, pracownik zostaje oznaczony. Taki system jest sztywny i nie uwzględnia kontekstu, ale ma jedną istotną zaletę: można przeczytać regułę i dokładnie zobaczyć, dlaczego został on oznaczony, co umożliwia dyskusję na ten temat.

Modele uczenia maszynowego działają inaczej. Są trenowane na danych historycznych dotyczących tego, kto osiągnął dobre wyniki, a kto nie, i wyciągają wnioski na temat wzorców, które korelują z tymi wynikami. To rozwiązanie jest bardziej wydajne i znacznie mniej przejrzyste. Model może bazować na czymś, co w żaden sposób nie ma związku z wynikami, a ani pracodawca, ani czasami dostawca nie są w stanie precyzyjnie określić, dlaczego dany wynik był taki, a nie inny.

Ta nieprzejrzystość to problem, który zazwyczaj nazywa się problemem czarnej skrzynki i w kontekście prawnym ma on charakter zgubny, a nie jedynie uciążliwy. Pracodawca, który nie potrafi wyjaśnić podstaw oceny, nie może wywiązać się z obowiązku przedstawienia merytorycznych informacji na temat logiki, na której się opiera, nie może skutecznie bronić oceny w przypadku jej zakwestionowania ani wykazać, że nie ma ona charakteru dyskryminującego. W praktyce, jeśli nie potrafisz jej wyjaśnić, nie możesz na niej polegać.

Jakie wymagania RODO stawia systemowi wydajności AI

RODO jest pierwszym i wciąż najbardziej praktycznym instrumentem w tej dziedzinie, ponieważ dotyczy każdego pracodawcy przetwarzającego dane pracowników i jest egzekwowane od lat. Cztery z jego przepisów wykonują większość pracy.

Artykuł 22: brak istotnych decyzji podejmowanych wyłącznie przez maszynę

Artykuł 22 RODO daje każdej osobie prawo do niepodlegania decyzji, która opiera się wyłącznie na zautomatyzowanym przetwarzaniu, w tym profilowaniu, i wywołuje wobec niej skutki prawne lub w podobny sposób istotnie na nią wpływa. Zwolnienie, nieprzedłużenie umowy, obniżenie stanowiska, wstrzymanie premii i odmowa awansu – wszystkie te sytuacje mieszczą się w tym opisie.

Dwa słowa mają znaczenie. Oznacza to jedynie, że człowiek, który jedynie potwierdza propozycje systemu, nie unieważnia decyzji na mocy artykułu 22; organy nadzoru od lat jasno dają do zrozumienia, że ​​„automatyczne zatwierdzanie” nie jest ingerencją człowieka. Sensowne zaangażowanie wymaga recenzenta z uprawnieniami do podjęcia innej decyzji, kompetencjami do oceny sprawy i czasem na to. Określenie „znaczący wpływ” należy rozumieć szeroko i nie wymaga ono formalnych konsekwencji prawnych: system punktacji, który określa, które zmiany lub zadania zostaną Ci zaoferowane, może mieć na Ciebie wystarczająco istotny wpływ, aby zaangażować się w artykuł.

W przypadku zastosowania artykułu 22 pracodawca musi w każdym przypadku zapewnić przewidziane w nim zabezpieczenia: prawo do uzyskania interwencji ludzkiej, wyrażenia swojego punktu widzenia i zakwestionowania decyzji.

Przejrzystość, dostęp i logika, która się za tym kryje

Pracownicy muszą zostać poinformowani przed rozpoczęciem korzystania z systemu o jego istnieniu i działaniu. W przypadku zautomatyzowanego podejmowania decyzji w rozumieniu art. 22, pracodawca musi również udzielić istotnych informacji o logice jego działania oraz o znaczeniu i przewidywanych konsekwencjach przetwarzania. Te same informacje można uzyskać później, składając wniosek o dostęp do danych osobowych, który uprawnia również do otrzymania kopii przetwarzanych danych osobowych: wyników, pomiarów bazowych oraz kategorii przypisanych przez system.

To, co uznaje się za znaczące, zostało ustalone w kierunku treści, a nie formalności. Nie jest to opis technologii, lecz wyjaśnienie, które czynniki zostały wykorzystane i jak się one przełożyły, przedstawione w sposób zrozumiały dla zainteresowanej osoby i umożliwiający jej podjęcie działań.

Podstawa prawna, zgoda i ocena skutków dla ochrony danych

Każda operacja przetwarzania wymaga podstawy prawnej. W kontekście zatrudnienia zgoda rzadko jest użyteczna, właśnie ze względu na zależność między pracodawcą a pracownikiem: zgoda, której nie można odmówić bez konsekwencji, nie jest dobrowolna. Pracodawcy zatem zazwyczaj powołują się na konieczność przetwarzania dla wykonania umowy o pracę, na obowiązek prawny lub na uzasadniony interes, a ten ostatni wymaga udokumentowanego zrównoważenia realizowanego interesu z prywatnością pracowników.

Ponieważ monitorowanie wydajności na taką skalę wiąże się z systematyczną i kompleksową oceną pracowników w oparciu o zautomatyzowane przetwarzanie, ocena skutków dla ochrony danych nie jest opcjonalna. Jest ona wymagana przed uruchomieniem systemu i musi opisywać przetwarzanie, uzasadniać jego konieczność i proporcjonalność, identyfikować ryzyko dla pracowników oraz określać środki zaradcze. Pracodawcy, którzy pomijają ocenę, zazwyczaj odkrywają problemy później, w sporze, gdy decyzji nie da się już skorygować po cichu.

Jak daleko może posunąć się pracodawca w monitorowaniu?

Ocena wyników pracy nie może być oddzielona od monitoringu, który ją napędza, a monitoring ma swoje własne granice. Pracownik nie oddaje swojego życia prywatnego za drzwiami biura: Europejski Trybunał Praw Człowieka orzekł w sprawie Barbulescu przeciwko Rumunii, że monitorowanie komunikacji pracownika wiąże się z prawem do poszanowania życia prywatnego i korespondencji na mocy artykułu 8 Konwencji, a pracodawca musi z wyprzedzeniem poinformować pracownika o charakterze i zakresie monitoringu, musi dążyć do osiągnięcia uzasadnionego celu i wybrać najmniej inwazyjne środki umożliwiające jego osiągnięcie. Ukryty monitoring pracowników ma charakter wyjątkowy i wymaga konkretnego podejrzenia, ograniczonego czasu trwania oraz udokumentowanej oceny, czego nie zapewni żaden łagodniejszy środek.

Przekładając to na projekt zarządzania algorytmicznego, oznacza to, że pracodawca musi być w stanie odpowiedzieć na trzy pytania dotyczące każdego strumienia danych: dlaczego te dane są potrzebne do określonego celu, dlaczego mniej inwazyjny pomiar nie pozwoliłby na jego osiągnięcie oraz czy pracownicy zostali o tym wcześniej poinformowani. Ciągłe nagrywanie ekranu, rejestrowanie naciśnięć klawiszy i śledzenie lokalizacji poza godzinami pracy nie spełniają tych kryteriów w większości typowych warunków zatrudnienia.

Dane dotyczące nieobecności, choroby i kategorii szczególnych

Jedna kategoria zasługuje na szczególną uwagę. Dane ujawniające stan zdrowia należą do kategorii danych szczególnych w rozumieniu RODO i zasadniczo nie mogą być w ogóle przetwarzane, z zastrzeżeniem nielicznych wyjątków. Holenderskie przepisy dotyczące absencji chorobowej są surowe: pracodawca może zarejestrować nieobecność pracownika i jej długość, ale charakter choroby, diagnoza i ograniczenia należą do lekarza zakładowego (bedrijfsarts), a nie do pracodawcy. System oceny wydajności, który wnioskuje o stanie zdrowia na podstawie wzorców absencji, szybkości pisania, przerw lub tonu głosu, przetwarza dane dotyczące stanu zdrowia poprzez wnioskowanie, a fakt, że nikt nie wpisał do niego diagnozy, nie ma znaczenia.

Ta sama ostrożność dotyczy systemów, których wyniki są uzależnione od nieobecności chronionej, takiej jak ciąża, urlop rodzicielski czy urlop opiekuńczy. Jeśli model traktuje te okresy jako okresy słabszej pracy, pracodawca nie tylko przetwarza dane wrażliwe, ale także przekształca przysługujące mu prawo w niekorzyść.

Wyższy szczebel egzekwowania prawa

Naruszenia podstawowych zasad, legalności przetwarzania i praw osób, których dane dotyczą, podlegają najwyższej kategorii kar przewidzianej w artykule 83 RODO, najsurowszej kategorii przewidzianej w rozporządzeniu. Co równie ważne w codziennej praktyce, ocena sporządzona z naruszeniem tych przepisów jest trudna do poparcia w sporze pracowniczym: sąd, który ma rozwiązać umowę o pracę z powodu niewystarczających wyników pracy, będzie chciał ustalić, w jaki sposób te niewystarczające wyniki zostały ustalone.

Co ustawa o sztucznej inteligencji wprowadza dla pracodawców i pracowników

Ustawa UE o sztucznej inteligencji obowiązuje i jest wdrażana etapami, więc pytanie nie brzmi już, czy zostanie wprowadzona, ale które z jej zobowiązań już obowiązują. Dwa z jej poziomów mają tu znaczenie.

Pierwszą z nich jest lista zakazanych praktyk, obowiązująca od samego początku obowiązywania Ustawy. Obejmuje ona przepis skierowany bezpośrednio do miejsca pracy: systemy sztucznej inteligencji wykorzystywane do wnioskowania o emocjach osoby fizycznej w miejscu pracy i instytucjach edukacyjnych są zabronione, chyba że system ma zostać wdrożony lub wprowadzony na rynek ze względów medycznych lub bezpieczeństwa. Oprogramowanie, które ocenia nastrój, poziom stresu, zaangażowanie lub szczerość pracowników na podstawie ich głosu, twarzy lub pisma, nie stanowi zatem problemu związanego ze zgodnością z przepisami, którym należy zarządzać. Jest ono wykluczone, a wąski wyjątek medyczny i bezpieczeństwa nie obejmuje zarządzania produktywnością. Należy uważnie przestrzegać granicy: analiza sentymentu wypowiedzi klienta to co innego niż wnioskowanie o emocjach pracownika.

Drugą warstwą jest system wysokiego ryzyka. Załącznik III do ustawy o sztucznej inteligencji (AI) określa jako systemy wysokiego ryzyka między innymi systemy AI przeznaczone do podejmowania decyzji wpływających na warunki stosunków pracy, awansowanie lub rozwiązywanie takich stosunków, przydzielanie zadań na podstawie indywidualnych zachowań lub cech osobistych oraz monitorowanie i ocenę wydajności i zachowania pracowników. Narzędzie do oceny wydajności AI idealnie wpisuje się w ten opis. W ramach pakietu omnibus cyfrowego daty wejścia w życie obowiązków wysokiego ryzyka dla systemów z załącznika III zostały przesunięte, dzięki czemu pracodawcy mają więcej czasu na przygotowania; zakazy, zasady dotyczące modeli AI ogólnego przeznaczenia oraz obowiązki dotyczące przejrzystości określone w artykule 50 już obowiązują.

Jeden obowiązek zasługuje na osobną wzmiankę, ponieważ pracodawcy notorycznie go ignorują. Podmioty wdrażające, będące pracodawcami, muszą poinformować przedstawicieli pracowników i pracowników, których to dotyczy, przed uruchomieniem w miejscu pracy systemu AI wysokiego ryzyka, zgodnie z obowiązującymi przepisami dotyczącymi informacji i konsultacji. Jest to obowiązek informacyjny, który jest równoległy z obowiązkami przejrzystości wynikającymi z RODO oraz z prawa rady zakładowej wynikającymi z prawa holenderskiego, ale ich nie zastępuje. Aby zapoznać się z pełnym omówieniem ustawy i jej harmonogramem, zapoznaj się z naszym artykułem na temat prawnych aspektów sztucznej inteligencji i unijnej ustawy o sztucznej inteligencji.

Kto ponosi odpowiedzialność: dostawca czy pracodawca?

Pracodawcy często zakładają, że skoro oprogramowanie zostało zakupione od wyspecjalizowanego dostawcy, to on ponosi ryzyko prawne. Żaden z systemów nie rozdziela w ten sposób odpowiedzialności.

Zgodnie z RODO pracodawca decyduje, dlaczego i w jaki sposób przetwarzane są dane pracowników, a zatem jest administratorem. Dostawca, który obsługuje system na polecenie pracodawcy, jest podmiotem przetwarzającym, a relacje te muszą zostać określone w umowie o przetwarzaniu, ale to pracodawca ma obowiązek przejrzystości, zgodności z prawem i nadzoru nad ludźmi wobec swoich pracowników, a także odpowiada przed Autoriteit Persoonsgegevens i samymi pracownikami.

Ustawa o sztucznej inteligencji (AI) wyznacza porównywalną granicę między dostawcą, który opracowuje system AI i wprowadza go na rynek, a wdrażającym, który korzysta z niego na podstawie własnego upoważnienia. Pracodawca korzystający z zakupionego narzędzia jest zazwyczaj wdrażającym i ponosi odpowiedzialność za wdrażanie, w tym za korzystanie z systemu zgodnie z instrukcjami, zapewnienie odpowiedniego poziomu nadzoru ze strony osób posiadających niezbędne kompetencje i uprawnienia, monitorowanie jego działania oraz informowanie pracowników. Pracodawca, który podpisuje system swoją nazwą, modyfikuje go w sposób istotny lub zmienia jego przeznaczenie, może zostać dostawcą i przyjąć na siebie znacznie bardziej rygorystyczne obowiązki związane z tą rolą.

Praktyczną konsekwencją dla zamówień publicznych jest to, że umowę należy czytać z uwzględnieniem tych ról. Pracodawca oczekuje od dostawcy dostarczenia informacji umożliwiających zgodność z przepisami i powinien podchodzić sceptycznie do każdego produktu, który nie potrafi wyjaśnić swoich własnych wyników, ponieważ obowiązek wyjaśnienia spocznie na pracodawcy niezależnie od tego, co stanowi licencja.

Praca na platformie: dodatkowa warstwa zasad

Dla osób pracujących za pośrednictwem cyfrowych platform pracy przygotowywany jest kolejny instrument. Dyrektywa (UE) 2024/2831 w sprawie poprawy warunków pracy w sektorze pracy platformowej poświęca cały rozdział zarządzaniu algorytmicznemu. Zobowiązuje ona platformy do informowania pracowników o zautomatyzowanych systemach monitorowania i podejmowania decyzji, które znacząco wpływają na ich warunki pracy, ogranicza przetwarzanie niektórych kategorii danych, w tym danych dotyczących stanu emocjonalnego i psychicznego oraz danych dotyczących prywatnych rozmów, wymaga nadzoru człowieka nad skutkami działania tych systemów oraz daje pracownikom prawo do wyjaśnienia i kontroli istotnych decyzji, takich jak ograniczenie lub zawieszenie konta. Co istotne, wiele z tych zabezpieczeń ma zastosowanie do osób wykonujących pracę platformową, niezależnie od tego, czy kwalifikują się jako pracownicy.

Państwa członkowskie mają obowiązek transponować dyrektywę do 2 grudnia 2026 r. Do czasu wejścia w życie krajowych przepisów wdrażających, RODO i ustawa o sztucznej inteligencji pozostają przepisami wykonawczymi, a ich wymogi obejmują już w dużej mierze te same obszary.

Holenderskie prawo pracy: algorytm nie może zakończyć umowy

Europejskie przepisy dotyczące ochrony danych i sztucznej inteligencji regulują sposób działania systemu. Holenderskie prawo pracy reguluje, co pracodawca może zrobić z wynikami swoich działań i jest znacznie bardziej rygorystyczne, niż zakłada większość projektów zarządzania algorytmicznego.

Pracodawca w Holandii nie może po prostu rozwiązać umowy o pracę. Zwolnienie wymaga uzasadnionej przyczyny wymienionej w artykule 7:669 holenderskiego Kodeksu Cywilnego oraz uprzedniej zgody UWV lub orzeczenia kantonrechter (sądu rejonowego), w zależności od przyczyny. Niewydolność pracownika jest jedną z takich przyczyn i jest to wymagające. Pracodawca musi wykazać, że pracownik nie nadaje się na dane stanowisko, że został o tym poinformowany z odpowiednim wyprzedzeniem i że zaoferowano mu rzeczywistą możliwość poprawy, a w razie potrzeby również wsparcie. Odczyt danych z pulpitu nawigacyjnego nie jest procesem doskonalenia, a sąd zapyta, co zostało omówione, kiedy i jakiej pomocy udzielono. Nasz przewodnik po holenderskim prawie pracy szczegółowo opisuje ramy zwolnienia.

Prawo antydyskryminacyjne ma zastosowanie do rezultatu, a nie do intencji. Jeśli system dyskryminuje pracowników ze względu na płeć, rasę, wiek, religię, niepełnosprawność lub chorobę przewlekłą, jest niezgodny z prawem na mocy ustawy Algemene wet gelijke behandeling (ogólnej ustawy o równym traktowaniu) oraz szczegółowych przepisów o równym traktowaniu w odniesieniu do wieku i niepełnosprawności, niezależnie od tego, czy ktokolwiek miał taki zamiar. Winowajcą są zazwyczaj historyczne dane dotyczące szkoleń: model oparty na awansach w przeszłości będzie odtwarzał preferencje z przeszłości. Systemy mierzące surową dostępność lub wydajność w czasie często karzą również pracowników, którzy korzystali z urlopu rodzicielskiego, pracowali w skróconym wymiarze godzin lub byli nieobecni z powodu choroby, a karanie pracownika za korzystanie z przysługującego mu prawa jest właśnie tym, czego zabrania prawo o równym traktowaniu.

Rada zakładowa musi wyrazić zgodę

W firmie, w której funkcjonuje rada zakładowa, pracodawca potrzebuje czegoś więcej niż tylko dobrych intencji. Artykuł 27 Wet op de ondernemingsraden (ustawy o radach zakładowych) wymaga zgody ondernemingsraad (rady zakładowej) na przyjęcie, zmianę lub wycofanie ustaleń, w tym dotyczących oceny pracowników, przetwarzania i ochrony danych osobowych pracowników oraz infrastruktury mającej na celu lub odpowiedniej do obserwacji lub monitorowania obecności, zachowania lub wydajności pracowników. System sztucznej inteligencji (AI) wykorzystuje wszystkie trzy elementy jednocześnie.

Zgoda w tym przypadku nie jest formalnością. Decyzja podjęta bez wymaganej zgody może zostać uznana przez radę zakładową za nieważną, a pracodawca może zostać pozbawiony możliwości jej wdrożenia. Dla pracowników, którzy czują się zmuszeni do narzucenia im systemu, rada zakładowa jest często najszybszą i najskuteczniejszą drogą do zmiany, na długo zanim ktokolwiek pomyśli o postępowaniu sądowym.

Co do tej pory orzekły sądy

Orzecznictwo wciąż się rozwija, jednak dwa orzeczenia holenderskie już wyznaczyły kierunek postępowania i oba są cytowane także poza Holandią.

Wyroki w sprawie Ubera i Oli

W dniu 4 kwietnia 2023 r. Gerechtshof Amsterdam (Amsterdam Sąd Apelacyjny (Court of Appeal) wydał orzeczenie w serii spraw wniesionych przez kierowców przeciwko Uberowi i Oli. Kierowcy chcieli wiedzieć, dlaczego ich konta zostały dezaktywowane oraz w jaki sposób przydzielano im pracę i ceny. Sąd orzekł w dużej mierze na ich korzyść w kwestii punktów informacyjnych. Kierowcy, którzy utracili dostęp do platformy, a wraz z nią dochody, zostali znacząco dotknięci zautomatyzowanym podejmowaniem decyzji, a firmy nie mogły zataić wyjaśnień, powołując się na tajemnice handlowe lub ryzyko manipulacji bez uzasadnienia tego sprzeciwu.

Sąd wymagał konkretów: nie ogólnego opisu technologii, ale informacji o zastosowanych czynnikach i nadanej im wadze, aby osoba zainteresowana mogła zrozumieć i zakwestionować wynik. To standard, który pracodawcy powinni zakładać również w odniesieniu do algorytmu wydajności. Jeśli Twoja odpowiedź na pytanie, dlaczego uzyskałem zły wynik, brzmi, że to model go ustalił, to nie spełniłeś standardu.

Wyrok SyRI

Druga sprawa nie dotyczyła sporu pracowniczego, lecz jej uzasadnienie sięgało kwestii związanych z miejscem pracy. W wyroku z 5 lutego 2020 r. (ECLI:NL:RBDHA:2020:865) Rechtbank Den Haag (Sąd Rejonowy w Hadze) orzekł, że przepisy leżące u podstaw SyRI, rządowego systemu wskazywania ryzyka wykorzystywanego do wykrywania oszustw zasiłkowych i podatkowych, nie spełniają wymogów artykułu 8 Europejskiej Konwencji Praw Człowieka. System był niewystarczająco przejrzysty i weryfikowalny: nikt z zewnątrz nie mógł ustalić, w jaki sposób dana osoba została oznaczona, co uniemożliwiało obronę.

Zasada jest ogólna. Systemu, którego działania nie można zbadać, nie można zakwestionować, a decyzja, której nie można zakwestionować, nie jest decyzją sprawiedliwą. Pracodawca, który chce oprzeć oceny na modelu, którego ani pracownik, ani pracodawca nie potrafią wyjaśnić, opiera się na tym samym założeniu, które w tamtym przypadku zawiodło. Kwestie odpowiedzialności za zautomatyzowane działania wykraczają poza samo prawo pracy, jak pokazuje nasz artykuł na temat sztucznej inteligencji i prawa karnego.

Twoje prawa, jeśli algorytm Cię ocenia

Jeśli Twoja ocena odbywa się za pomocą systemu sztucznej inteligencji, posiadasz konkretne i egzekwowalne prawa i nie musisz udowadniać, że system się myli, aby móc z nich skorzystać.

Możesz zapytać, jakie dane na Twój temat są przechowywane i uzyskać ich kopię, w tym pomiary stanowiące podstawę oceny i uzyskane na ich podstawie wyniki. Możesz poprosić o istotne informacje dotyczące logiki systemu, czynników, które się liczą, i ich wagi. W przypadku gdy decyzja o istotnym wpływie została podjęta automatycznie, możesz poprosić o interwencję człowieka, przedstawić własny punkt widzenia i zakwestionować decyzję. Możesz zlecić korektę nieprawidłowych danych, co ma większe znaczenie, niż się wydaje: wiele z tego, co rejestrują te systemy, jest po prostu błędne, od błędnie zarejestrowanych nieobecności po pracę przypisaną niewłaściwej osobie.

Jak w praktyce kwestionować automatyczną ocenę

Zacznij od udokumentowania swojego stanowiska, zanim je przedstawisz. Zwróć uwagę na konkretne prace pominięte w ocenie, okresy, w których okoliczności były nietypowe, oraz wszelkie nieobecności, urlopy lub przeniesienia, które mogłyby obniżyć wyniki z przyczyn niezwiązanych z Twoimi wynikami. Aktualne notatki są o wiele cenniejsze niż rekonstrukcja sześć miesięcy później.

Następnie złóż wniosek na piśmie do swojego pracodawcy, oświadczając, że korzystasz z praw przysługujących Ci na mocy RODO, prosząc o dane wykorzystane w ocenie i wyjaśnienie logiki, a także o weryfikację przez osobę uprawnioną do wyciągnięcia innych wniosków. Wyznacz rozsądny termin; RODO wymaga od pracodawcy odpowiedzi w ciągu jednego miesiąca, który w skomplikowanych przypadkach może zostać wydłużony. Zachowaj rzeczowy ton, ponieważ taka korespondencja często staje się dowodem.

Jeśli pracodawca nie zareaguje odpowiednio, możesz złożyć skargę do Urzędu ds. Ochrony Danych Osobowych (Autoriteit Persoonsgegevens) i wnieść spór do sądu. W przypadku, gdy ocena jest podstawą zwolnienia lub zmiany warunków zatrudnienia, droga zatrudnienia jest zazwyczaj bardziej efektywna i wiąże się z krótkimi terminami, dlatego zasięgnij porady jak najszybciej. Nasz artykuł na temat ochrony danych osobowych w ramach RODO w dobie sztucznej inteligencji i dużych zbiorów danych wyjaśnia podstawowe ramy prawne.

Co powinien zrobić pracodawca przed włączeniem systemu

Dla pracodawców przestrzeganie przepisów w tym obszarze jest głównie kwestią kolejności. Prawie każdy poważny problem pojawia się dlatego, że najpierw zakupiono i wdrożono system, a pytania prawne zadawano dopiero później.

Zacznij od celu. Zapisz, co organizacja faktycznie chce osiągnąć i na jakie decyzje będzie miał wpływ system, ponieważ wszystko inne wynika z tego: dane, które można uzasadnić, podstawa prawna, ocena ryzyka i wymagany poziom nadzoru ludzkiego. System zakupiony w celu usprawnienia planowania, a następnie po cichu wykorzystywany do tworzenia akt zwolnień, to klasyczna droga do nielegalnego przetwarzania.

Przeprowadź ocenę skutków dla ochrony danych przed wdrożeniem, a nie jako dokument sporządzany później w celu uzasadnienia już podjętej decyzji, i zapisz jej wynik. Ustal i udokumentuj podstawę prawną, pamiętając, że zgoda pracownika rzadko jest ważna. Sprawdź, czy system należy do kategorii wysokiego ryzyka w rozumieniu ustawy o sztucznej inteligencji (AI Act), a jeśli tak, określ obowiązki ciążące na wdrożeniowcu, w tym obowiązek informowania przedstawicieli pracowników i pracowników, których dotyczy problem. Uzyskaj zgodę rady zakładowej, jeśli ma zastosowanie artykuł 27 ustawy o radach zakładowych, i zaangażuj ją wystarczająco wcześnie, aby jej wkład mógł coś zmienić.

Następnie zaprojektuj nadzór wymagany przez artykuł 22 i sprawdź, czy jest on realny. Zapytaj, kto weryfikuje wyniki, czy ta osoba może je uchylić bez konieczności uzasadniania odstępstwa przełożonemu, czy ma kontekst do oceny i czy ma na to czas. Jeśli uczciwie odpowiadasz, że weryfikator przetwarza sto spraw dziennie, organizacja nie ma nadzoru ludzkiego; ma podpis.

Wreszcie, testuj wyniki, a nie intencje. Przeprowadź audyt wyników systemu pod kątem cech chronionych i trybu pracy, zwracając szczególną uwagę na pracowników pracujących w niepełnym wymiarze godzin, którzy skorzystali z urlopu lub byli chorzy. Zapewnij pracownikom jasną drogę do kwestionowania oceny i rejestruj, co się dzieje z tymi zastrzeżeniami. Zachowaj dokumentację, ponieważ ciężar wykazania zgodności spoczywa na pracodawcy, a w przypadku sporu akta stanowią linię obrony.

Gdzie to cię zostawia?

Zarządzanie algorytmiczne nie jest zakazane i nie zniknie. Prawo wyznacza granicę między pomiarem a osądem. Systemy mogą liczyć, porównywać i sygnalizować; ludzie muszą podejmować decyzje, wyjaśniać je i brać na siebie odpowiedzialność. Pracownicy mają prawo wiedzieć, że są oceniani przez taki system, rozumieć, co mierzy, i mieć możliwość ponownego przyjrzenia się każdej decyzji, która ma na nich istotny wpływ. Pracodawcy, którzy akceptują taki podział obowiązków, mogą korzystać z tych narzędzi z pełnym przekonaniem. Ci, którzy pozwolą, aby panel decydował, przekonają się, że ani Urząd ds. Zarządzania Personelem, ani Kantonrechter nie uznają wyników za substytut właściwej oceny.

Law & More Doradzamy pracodawcom w zakresie wdrażania sztucznej inteligencji (AI) w zarządzaniu wydajnością, od oceny wpływu i procedury rady zakładowej po projektowanie nadzoru przez człowieka, a także doradzamy pracownikom, którzy spotykają się z automatyczną oceną, którą uważają za niesprawiedliwą. Jeśli algorytm jest wykorzystywany do oceny Twojej pracy lub pracy Twojego personelu, chętnie omówimy z Tobą stanowisko.

Często zadawane pytania dotyczące ocen wydajności sztucznej inteligencji