AI w pracy wymaga zorganizowanej możliwości sprzeciwu
System może planować grafik, porządkować kandydatury lub podsumowywać wyniki. Może przez to wpływać na dochód, szanse i obciążenie pracą. Ta opinia nie postuluje powszechnego zakazu AI. Opowiada się za tym, by organizacje z góry ustalały, jak pracownik może doprowadzić do zbadania błędnej informacji, nierozsądnej normy lub pominiętego kontekstu. Przycisk zatwierdzenia przez człowieka nie zawsze wystarcza.
To jest opinia redakcyjna. Wniosek stanowi uzasadnione stanowisko, a nie osobistą poradę prawną.
Wynik punktowy może ukrywać założenia
Wskaźnik produktywności sprawia wrażenie precyzyjnego, ale zależy od wybranej metody pomiaru. Liczba załatwionych spraw niewiele na przykład mówi bez uwzględnienia ich trudności i jakości. Algorytm może stosować takie założenia na dużą skalę, a pracownicy nie widzą wybranej normy. Autoriteit Persoonsgegevens wskazuje zagrożenia dla autonomii, obciążenia pracą i sprawiedliwych relacji przy zarządzaniu algorytmicznym. Nasz redakcyjny wniosek jest taki, że organizacja powinna umieć wyjaśnić kryteria, zanim wykorzysta wynik w rozmowach o pracy, wynagrodzeniu lub możliwościach wykonywania zadań.
Ocena człowieka wymaga czasu i uprawnień
Kierownik, który jedynie zatwierdza zalecenie systemu, stanowi niewielką przeciwwagę merytoryczną. Rzeczywista ocena wymaga dostępu do istotnych danych, znajomości ograniczeń i prawa do odstąpienia od rekomendacji. Musi też być praktycznie możliwa w harmonogramie. Uważamy, że organizacje powinny wskazać, kto wyjaśnia decyzję, a kto może wprowadzić korektę. Pracownik nie powinien błądzić między dostawcą, działem HR i przełożonym, ponieważ każdy twierdzi, że wynik ustalono gdzie indziej. Odpowiedzialność za decyzję pracowniczą nie może zniknąć w łańcuchu technicznym.
Zgoda nie usuwa nierówności sił
Kontrola pracowników podlega wymogom prywatności, w tym prawidłowej podstawie przetwarzania, niezbędności i obowiązkom informacyjnym. AP podkreśla, że w stosunku pracy trudno o w pełni dobrowolną zgodę. Okienko „zgadzam się” nie jest więc przekonującą odpowiedzią na wszystkie pytania dotyczące monitorowania. Omów cel przetwarzania, możliwość zastosowania mniej ingerującej metody i rzeczywiście potrzebne dane. To znane już pytania o prywatność, które są istotne również wtedy, gdy dostawca przedstawia system jako produkt AI. Nowa nazwa techniczna sama nie zmienia charakteru przetwarzania danych.
Przedstawicielstwo pracowników musi rozumieć zastosowanie
Przepisy dotyczące kontroli personelu mogą wymagać uprzedniej zgody rady zakładowej. Pracownicy i przedstawiciele potrzebują też merytorycznych informacji o działaniu i skutkach. Prezentacja atrakcyjnego panelu nie wystarcza. Zapytaj, jakich danych używa system, jak wykrywa się błędy, które grupy mogą odczuwać inne skutki i jak długo przechowuje się dane. Redakcja opowiada się za udziałem pracowników, zanim sposób działania zostanie ustalony. Rozmowa dopiero wtedy, gdy system wpłynął już na oceny, pozostawia mniej miejsca na poprawę procesu bez szkody dla konkretnych osób.
Ścieżka korekty musi docierać do rzeczywistego błędu
Pracownik powinien móc nie tylko poprawić literówkę w profilu, lecz także wykazać, że wybrane porównanie daje niewłaściwy obraz. Chodzi choćby o opiekę nad zespołem nierejestrowaną jako produkcja, dostosowane stanowisko lub grafik niedostatecznie uwzględniający uzgodnioną dostępność. Dobra procedura bada zarówno dane, jak i interpretację. Ustal, kto odpowiada, w jakim czasie i co w międzyczasie dzieje się ze sporną decyzją. To nasza propozycja sprawiedliwego procesu decyzyjnego; dokładne obowiązki prawne trzeba ustalać osobno dla każdego zastosowania.
Zacznij od ograniczonego zastosowania, które można sprawdzić
Organizacje mogą najpierw określić problem do rozwiązania oraz sposób mierzenia sukcesów i błędów. Ograniczona próba o wyraźnie określonych skutkach umożliwia naukę bez natychmiastowego oparcia każdej decyzji pracowniczej na wskaźniku. Zachowaj możliwość powrotu do innego sposobu działania. Zapytaj pracowników, jakiego kontekstu brakuje, i sprawdź, czy korekty rzeczywiście wprowadzono. Są to zalecenia redakcyjne, a nie twierdzenie, że każde zastosowanie AI podlega tej samej procedurze ustawowej. Właśnie różnica między pomocą w pisaniu a systemem klasyfikującym ludzi zasługuje na konkretną ocenę.
Kontrargument: ludzie też bywają stronniczy, a systemy mogą być sprawiedliwsze
To mocny argument za rzetelnym badaniem zastosowania technologii. System może wspierać spójność i lepiej ujawniać pewne błędy. Możliwa poprawa nie dowodzi jednak, że konkretne rozwiązanie już działa dobrze. Porównuj więc z jasno określonym punktem wyjścia i badaj jakość, skutki oraz możliwość naprawy. Możliwość sprzeciwu pomaga też lepiej używać dobrego systemu. Zapobiega niezauważonemu przeniesieniu ludzkich uprzedzeń do danych lub projektu, a następnie traktowaniu ich jako obiektywnego wyniku. Celem jest wykazana poprawa decyzji i widoczna odpowiedzialność, gdy się to nie udaje.
Przy algorytmicznym planowaniu lub ocenianiu pytaj o używane dane i normy, o osobę mogącą wyjaśnić decyzję oraz sposób poprawienia błędu. Zorganizuj rozmowę, zanim wynik wpłynie na Twoją pensję lub stanowisko. Nasza redakcyjna zasada jest taka: technologia przekonująco służy dobrej pracy tylko wtedy, gdy ludzie zachowują znaczący głos w decyzjach, które tę pracę określają.
Źródła i sposób opracowania
Źródła te stanowią podstawę opisu faktów. Stanowisko, ocena i wnioski pochodzą od naszej redakcji.
Stan źródeł na dzień:
- Wydawca: Autoriteit PersoonsgegevensAutoriteit Persoonsgegevens: zagrożenia związane z algorytmami w pracyautoriteitpersoonsgegevens.nlhttps://autoriteitpersoonsgegevens.nl/themas/algoritmes-ai/risicos-algoritmes-ai-ontwikkelingen-in-nederland/risicos-algoritmes-op-de-werkvloer
- Wydawca: Autoriteit PersoonsgegevensAutoriteit Persoonsgegevens: warunki kontroli pracownikówautoriteitpersoonsgegevens.nlhttps://autoriteitpersoonsgegevens.nl/themas/werk-en-uitkering/controle-van-werknemers/voorwaarden-voor-controle-werknemers
- Wydawca: Sociaal-Economische Raad (SER)SER: technologia i rola rady zakładowejser.nlhttps://www.ser.nl/-/media/ser/downloads/overige-publicaties/2018/technologische-ontwikkelingen-or.pdf
Publikacje źródłowe są w języku niderlandzkim. Wszystkie wersje językowe dotyczą prawa holenderskiego.
Informacje ogólne. Nie zastępują indywidualnej porady prawnej. Ta wersja językowa zawiera robocze tłumaczenia oparte na oficjalnych źródłach niderlandzkich. Nie odnotowano jeszcze niezależnej końcowej weryfikacji prawnej ani redakcji przez rodzimego użytkownika języka.