AI Act w HR: praktyczne wnioski i wskazówki dla rekruterów i branży HR

Nagranie webinaru

Webinar z prawniczką Dominiką Dörre-Kolasą, partnerką w kancelarii Raczkowski, ujawnił, że polskie firmy muszą działać już dziś, by uniknąć ryzyka dyskryminacji i wysokich kar.

Kary za naruszenia AI Act

Najważniejsze ryzyko kar wynika z niewłaściwego użycia lub braku nadzoru nad systemem high-risk. Kara może obejmować zarówno dostawcę, jak i użytkownika systemu.

Naruszenia obejmują m.in.: brak nadzoru człowieka, brak testów jakości danych, brak logów, brak monitorowania, nieużywanie systemu zgodnie z instrukcją.

AI Act a RODO – dwa rozporządzenia, jeden obowiązek

Najważniejsza zasada, jaką należy przyswoić: AI Act i RODO muszą być stosowane równolegle. Projekt Rozporządzenia w sprawie Sztucznej Inteligencji (AI Act), przyjęty przez Parlament Europejski, jest aktem unijnym, który będzie stosowany bezpośrednio, a jego wdrożenie rusza etapami już w 2025 roku.

Aktualizacja: termin wdrożenia pełnych obowiązków dla systemów wysokiego ryzyka (w tym rekrutacji i systemów HR) został przesunięty z 2 sierpnia 2026 roku na 2 grudnia 2027 roku.

AI Act kładzie szczególny nacisk na przejrzystość, minimalizację i ochronę osób przed decyzjami opartymi wyłącznie na zautomatyzowanym przetwarzaniu.

„Podmiot stosujący” oznacza:

• osobę fizyczną lub prawną,
• organ publiczny,
• agencję lub inny podmiot,
• które wykorzystują system AI, nad którym sprawują kontrolę, z wyjątkiem sytuacji, gdy system AI jest wykorzystywany w ramach osobistej działalności pozazawodowej.

Systemy HR jako systemy wysokiego ryzyka

Zgodnie z Art. 6 ust. 2 oraz Załącznikiem III (pkt 4) AI Act, szereg działań HR jest domyślnie klasyfikowanych jako systemy wysokiego ryzyka:

• rekrutacja, selekcja kandydatów,
• targetowanie ogłoszeń,
• analiza, filtrowanie CV (np. scoring kandydatów),
• decyzje dotyczące warunków zatrudnienia, awansów i rozwiązania umowy.

Klasyfikacja ta oznacza, że organizacje stosujące AI w tych obszarach muszą spełnić szereg ścisłych obowiązków.

Unikaj biasu – dlaczego jakość danych ma znaczenie

Bias to systematyczne odchylenie wyników modelu AI od rzeczywistości, wynikające z:

• błędów w danych,
• nierównych reprezentacji grup,
• sposobu trenowania modelu,
• strukturalnych nierówności świata odwzorowanego w danych.

Bias = zniekształcenie modelu, które powoduje, że system stale faworyzuje jedne wyniki i zaniża inne – bez racjonalnego, merytorycznego powodu. Bias nie musi oznaczać dyskryminacji, ale dysproporcje algorytmiczne bardzo łatwo w nią przechodzą.

Kluczową różnicą między prostą automatyzacją (np. sortowaniem po dacie) a systemem AI jest zdolność tego drugiego do uczenia się, wnioskowania i autonomii działania. System AI nie tylko sortuje, ale może np. sam wywnioskować, że kandydat z Gdańska, aplikujący do Gdyni, będzie miał problem z relokacją, bo zna mapę Polski.

Ryzyko jest ogromne: wykorzystanie historycznych danych (np. o płci lub miejscu zamieszkania) może prowadzić do systemowego wykluczenia społeczno-ekonomicznego, czego przykładem był system Amazon, który dyskryminował kobiety, bo był uczony na profilach młodych mężczyzn zatrudnianych wcześniej na stanowiskach technicznych.

Praktyki niedopuszczalne – Art. 5 AI Act

Niedopuszczalne są m.in. systemy, które analizują dane biometryczne (np. twarz, głos) w celu przypisania ludzi do kategorii związanych z:

• rasą,
• religią,
• orientacją seksualną,
• zdrowiem,
• poglądami politycznymi
• lub innymi danymi szczególnej kategorii.

Przykład: AI oceniające nagrania z rozmów z kandydatami i „zgadujące” ich orientację seksualną, religię, pochodzenie etniczne czy poglądy polityczne.

AI Act a rekrutacja – obowiązki użytkownika

Obowiązki podmiotu stosującego system AI wysokiego ryzyka:

• prowadzenie ewidencji wykorzystania systemu,
• zapewnienie nadzoru człowieka nad systemem,
• szkolenia dla osób korzystających z AI,
• weryfikacja dostawcy (certyfikacja, dokumentacja techniczna),
• monitorowanie działania systemu i zgłaszanie incydentów,
• ocenianie ryzyka i wdrażanie środków minimalizujących bias.

Zarówno RODO, jak i AI Act wymagają, aby w procesie decyzyjnym brał udział człowiek.

Realny nadzór (human touch) w procesie rekrutacji

AI Act stawia na realny, ludzki nadzór (human touch), który musi być obecny w całym procesie, a nie tylko polegać na „odklikaniu” na samym końcu.

Osoba sprawująca nadzór nad systemem:

• musi mieć niezbędne kompetencje, przeszkolenie i uprawnienia,
• musi wiedzieć, kiedy system zatrzymać (stwierdzić błąd) i mieć do tego uprawnienia,
• należy zapewnić jej wsparcie (np. ze strony IOD, prawnika).

Krok 1: Sprawdź dostawcę i instrukcję

Kluczem jest Instrukcja Obsługi Systemu AI (którą musi dostarczyć dostawca), stanowiąca „duszę systemu”. Musisz się o nią upomnieć i ją przeczytać.

Instrukcja powinna precyzyjnie określać:

• logikę działania systemu – jak system wnioskuje i generuje wyniki,
• przeznaczenie systemu – do jakich działań go używać, a do jakich nie wolno,
• dane wejściowe – jakimi danymi należy karmić system, aby uniknąć błędów i biasu,
• opis nadzoru człowieka – kiedy musi interweniować, jakie ma kompetencje.

Ponadto należy weryfikować dostawcę (Providera) i dopytać, na jakich danych uczył swój model AI.

Jak czytać instrukcję systemu AI – checklista dla HR

Krok 2: Wprowadź przejrzystość i dokumentację

Brak przejrzystego informowania jest ogromnym ryzykiem. Kandydaci mają prawo wiedzieć, że są poddawani działaniu AI.

Aktualizacja obowiązków informacyjnych (RODO + AI Act): W klauzuli informacyjnej musi znaleźć się zapis o stosowaniu systemu wysokiego ryzyka i logice jego działania. Język musi być prosty i zrozumiały. Obowiązek informowania musi być realizowany najpóźniej w momencie pierwszej interakcji.

Przechowywanie logów: należy przechowywać co najmniej przez 6 miesięcy logi generowane przez system (wejścia, wyjścia, decyzje, interwencje człowieka), by móc się rozliczyć i wytłumaczyć decyzje.

Dokumentowanie decyzji: wymagana jest procedura, w której rekruter dokumentuje swoją ocenę i wagi przydzielone przez niego (nie tylko przez system), aby móc udowodnić realny udział człowieka i obronić decyzję rekrutacyjną.

Krok 3: Reagowanie na ryzyko

Organizacja musi mieć procedurę reagowania na incydenty AI – sytuacje, w których system działa nie tak (np. błędny scoring, dyskryminacja). Wymaga to monitorowania działania systemu oraz losowego prześwietlania procesów rekrutacyjnych.

Co zrobić w organizacji przed wdrożeniem AI w HR

Jak przygotować organizację?

• Audyt narzędzi rekrutacyjnych – lista systemów, sprawdzenie, które są AI.
• Pytania do dostawców – czy ich system spełnia AI Act, jakie modele wykorzystuje.
• Polityka AI w HR – zasady korzystania z systemów, nadzoru, dokumentacji.
• Szkolenia dla rekruterów – jak rozumieć AI, jak kontrolować, jak tłumaczyć kandydatom.
• Dokumentacja decyzji – zwłaszcza tam, gdzie AI rekomenduje kandydatów.
• Aktualizacja obowiązków informacyjnych dla kandydatów / pracowników.
• Wdrożenie procedur reagowania na incydenty – np. gdy system błędnie odrzuca kandydatów.

Jakich nawyków z RODO potrzebujesz, żeby wdrożyć AI Act w HR

AI Act w HR – sesja Q&A

Odpowiedzi Dominiki na kluczowe pytania z sesji Q&A.