Case Study · Zgodność Regulacyjna
UODO publicznie zaapelował o zabezpieczenia AI w rekrutacji, zanim padnie pierwsza kara
Co się wydarzyło
Urząd Ochrony Danych Osobowych (UODO) formalnie zwrócił się do Ministerstwa Rodziny, Pracy i Polityki Społecznej o rozpoczęcie prac nad przepisami chroniącymi kandydatów do pracy i pracowników przed dyskryminacją ze strony systemów AI wykorzystywanych w rekrutacji. Prezes UODO wprost wskazał na narzędzia rekrutacyjne AI trenowane na danych historycznych, które mogą powielać istniejące uprzedzenia rynku pracy - powołując się na porzucone narzędzie rekrutacyjne AI Amazona jako przykład ostrzegawczy.
Proponowane zabezpieczenia były konkretne: kandydaci muszą wiedzieć, że w rekrutacji uczestniczy algorytm, żadna istotna decyzja o zatrudnieniu nie może zapadać wyłącznie maszynowo, a odrzuceni kandydaci powinni móc dowiedzieć się, dlaczego. To wyraźny sygnał kierunku egzekwowania - systemy AI w HR są traktowane jako wysokiego ryzyka, zanim padnie pierwsza polska sprawa, nie po niej.
Problem biznesowy
Firmy wykorzystujące AI w jakiejkolwiek części decyzji rekrutacyjnych lub pracowniczych działają wyprzedzająco wobec konkretnych przepisów, które regulator już zapowiedział.
Co mogło pomóc
- Publiczne, wyprzedzające nazwanie ryzyka przez regulatora to zapowiedź, nie fałszywy alarm do zignorowania do czasu egzekwowania
- Każde narzędzie AI dotykające decyzji rekrutacyjnych potrzebuje wbudowanego nadzoru człowieka już teraz, nie po wejściu przepisu
- Przejrzystość wobec kandydatów co do udziału algorytmu jest tania do wdrożenia wcześniej i kosztowna do dobudowania później
- HR to jedna z najwyraźniejszych kategorii wysokiego ryzyka zarówno w nadchodzących przepisach unijnych, jak i w uwadze polskiego regulatora