S rozmachem různých AI systémů využívají HR oddělení stále častěji tyto systémy například pro nábor, hodnocení výkonnosti zaměstnanců apod. AI nařízení však již nyní použití určitých systémů zcela zakazuje, pro některé, tzv. vysoce rizikové, vyžaduje od prosince 2027 dodržení mnoha podmínek. Níže vám poskytujeme stručný souhrn obou těchto kategorií, abyste se v povinnostech lépe orientovali.
Zakázané systémy
Definice a základní zakotvení tzv. zakázaných systémů se nachází v čl. 5 AI nařízení. Zejména pro HR je podstatný zákaz systémů, které:
- rozpoznávají emoce na pracovišti,
- využívají systém biometrické kategorizace za účelem dovození rasy, politických názorů, členství v odborových organizacích, náboženského nebo filosofického přesvědčení nebo sexuálního života či orientace, nebo
- využívají systém na bázi sociálního kreditu (“social score”) fyzických osob s cílem znevýhodňujícího nebo nepříznivého zacházení.
Výčet je ovšem podstatně delší a zahrnuje dále například systémy používající podprahové, manipulativní či klamavé techniky, využívající zranitelnost fyzických osob a podobně. Zkontrolujte tedy, jaký AI systém používáte, a ověřte, zda nevykazuje prvky odpovídající výčtu v čl. 5 AI nařízení.
Vysoce rizikové systémy
Pro vysoce rizikový systém používá čl. 6 AI nařízení definici pomocí výčtů. Z HR systémů jsou vysoce rizikové:
- systémy pro nábor zaměstnanců, pokud slouží k výběru uchazečů, analýze a třídění žádostí o zaměstnání a hodnocení uchazečů,
- systémy pro řízení zaměstnanců, pokud slouží k rozhodování o povýšení, ukončení zaměstnání, přidělování úkolů na základě chování či charakteristik zaměstnance, sledování a hodnocení výkonnosti či k jinému rozhodování s dopadem na podmínky pracovněprávních vztahů.
Vysoce rizikový systém obecně používat lze, je však nutné dodržet mnoho poměrně komplexních povinností stanovených dle čl. 8 a násl. AI nařízení – např. systém řízení rizik, vedení záznamů apod.
U systémů v oblasti HR je však možné aplikaci většiny povinností vyloučit. Systémy dle přílohy III (což jsou i zmíněné HR systémy) se totiž za vysoce rizikové nepovažují, jestliže je při použití systému zajištěna spolupráce fyzické osoby a AI systému – buď AI systém zlepšuje práci vykonanou určitou osobou (např. HR manažerem), nebo naopak tato osoba kontroluje a dokončuje to, co pro ni AI systém připraví.
Ovšem pozor! Systém je vysoce rizikový vždy, pokud provádí profilování fyzických osob. U těchto systémů tedy vyloučení povinností není možné a musí být dodrženy všechny.
Povinnost dodržet veškeré podmínky užívání tzv. vysoce rizikových systémů v oblasti HR začne platit již od 2. prosince 2027, kategorie AI systémů zabudovaných do regulovaných výrobků (zjednodušeně řečeno) až od 2. srpna 2028. Doporučujeme tedy posoudit, jaké AI systémy používáte, jaké povinnosti při jejich používání musíte dodržovat a u HR systémů zajistit přinejmenším dostatečný prvek lidské kontroly.
A jaké hrozí za porušení těchto povinností sankce?
- Za používání zakázaných postupů až 35 miliónů EUR, případně 7 % celkového celosvětového ročního obratu podniku, dle toho, která z těchto částek je vyšší.
- Za porušení povinností při používání vysoce rizikových systémů až 15 miliónů EUR či 3 % celkového celosvětového ročního obratu, dle toho, která z těchto částek je vyšší.