Lidský dohled podle AI Actu: Co skutečně vyžaduje článek 14

28. srpna 2026 • 8 min čtení

Kdy se článek 14 použije

Článek 14 nařízení (EU) 2024/1689 upravuje lidský dohled u vysoce rizikových AI systémů. Neznamená to, že každý chatbot, doporučovací nástroj nebo běžná automatizace musí mít nepřetržitě přítomného člověka. Nejprve je nutné správně určit, zda systém spadá mezi vysoce rizikové podle článku 6 a příslušných příloh.

Cílem dohledu je předcházet nebo omezovat rizika pro zdraví, bezpečnost a základní práva, která mohou přetrvávat i po splnění ostatních požadavků na vysoce rizikový systém. Rozsah opatření má odpovídat riziku, míře autonomie a konkrétnímu způsobu použití systému.

Co musí zajistit poskytovatel

Poskytovatel musí vysoce rizikový systém navrhnout a vyvinout tak, aby jej během používání mohly účinně kontrolovat fyzické osoby. Patří sem vhodné rozhraní člověk–stroj a technická opatření, která usnadní sledování provozu, interpretaci výstupů a bezpečný zásah.

Opatření mohou být zabudována přímo do systému nebo je poskytovatel předem určí tak, aby je mohl zavést nasazovatel. Nařízení proto rozděluje odpovědnost: poskytovatel připravuje systém a dohledová opatření, zatímco nasazovatel je zavádí a používá ve svém provozním kontextu.

Co musí umět osoba vykonávající dohled

Osoba pověřená dohledem má podle situace rozumět schopnostem a omezením systému, sledovat jeho provoz a zachytit anomálie, poruchy nebo neočekávané chování. Musí také umět správně interpretovat výstup s využitím dostupných vysvětlujících nástrojů.

Důležitým rizikem je automation bias, tedy tendence automaticky důvěřovat doporučení systému. Dohled proto musí umožnit rozhodnout se systém nepoužít, jeho výstup ignorovat, přepsat nebo zvrátit. Je-li to přiměřené, musí být možné do provozu zasáhnout nebo systém bezpečně zastavit.

U některých systémů vzdálené biometrické identifikace podle přílohy III navíc článek 14 odst. 5 vyžaduje samostatné ověření výsledku nejméně dvěma kompetentními osobami. Nařízení současně připouští úzké výjimky pro některá použití v oblasti vymáhání práva, migrace, ochrany hranic nebo azylu.

Povinnosti nasazovatele podle článku 26

Nasazovatel má používat vysoce rizikový systém podle přiloženého návodu a přijmout odpovídající technická a organizační opatření. Lidský dohled musí svěřit osobám, které mají potřebnou odbornou způsobilost, školení, pravomoc a podporu. Nestačí tedy formálně určit jméno bez reálné možnosti zasáhnout.

Praktické nastavení závisí na konkrétním systému. Jiný dohled potřebuje nástroj podporující nábor zaměstnanců a jiný systém v kritické infrastruktuře. Společným základem je jasně určit odpovědnosti, kritické situace, způsob eskalace a bezpečný postup při přerušení provozu.

Praktický kontrolní seznam

Firma by měla mít popsané, kdo dohled vykonává, jaké výstupy kontroluje, jak pozná anomálii a kdy může výstup odmítnout. Součástí procesu mají být potřebná oprávnění, školení, přístup k návodu poskytovatele a záznam o zásadních zásazích.

Kontrola musí být skutečně použitelná v čase, kdy vzniká rozhodnutí. Samotný dashboard nebo možnost systém později vypnout nestačí, pokud pověřená osoba nerozumí omezením systému nebo nemá pravomoc výsledek změnit.