Český úřad pro AI: Kdo bude dohlížet na AI Act?

AI Act je tady, ale kdo ho v Česku uvede v život?

Evropská unie se s příchodem Nařízení EU 2024/1689, známého jako AI Act, stala průkopníkem v globální regulaci umělé inteligence. Tento přelomový právní rámec, schválený v březnu 2024, má za cíl zajistit, aby systémy umělé inteligence byly bezpečné, transparentní a respektovaly základní práva občanů. AI Act představuje komplexní soubor pravidel, která se dotknou vývojářů, dodavatelů i uživatelů AI systémů napříč celou EU.

Zatímco principy a požadavky AI Actu jsou stanoveny na úrovni Unie, jeho konkrétní implementace a především dohled nad dodržováním leží na bedrech jednotlivých členských států. A právě zde se dostáváme k zásadní otázce pro Českou republiku: Kdo bude mít v ČR na starosti dohled nad AI Actem? Který úřad ponese zodpovědnost za prosazování těchto pravidel, za provádění inspekcí a za ukládání sankcí v případě porušení?

Tato otázka není jen administrativní formalitou. Volba a nastavení efektivního dohledového úřadu je klíčová pro důvěryhodnost a funkčnost celé regulace. Pro firmy a organizace v ČR je pak nezbytné vědět, kdo bude jejich primárním kontaktním bodem, kdo bude posuzovat jejich soulad s nařízením a kdo bude garantovat spravedlivé a transparentní prostředí pro rozvoj a využití AI.

AI Act a role národních dohledových úřadů: Základní pilíře

AI Act je koncipován jako horizontální nařízení, což znamená, že stanovuje obecná pravidla pro širokou škálu AI systémů, s důrazem na ty, které spadají do kategorie vysokého rizika (tzv. high-risk AI). Aby tato pravidla byla skutečně účinná, vyžaduje AI Act po každém členském státu, aby určil jeden nebo více národních kompetentních orgánů, které budou mít za úkol dohled nad trhem (market surveillance) a další související činnosti. Toto je explicitně stanoveno v Článcích 50 až 55 AI Actu.

Konkrétně, Článek 50 AI Actu hovoří o tom, že členské státy určí jeden nebo více orgánů dohledu nad trhem (market surveillance authorities) pro účely tohoto nařízení. Tyto orgány budou zodpovědné za monitorování, kontrolu a prosazování souladu se všemi požadavky AI Actu. Jejich úkolem bude zajistit, aby AI systémy uváděné na trh nebo do provozu v ČR splňovaly přísné standardy bezpečnosti, transparentnosti a etiky.

Kromě orgánů dohledu nad trhem musí členské státy dle Článku 51 určit také oznamující orgány (notifying authorities), které budou posuzovat a autorizovat posuzování shody pro některé vysokorizikové AI systémy. To znamená, že národní rámec pro AI Act v ČR musí být komplexní a pokrýt jak dohled nad trhem, tak i procesy certifikace a posuzování shody. Klíčovým prvkem je tedy efektivní market surveillance, která zajistí, že regulace není jen prázdným dopisem, ale skutečně se promítá do praxe.

Kdo je ve hře? Potenciální kandidáti na dohled v ČR

Debata o tom, který úřad v České republice získá mandát k dohledu nad AI Actem, je v plném proudu. Nejde o jednoduché rozhodnutí, protože AI Act má široký záběr, který přesahuje tradiční kompetence mnoha stávajících úřadů. Mezi nejčastěji zmiňované kandidáty patří několik institucí, z nichž každá má své pro a proti.

Jedním z nejsilnějších kandidátů je Úřad pro ochranu osobních údajů (ÚOOÚ). Díky své zkušenosti s regulací GDPR má ÚOOÚ robustní znalosti v oblasti ochrany dat a základních práv, což jsou pilíře AI Actu. Mnoho vysokorizikových AI systémů zpracovává osobní údaje, a tak by synergie s ÚOOÚ byla logická. Dalším možným subjektem je Český telekomunikační úřad (ČTÚ), který má zkušenosti s regulací digitálních služeb a technologických trhů. Jeho technická expertiza by mohla být cenná při posuzování složitých AI systémů. Nelze opomenout ani Úřad pro technickou normalizaci, metrologii a státní zkušebnictví (ÚNMZ), který má dlouhodobé zkušenosti s dohledem nad výrobky a certifikací, což je relevantní pro posuzování shody AI systémů.

V úvahu přichází i Ministerstvo průmyslu a obchodu (MPO), které by mohlo hrát roli v koordinaci, případně i jako dohledový orgán pro obecné AI systémy. Objevují se i úvahy o vytvoření zcela nového specializovaného úřadu pro AI, avšak to by bylo časově i finančně náročné a v praxi se často preferuje rozšíření kompetencí stávajících institucí. Výběr bude muset zohlednit nejen stávající expertizu, ale také schopnost úřadu rychle získat potřebné know-how v rychle se vyvíjející oblasti AI a zajistit koordinovaný přístup k regulaci.

Pravomoci a odpovědnosti budoucího dohledového úřadu

Bez ohledu na to, který úřad bude nakonec vybrán, jeho pravomoci a odpovědnosti budou definovány přímo AI Actem a doprovodnou národní legislativou. Tyto pravomoci budou rozsáhlé a klíčové pro efektivní fungování regulace. Mezi hlavní úkoly budoucího dohledového úřadu bude patřit provádění dohledu nad trhem (market surveillance) v souladu s Článkem 70 AI Actu. To zahrnuje kontrolu AI systémů, které jsou uváděny na trh nebo do provozu, ověřování jejich souladu s požadavky nařízení a vyšetřování stížností.

Úřad bude mít pravomoc požadovat od dodavatelů a provozovatelů AI systémů veškeré relevantní informace a dokumentaci, včetně technické dokumentace, záznamů o testování a algoritmických auditů. V případě zjištěných nedostatků bude oprávněn nařídit opravná opatření, jako je stažení AI systému z trhu, úprava jeho funkcí nebo pozastavení provozu. Důležitou součástí pravomocí je také možnost ukládání pokut, které mohou být podle Článku 99 AI Actu velmi vysoké – až 35 milionů eur nebo 7 % celkového celosvětového ročního obratu, podle toho, co je vyšší. To podtrhuje vážnost, s jakou je k regulaci AI přistupováno.

Kromě dohledu a vymáhání bude mít úřad také důležitou roli v podpoře inovací. AI Act předpokládá zřízení regulačních pískovišť (regulatory sandboxes) podle Článku 57, které umožní testování inovativních AI systémů v kontrolovaném prostředí. Dohledový úřad bude mít za úkol tyto pískoviště spravovat a poskytovat poradenství. Bude také spolupracovat s Evropským úřadem pro AI (AI Office) a dalšími národními úřady v členských státech, aby zajistil konzistentní uplatňování regulace napříč EU. Pro firmy je tedy zásadní, aby se seznámily s požadavky AI Actu a připravily se na nový režim dohledu.

Aktuální stav příprav a výzvy pro Českou republiku

Česká republika se aktivně připravuje na implementaci AI Actu, ale proces je složitý a vyžaduje značné úsilí. Ministerstvo průmyslu a obchodu (MPO) je v tuto chvíli klíčovým koordinátorem příprav, které zahrnují analýzu dopadů, identifikaci vhodných úřadů a přípravu návrhu implementačního zákona. Cílem je mít národní legislativu a dohledové struktury připravené včas, aby bylo možné plně vyhovět termínům stanoveným AI Actem, zejména těm pro vysokorizikové systémy, které vstoupí v platnost v polovině roku 2026.

Mezi hlavní výzvy patří zajištění dostatečných finančních a lidských zdrojů pro nově pověřený úřad. Umělá inteligence je vysoce specializovaná oblast a bude nutné zajistit, aby dohledový úřad disponoval experty s hlubokými znalostmi nejen práva, ale i technických aspektů AI. Další výzvou je koordinace mezi stávajícími úřady a zajištění, aby nedocházelo k překrývání kompetencí nebo naopak k mezerám v dohledu. Je klíčové vytvořit jasný a srozumitelný regulační rámec pro české podnikatele a inovátory, aby věděli, jak se s novou regulací vypořádat. Připravit se na AI Act znamená pro mnoho firem zásadní změnu ve vnitřních procesech a je nutné začít s přípravou již nyní.

V současné době probíhají interní diskuse a analýzy, které mají vyústit v konkrétní legislativní návrhy. Lze očekávat, že implementační zákon bude muset definovat nejen dohledové orgány a jejich pravomoci, ale také specifické postupy pro posuzování shody, řešení stížností a spolupráci s Evropským úřadem pro AI. Pro české firmy je proto nezbytné sledovat vývoj národní legislativy a aktivně se připravovat na plnění požadavků AI Actu, aby se vyhnuly potenciálním rizikům a pokutám. Sledování aktuálního dění a včasná příprava jsou klíčové pro úspěšnou adaptaci na novou éru regulace AI.

Závěr: Důležitost silného dohledového úřadu pro budoucnost AI v ČR

Volba a efektivní fungování národního dohledového úřadu pro AI Act je pro Českou republiku zásadní. Nejenže zajistí dodržování evropské legislativy, ale také pomůže budovat důvěru v umělou inteligenci a podpoří její zodpovědný rozvoj v naší zemi. Silný a kompetentní dohledový úřad bude garantem toho, že AI systémy nebudou představovat nepřiměřená rizika pro občany a zároveň nebudou brzdit inovace.

Ať už bude vybrán stávající úřad s rozšířenými kompetencemi, nebo vznikne zcela nová instituce, je klíčové, aby měl jasný mandát, dostatečné zdroje a potřebnou expertizu. Pouze tak bude možné zajistit, že Česká republika bude připravena na éru regulované AI a že české firmy budou moci plně využívat potenciál této technologie v souladu s nejvyššími standardy.

Nezůstávejte pozadu a zjistěte, jak se připravit na AI Act ještě dnes. AIshield.cz vám pomůže zorientovat se v nové regulaci a zhodnotit soulad vašich AI systémů. Pro rychlou analýzu a sken webu navštivte aishield.cz/scan.

Související články

• Zjistěte více o pokutách za nedodržení AI Actu
• Přečtěte si, co jsou rizikové kategorie AI systémů