CE označení pro AI systémy: Kdy a jak ho získat

Proč je CE označení pro AI systémy novou nutností?

Evropská unie se prostřednictvím nového Nařízení o umělé inteligenci (EU AI Act, Nařízení EU 2024/1689) snaží zajistit, aby umělá inteligence (AI) byla bezpečná, transparentní a etická. Jedním z klíčových nástrojů k dosažení tohoto cíle je zavedení povinného CE označení pro vysoce rizikové AI systémy. Toto označení, dobře známé z jiných produktových kategorií, nově signalizuje, že AI systém splňuje přísné požadavky stanovené legislativou EU.

CE označení není jen formalita; je to deklarace výrobce, že jeho produkt, v tomto případě AI systém, je v souladu se všemi relevantními evropskými právními předpisy v oblasti zdraví, bezpečnosti a ochrany životního prostředí. Pro oblast AI to znamená, že systém prošel komplexním posouzením shody (conformity assessment) a splňuje technické, etické a právní standardy AI Actu. Bez tohoto označení nebudou vysoce rizikové AI systémy moci být uvedeny na trh EU ani do provozu.

V tomto článku se podrobně podíváme na to, které AI systémy potřebují CE označení, jak probíhá proces jeho získání a co to znamená pro vývojáře, dodavatele a provozovatele AI technologií v Evropě. Připravte se na novou éru regulace, kde transparentnost a odpovědnost hrají primární roli.

Které AI systémy spadají pod povinnost CE označení?

Základním kamenem pro pochopení povinnosti CE označení je správná identifikace vašeho AI systému. AI Act rozlišuje různé kategorie AI systémů na základě úrovně rizika, které představují. CE označení je povinné výhradně pro takzvané 'vysoce rizikové AI systémy', jak je definováno v článku 6 a podrobně specifikováno v Příloze III Nařízení. Tyto systémy jsou považovány za takové, které mají potenciál způsobit závažné škody zdraví, bezpečnosti, základním právům nebo životnímu prostředí.

Příloha III AI Actu uvádí obsáhlý seznam oblastí, kde se AI systémy automaticky považují za vysoce rizikové. Patří sem například AI systémy používané v kritické infrastruktuře, vzdělávání, zaměstnávání, vymáhání práva, řízení migrace a azylu, nebo systémy pro hodnocení úvěrové bonity fyzických osob. Rozhodující je účel použití AI systému, nikoli samotná technologie. Například chatbot pro zákaznickou podporu, pokud není použit v kritické infrastruktuře a nemá vliv na základní práva, nebude vysoce rizikový. Systém pro nábor zaměstnanců, který filtruje uchazeče, už ale ano.

Určení, zda je váš systém vysoce rizikový, je prvním a nejdůležitějším krokem. Pokud si nejste jisti, doporučujeme provést důkladnou analýzu na základě Přílohy III a relevantních článků AI Actu. Nesprávné posouzení může mít vážné důsledky, včetně vysokých pokut. Pro hlubší pochopení kategorií si přečtěte náš článek o rizikových kategoriích AI Actu.

Proces posuzování shody (Conformity Assessment)

Jakmile je váš AI systém identifikován jako vysoce rizikový, dalším krokem je projít procesem posuzování shody (conformity assessment). Cílem tohoto procesu je ověřit, že váš systém splňuje všechny požadavky AI Actu, které jsou stanoveny zejména v Kapitole III. Tyto požadavky zahrnují mimo jiné robustnost, přesnost, bezpečnost, kybernetickou bezpečnost, transparentnost, lidský dohled a správu dat. Posouzení shody je klíčové pro získání CE označení.

AI Act nabízí dva základní postupy pro posuzování shody, které jsou detailně popsány v článku 43 a dále v článcích 48 a 49: a) posouzení shody založené na interní kontrole výroby (tzv. self-assessment), nebo b) posouzení shody založené na systému řízení kvality a posouzení technické dokumentace, které vyžaduje zapojení notifikované osoby. Volba postupu závisí na konkrétním typu vysoce rizikového AI systému a na tom, zda pro něj existují harmonizované normy nebo společné specifikace.

Interní kontrola výroby (self-assessment) je možná pro některé méně komplexní vysoce rizikové systémy, zejména pokud pro ně existují harmonizované normy, které výrobce plně splňuje. V takovém případě výrobce sám provede všechny testy a ověření a vydá EU prohlášení o shodě. Pokud však systém spadá do specifických kategorií (např. AI systémy pro hodnocení osob ve vzdělávání nebo zaměstnání, AI systémy ve vymáhání práva) nebo pokud neexistují harmonizované normy, je zapojení notifikované osoby povinné. Tento externí audit zajišťuje vyšší úroveň nezávislosti a důvěryhodnosti procesu certifikace.

Role notifikovaných osob a technická dokumentace

Notifikovaná osoba je nezávislý orgán akreditovaný členským státem EU, který má pravomoc provádět posouzení shody. Její zapojení je klíčové pro vysoce rizikové AI systémy, které vyžadují externí ověření. Notifikovaná osoba posoudí systém řízení kvality výrobce a technickou dokumentaci AI systému, aby ověřila soulad s požadavky AI Actu. To zahrnuje přezkum návrhu, vývoje, testování, ověřování a validace AI systému, stejně jako procesů pro jeho uvedení na trh a monitorování po uvedení.

Technická dokumentace je páteří celého procesu posuzování shody a je detailně popsána v článku 50 AI Actu. Musí být komplexní a transparentní, poskytující podrobné informace o návrhu, vývoji, testování a výkonu AI systému. Zahrnuje mimo jiné popis systému, jeho účel, architekturu, použité tréninkové datové soubory, metody testování a validace, výsledky testů, proces řízení rizik, systém řízení kvality a informace o monitorování po uvedení na trh. Kvalitní a úplná technická dokumentace je naprosto nezbytná pro úspěšné získání CE označení, ať už se jedná o self-assessment nebo audit notifikovanou osobou. Doporučujeme prostudovat náš článek o transparenčních povinnostech článku 50.

Notifikovaná osoba vydá certifikát shody, pokud je systém shledán v souladu s AI Actem. Tento certifikát je pak základem pro vydání EU prohlášení o shodě výrobcem a následné affixování CE označení na AI systém. Proces s notifikovanou osobou je časově i finančně náročnější, ale pro mnoho vysoce rizikových AI systémů je to jediná cesta k legálnímu působení na trhu EU.

Získání a udržení CE označení: Dlouhodobý závazek

Získání CE označení není jednorázová událost, ale spíše závazek k neustálému souladu s AI Actem. Po úspěšném absolvování posouzení shody (ať už interního nebo s notifikovanou osobou) výrobce vypracuje EU prohlášení o shodě, které potvrdí, že AI systém splňuje všechny relevantní požadavky. Následně může na svůj AI systém affixovat CE označení. Toto označení musí být viditelné, čitelné a nesmazatelné.

Důležité je si uvědomit, že povinnosti výrobce nekončí s affixací CE označení. AI Act klade velký důraz na post-market monitoring (čl. 71), což znamená, že výrobci musí neustále sledovat výkon, přesnost a bezpečnost svých AI systémů po jejich uvedení na trh nebo do provozu. Jakékoli významné změny v AI systému, které by mohly ovlivnit jeho soulad s požadavky, vyžadují nové posouzení shody. Toto je klíčové pro udržení platnosti CE označení a zajištění dlouhodobé bezpečnosti a spolehlivosti AI systémů.

Nedodržení požadavků AI Actu a absence CE označení u vysoce rizikových systémů může mít vážné důsledky. AI Act ukládá přísné pokuty — u vysoce rizikových AI systémů až 15 milionů EUR nebo 3 % celkového ročního obratu (článek 99 odst. 4). Za zakázané AI praktiky pak až 35 milionů EUR / 7 % obratu. Kromě finančních sankcí hrozí také stažení produktu z trhu a poškození reputace. Pro více informací o pokutách si přečtěte náš článek o pokutách za porušení AI Actu.

Připravte se na novou éru AI regulace s AIshield.cz

CE označení pro vysoce rizikové AI systémy představuje významnou změnu v krajině vývoje a nasazení umělé inteligence v Evropské unii. Je to krok k budování důvěry v AI a zajištění, že tato technologie slouží lidstvu odpovědně a bezpečně. Ačkoli se proces může zdát složitý, je nezbytný pro každého, kdo chce s vysoce rizikovými AI systémy operovat na evropském trhu.

Pamatujte, že příprava na AI Act a získání CE označení je komplexní úkol, který vyžaduje pečlivé plánování, podrobnou dokumentaci a v některých případech spolupráci s notifikovanou osobou. Nezůstávejte pozadu a začněte s přípravami včas, abyste zajistili plnou shodu a vyhnuli se sankcím.

Chcete zjistit, jak je na tom vaše webová stránka nebo AI systém s dodržováním pravidel AI Actu? Použijte náš skenovací nástroj! Okamžitě vám ukážeme, kde je potřeba zapracovat. Navštivte aishield.cz/scan a udělejte první krok k bezpečné a compliant AI.

Související články

• rizikových kategoriích AI Actu
• transparenčních povinnostech článku 50
• pokutách za porušení AI Actu