Posouzení shody AI systému: Krok za krokem

Úvod: Proč je posouzení shody klíčové pro AI systémy?

Vstupem Nařízení EU 2024/1689, známého jako AI Act, se otevírá nová éra regulace umělé inteligence v Evropské unii. Cílem tohoto přelomového předpisu je zajistit, aby AI systémy byly bezpečné, transparentní, spolehlivé a respektovaly základní práva občanů. Klíčovým pilířem pro dosažení těchto cílů je proces posouzení shody, neboli conformity assessment. Pro každého poskytovatele, importéra nebo distributora AI systémů je pochopení a správné provedení tohoto procesu naprosto zásadní.

Posouzení shody není pouhou formalitou, nýbrž komplexním souborem procesů a postupů, které ověřují, zda daný AI systém splňuje všechny technické a etické požadavky stanovené AI Actem. V podstatě jde o vaši vstupenku na evropský trh, pokud chcete s AI systémem podnikat v souladu s novou legislativou. Ignorování těchto povinností může vést k závažným sankcím, které mohou dosáhnout až 35 milionů eur nebo 7 % celkového ročního obratu firmy, jak uvádí článek 99 AI Actu.

Tento průvodce vás provede celým procesem posouzení shody, od identifikace rizika vašeho AI systému, přes volbu správné metody posouzení, až po konkrétní kroky k získání požadované certifikace. Pamatujte, že správné posouzení shody nejen chrání vaši firmu před pokutami, ale také buduje důvěru uživatelů ve vaše AI řešení.

Identifikace rizika: Kdo musí posouzení shody podstoupit?

Ne každý AI systém podléhá stejné úrovni regulace a tudíž i stejnému rozsahu posouzení shody. AI Act rozlišuje systémy podle jejich potenciálního rizika. Základní dělení zahrnuje zakázané AI systémy (čl. 5), vysoce rizikové AI systémy, AI systémy s omezeným rizikem (typicky vyžadují transparentnost, např. chatboty) a AI systémy s minimálním rizikem. Fokus posouzení shody leží primárně na vysoce rizikových AI systémech, které mají potenciál způsobit značnou újmu jednotlivcům nebo společnosti.

Definice vysoce rizikových AI systémů je klíčová a je podrobně popsána v článku 6 a Příloze III (Annex III) AI Actu. Mezi typické kategorie patří AI systémy používané v kritické infrastruktuře (např. řízení dopravy, dodávky vody), ve vzdělávání (hodnocení studentů), v řízení lidských zdrojů (nábor, hodnocení zaměstnanců), v oblasti vymáhání práva, v migračních, azylových a hraničních kontrolách, nebo v oblasti správy spravedlnosti a demokratických procesů. Pokud váš AI systém spadá do jedné z těchto kategorií, je vysoce rizikový a posouzení shody je pro něj povinné. Více se o kategoriích rizika dozvíte v našem článku o klasifikaci rizikových kategorií.

Pokud váš AI systém není klasifikován jako vysoce rizikový, povinnosti týkající se posouzení shody jsou výrazně mírnější. Může se jednat o transparentnost (např. povinnost označit, že uživatel interaguje s AI), nebo dodržování etických kodexů chování. Pro vysoce rizikové AI systémy je však posouzení shody komplexním a nezbytným krokem, který vyžaduje pečlivou přípravu a dodržování přesně stanovených modulů.

Metody posouzení shody: Self-assessment vs. Notifikovaná osoba

Pro vysoce rizikové AI systémy definuje AI Act dvě hlavní cesty k posouzení shody: interní kontrolu výroby (self-assessment) a posouzení prováděné notifikovanou osobou. Volba metody závisí na konkrétním typu AI systému a jeho klasifikaci v rámci Přílohy III (Annex III).

Self-assessment, neboli interní kontrola výroby (popsaná v Příloze VI), je povolena pouze pro specifické vysoce rizikové AI systémy, které již spadají pod jinou unijní harmonizační legislativu, jež zahrnuje posouzení shody (např. pro určitá zdravotnická zařízení nebo bezpečnostní komponenty). V takovém případě může poskytovatel sám provést veškeré kroky potřebné k prokázání shody, včetně přípravy technické dokumentace, zavedení systému řízení kvality a vystavení EU prohlášení o shodě. Ačkoli se jedná o samohodnocení, je vyžadována extrémní preciznost a důkladnost, protože za shodu nesete plnou odpovědnost. Pro většinu vysoce rizikových AI systémů uvedených v Příloze III však bude nutné zapojit externí subjekt.

Pro většinu vysoce rizikových AI systémů, zejména ty, které nejsou zahrnuty v legislativě umožňující self-assessment, je povinné zapojení notifikované osoby. Notifikovaná osoba je nezávislý subjekt akreditovaný členským státem EU k provádění posuzování shody. Tento proces je popsán v Příloze VII (Posouzení shody na základě přezkoušení typu) a Příloze IX (Posouzení shody na základě systému řízení kvality). Notifikovaná osoba provede důkladné prověření vašeho AI systému, jeho dokumentace a procesů, aby ověřila soulad s požadavky AI Actu. Tento krok je často vnímán jako forma certifikace třetí stranou a dodává větší důvěryhodnost vašemu AI systému.

Krok za krokem: Proces posouzení shody

Bez ohledu na to, zda se jedná o self-assessment nebo posouzení notifikovanou osobou, proces posouzení shody se řídí jasně definovanými kroky:

1. Klasifikace AI systému: Prvním a nejdůležitějším krokem je správné určení, zda váš AI systém spadá do kategorie vysoce rizikových systémů dle článku 6 a Přílohy III AI Actu. Tato klasifikace určí rozsah vašich povinností a nutnost zapojení notifikované osoby. Můžete využít náš AI Act checklist k rychlému zorientování.

2. Volba modulu posouzení: Na základě klasifikace rozhodnete, zda můžete provést interní kontrolu výroby (self-assessment dle Přílohy VI) nebo zda je nutné zapojit notifikovanou osobu (dle Přílohy VII a/nebo Přílohy IX).

3. Příprava technické dokumentace: Jedná se o páteř celého procesu. Technická dokumentace (Annex IV) musí být komplexní a podrobně popisovat váš AI systém, jeho design, vývoj, testování, správu dat a systém řízení rizik. Obsahuje informace o účelu systému, použitém trénovacím datu, metodikách testování, výsledcích testů, systému řízení kvality a mnoha dalších aspektech. Detailnější informace najdete v našem článku o AI Act Technical Documentation.

4. Zavedení systému řízení kvality: Poskytovatelé vysoce rizikových AI systémů musí zavést, dokumentovat a udržovat systém řízení kvality (Annex II), který zajišťuje dodržování požadavků AI Actu po celou dobu životního cyklu systému. Tento systém se týká všech fází, od návrhu a vývoje až po uvedení na trh a post-market monitoring.

5. Provedení testování a validace: AI systém musí být důkladně testován, aby se prokázala jeho shoda s požadavky na přesnost, robustnost a kybernetickou bezpečnost. Testy musí být dokumentovány a výsledky analyzovány.

6. Vydání EU prohlášení o shodě a označení CE: Po úspěšném dokončení všech kroků posouzení shody vydá poskytovatel EU prohlášení o shodě (čl. 50), které potvrzuje, že AI systém splňuje všechny relevantní požadavky AI Actu. Následně musí být AI systém označen značkou CE, což symbolizuje jeho soulad s unijními harmonizačními předpisy.

7. Povinnosti po uvedení na trh: Posouzení shody není jednorázová událost. Poskytovatelé musí zajistit průběžné monitorování AI systému (post-market monitoring), sběr dat o jeho výkonu, řešení incidentů a pravidelnou aktualizaci dokumentace. O případných závažných incidentech je nutné informovat příslušné orgány (čl. 71).

Důležitost detailů a průběžné shody

Proces posouzení shody je náročný na detaily a vyžaduje systematický přístup. Každý bod technické dokumentace, každá část systému řízení kvality a každý testovací protokol musí být bezchybně zpracován a doložen. Jakákoli mezera nebo nedostatek může vést k zamítnutí shody nebo k budoucím problémům s regulátory. Nepodceňujte ani význam správné správy dat a datové governance, která je základem pro trénování a fungování robustních AI systémů.

Kromě počátečního posouzení shody je kriticky důležitá i průběžná shoda. AI systémy se vyvíjejí, data se mění a dochází k aktualizacím. Každá významná změna v AI systému nebo jeho zamýšleném použití může vyžadovat nové posouzení shody. Poskytovatelé musí mít zavedeny procesy pro monitorování změn a proaktivní zajištění trvalého souladu s AI Actem.

Zajištění shody s AI Actem je komplexní úkol, který vyžaduje nejen technické znalosti, ale i hluboké porozumění legislativním požadavkům. Správně provedené posouzení shody je investicí do budoucnosti vaší firmy, zajišťuje důvěru zákazníků a otevírá dveře k inovacím v souladu s etickými a právními standardy EU.

Související články

• klasifikaci rizikových kategorií
• AI Act checklist
• AI Act Technical Documentation
• pokutami