Biometrické AI systémy: Co AI Act zakazuje a povoluje

Úvod: Biometrie v hledáčku AI Actu

Svět umělé inteligence se neustále vyvíjí a s ním i způsoby, jak technologie ovlivňují naše životy. Jednou z nejcitlivějších oblastí je bezesporu biometrie a s ní spojené rozpoznávání obličeje. Evropská unie si je vědoma potenciálních rizik pro soukromí a základní práva občanů, a proto ve svém novém Nařízení o umělé inteligenci (Nařízení EU 2024/1689), známém jako AI Act, stanovila přísná pravidla.

Cílem AI Actu je zajistit, aby AI systémy byly bezpečné, transparentní, etické a respektovaly základní práva. Pro biometrické AI systémy to znamená konkrétní zákazy a velmi omezené výjimky, zejména pokud jde o jejich použití ve veřejných prostorech. Pro firmy a organizace vyvíjející nebo používající takové technologie je klíčové přesně pochopit tyto regulace, aby se vyhnuly vysokým pokutám a zajistily soulad se zákonem.

V tomto článku se podrobně podíváme na to, jak AI Act přistupuje k biometrickým AI systémům. Vysvětlíme si, které typy systémů jsou zcela zakázány, za jakých podmínek mohou být některé biometrické systémy používány a jaké povinnosti z toho plynou pro provozovatele. Připravte se na komplexní pohled do nitra nejpřísnější regulace umělé inteligence na světě.

Přísný Zákaz: Rozpoznávání Obličeje v Reálném Čase ve Veřejných Prostorech

Jedním z nejvýraznějších a nejdiskutovanějších aspektů AI Actu je přísný zákaz používání systémů vzdálené biometrické identifikace v reálném čase ve veřejně přístupných prostorech pro účely prosazování práva. Tento zákaz je zakotven v článku 5(1) písmeno d) AI Actu a odráží hluboké obavy z masového dohledu a potenciálního zneužití těchto technologií.

Co přesně znamená "v reálném čase"? Jedná se o situace, kdy se biometrické údaje (např. obrazy obličeje z kamer) shromažďují a okamžitě porovnávají s existujícími databázemi za účelem identifikace osoby. K tomuto dochází bez významného časového zpoždění. Představte si kamerové systémy, které by automaticky a okamžitě identifikovaly každého kolemjdoucího na ulici. Právě toto je explicitně zakázáno, aby se ochránilo právo občanů na soukromí a svobodu pohybu.

Důvodem tohoto zákazu je primárně ochrana základních práv, jako je právo na soukromí (čl. 7 Listiny základních práv EU) a ochrana osobních údajů (čl. 8 Listiny). Používání biometrie pro identifikaci v reálném čase ve veřejných prostorech představuje vysoké riziko diskriminace, chybné identifikace a zásadního narušení soukromí, což může vést k pocitu neustálého sledování a omezovat občanské svobody. Tento zákaz je jedním z pilířů etického přístupu EU k umělé inteligenci.

Výjimky a Přísné Podmínky: Kdy je Biometrické Rozpoznávání Povoleno?

Přestože AI Act zavádí široký zákaz vzdálené biometrické identifikace v reálném čase, uznává, že v určitých, velmi specifických a naléhavých situacích může být taková technologie nezbytná pro ochranu veřejné bezpečnosti. Článek 5(1) písmeno d) Nařízení EU 2024/1689 proto stanovuje několik přísně omezených výjimek pro účely prosazování práva, které se týkají jak real-time, tak zejména post-remote (ex-post) identifikace.

Tyto výjimky se vztahují pouze na přísně definované situace a vyžadují předchozí soudní nebo správní povolení. Mezi povolené účely patří například cílené pátrání po konkrétních obětech trestných činů, včetně pohřešovaných dětí (čl. 5(1)d(i)), prevence konkrétní a bezprostřední hrozby pro život nebo fyzickou bezpečnost osob (čl. 5(1)d(ii)), nebo identifikace osoby podezřelé ze spáchání závažného trestného činu uvedeného v Příloze II, za který hrozí trest odnětí svobody na dobu minimálně tří let (čl. 5(1)d(iii)).

Je důležité zdůraznit, že i v těchto výjimečných případech musí být použití biometrických systémů přísně cílené, časově a prostorově omezené a podléhat neustálému lidskému dohledu a kontrole. "Post-remote" biometrická identifikace, tedy identifikace po události s využitím záznamů (např. z kamer), je často mylně zaměňována s real-time systémy. Zatímco real-time systémy jsou primárně zakázány, post-remote systémy, pokud jsou používány pro účely prosazování práva a spadají do jedné z výjimek, mohou být povoleny, ovšem vždy s předchozím povolením soudu a za splnění všech ostatních podmínek AI Actu a GDPR. Tyto systémy jsou navíc automaticky klasifikovány jako vysoce rizikové, což s sebou nese další řadu povinností pro jejich provozovatele.

Další Biometrické Systémy: Co Mimo Zákazy?

Kromě explicitně zakázaných systémů vzdálené biometrické identifikace v reálném čase existuje široká škála dalších biometrických AI systémů, které nejsou zakázány, ale spadají do kategorie "vysoce rizikových" (čl. 6 a Příloha III AI Actu). Mezi ně patří například systémy biometrické identifikace a kategorizace osob (např. rozpoznávání emocí, kategorizace podle rasy, pohlaví apod.), ale také systémy určené pro kontrolu vstupu do budov, ověřování identity pro online služby nebo pro sledování zaměstnanců.

Pro tyto vysoce rizikové systémy platí přísné požadavky, které musí provozovatelé splnit předtím, než je uvedou na trh nebo do provozu. Tyto povinnosti zahrnují komplexní systém řízení rizik, zajištění kvality dat, technickou dokumentaci, automatické zaznamenávání událostí, lidský dohled, robustnost, přesnost a kybernetickou bezpečnost. Dále je nezbytné provést posouzení shody a zajistit, aby systém splňoval veškeré technické normy a specifikace. Nedodržení těchto povinností může vést k podstatným pokutám, které mohou dosáhnout až 35 milionů eur nebo 7 % celkového celosvětového ročního obratu, podle toho, která částka je vyšší.

Je také klíčové si uvědomit, že jakékoli zpracování biometrických dat, ať už v zakázaném nebo povoleném kontextu, musí být vždy v souladu s Obecným nařízením o ochraně osobních údajů (GDPR). Biometrické údaje jsou považovány za zvláštní kategorii osobních údajů, a jejich zpracování je proto možné pouze za velmi přísných podmínek, jako je výslovný souhlas subjektu údajů nebo zákonná výjimka. AI Act a GDPR se v této oblasti doplňují a tvoří komplexní právní rámec pro ochranu dat a práv občanů.

Praktické Dopady pro Firmy a Organizace

Pro všechny subjekty, které vyvíjejí, dodávají nebo používají AI systémy, zejména ty s biometrickými funkcemi, je AI Act zásadní změnou. Nejde jen o pouhé dodržování nových pravidel, ale o hlubokou transformaci přístupu k vývoji a nasazení umělé inteligence. Firmy musí provést důkladnou revizi svých stávajících i plánovaných AI systémů, aby zjistily, zda nespadají do zakázané kategorie nebo do kategorie vysoce rizikových systémů.

To znamená investice do právního poradenství, technického auditu a školení zaměstnanců. Je nezbytné jasně definovat účel a kontext použití AI systému. Pokud systém zpracovává biometrická data, je nutné pečlivě zvážit, zda se jedná o "vzdálenou biometrickou identifikaci v reálném čase ve veřejně přístupných prostorech" a zda nespadá pod přísný zákaz článku 5. Pokud ne, je nutné posoudit, zda systém nespadá do kategorie "vysoce rizikový" a splnit všechny související povinnosti uvedené v článcích 9 až 29 AI Actu.

Důsledné dodržování těchto pravidel není jen otázkou právní povinnosti, ale také budování důvěry u zákazníků a veřejnosti. Společnosti, které proaktivně přistupují k souladu s AI Actem, se odliší a demonstrují svůj závazek k etickému a odpovědnému používání AI. Naopak ignorování těchto předpisů může vést nejen k astronomickým pokutám, ale také k poškození reputace a ztrátě důvěry.

Závěr: Navigace v Budoucnosti Biometrie s AIshield.cz

Evropský AI Act představuje milník v regulaci umělé inteligence, s obzvláště silným zaměřením na biometrické AI systémy. Jeho cílem je chránit základní práva občanů a zajistit, aby inovace v AI probíhaly odpovědným a etickým způsobem. Pro firmy to znamená novou éru odpovědnosti a transparentnosti. Zakázání vzdálené biometrické identifikace v reálném čase ve veřejných prostorech je jasným signálem, že EU upřednostňuje soukromí před masovým dohledem. Zároveň však AI Act definuje rámec pro bezpečné a kontrolované využití biometrie tam, kde je to skutečně nezbytné a opodstatněné.

Pochopení a implementace požadavků AI Actu, zejména v oblasti biometrických technologií, je komplexní úkol. Vyžaduje detailní znalost právního textu, technických specifikací a schopnost adaptovat interní procesy. Nedodržení těchto pravidel může mít pro organizace závažné finanční i reputační důsledky. Proto je klíčové mít spolehlivého partnera, který vám pomůže se v této nové regulaci orientovat a zajistit plnou shodu.

AIshield.cz je vaším expertem na EU AI Act. Nabízíme nástroje a poradenství, které vám pomohou identifikovat rizika, provést audit vašich AI systémů a zajistit, že splňujete všechny požadavky Nařízení EU 2024/1689. Nenechte se zaskočit novými pravidly a buďte připraveni. Zjistěte, jak si stojí váš web a AI systémy. Provedeme rychlý sken a poradíme vám s dalšími kroky.

Související články

• Zjistěte více o pokutách za porušení AI Actu
• Přečtěte si, jak AI Act souvisí s GDPR