Automatizované rozhodování a AI Act: Vaše práva v digitální éře

Vzestup automatizovaného rozhodování: Výhody i rizika pro občany

V dnešní digitální době se setkáváme s umělou inteligencí (AI) na každém kroku. Od doporučení filmů, přes hodnocení úvěrové bonity, až po posuzování žádostí o zaměstnání – automatizované rozhodování se stává nedílnou součástí mnoha procesů, které ovlivňují naše životy. Tyto systémy slibují efektivitu, rychlost a objektivitu, avšak s jejich rostoucí sofistikovaností se objevují i otázky týkající se transparentnosti, spravedlnosti a ochrany práv občanů.

Automatizované rozhodování, definované jako rozhodnutí učiněná bez lidského zásahu, pouze na základě algoritmického zpracování dat, přináší řadu výhod pro podniky i spotřebitele. Umožňuje rychlejší zpracování velkého množství informací, snižuje chybovost způsobenou lidským faktorem a dokáže identifikovat vzorce, které by lidé přehlédli. Avšak právě absence lidského přezkumu a potenciál pro diskriminaci či nepochopitelná rozhodnutí činí z této oblasti klíčové téma pro regulaci.

Zejména v oblastech s vysokým dopadem na jednotlivce, jako je přístup k finančním službám, vzdělání, zaměstnání nebo veřejným službám, je nezbytné zajistit, aby automatizované systémy fungovaly spravedlivě a transparentně. Právě zde vstupují do hry dva klíčové právní předpisy Evropské unie: Obecné nařízení o ochraně osobních údajů (GDPR) a nově schválený AI Act (Nařízení EU 2024/1689), které společně tvoří robustní rámec pro ochranu práv občanů.

GDPR čl. 22: První linie obrany proti plně automatizovaným rozhodnutím

Ještě před příchodem AI Actu poskytovalo GDPR zásadní ochranu občanů v oblasti automatizovaného rozhodování, zejména prostřednictvím svého článku 22. Tento článek stanoví, že subjekt údajů má právo nebýt předmětem rozhodnutí založeného výhradně na automatizovaném zpracování, včetně profilování, které má pro něj právní účinky nebo se ho obdobně významně dotýká. Jinými slovy, pokud je rozhodnutí, které vás významně ovlivňuje (například zamítnutí úvěru, propuštění z práce), učiněno pouze strojem bez jakéhokoli lidského zásahu, máte právo se proti němu bránit.

GDPR čl. 22 však obsahuje i výjimky. Takové rozhodnutí je povoleno, pokud je nezbytné k uzavření nebo plnění smlouvy mezi subjektem údajů a správcem, je povoleno právem Unie nebo členského státu, nebo je založeno na výslovném souhlasu subjektu údajů. I v těchto případech však musí správce zavést vhodná opatření na ochranu práv a svobod subjektu údajů, což zahrnuje přinejmenším právo na lidský zásah ze strany správce, právo vyjádřit svůj názor a právo napadnout toto rozhodnutí.

Klíčovým aspektem GDPR čl. 22 je formulace 'založeného výhradně na automatizovaném zpracování'. To znamená, že pokud v procesu rozhodování existuje smysluplný lidský zásah, článek 22 se nemusí uplatnit. To představovalo určitou mezeru, jelikož mnoho AI systémů dnes funguje jako podpora lidského rozhodování, nikoli jako jeho plná náhrada. Právě zde se projeví síla a rozsah nového AI Actu, který tuto ochranu dále rozšiřuje a upřesňuje.

AI Act: Nová éra ochrany před rizikovými AI systémy

Nařízení EU o umělé inteligenci, známé jako AI Act (Nařízení EU 2024/1689), představuje revoluční právní rámec, který doplňuje a rozšiřuje ochranu poskytovanou GDPR. AI Act se zaměřuje primárně na samotné AI systémy a jejich používání, klasifikuje je podle úrovně rizika a ukládá odpovídající povinnosti. Pro oblast automatizovaného rozhodování je klíčové zaměření na tzv. vysoce rizikové AI systémy, definované v článku 6 a podrobněji specifikované v Příloze III AI Actu. Jedná se o systémy, které mohou mít významný negativní dopad na základní práva jednotlivců, například systémy pro hodnocení úvěruschopnosti, nábor zaměstnanců, přístup k veřejným službám nebo vymáhání práva. Pro více informací o těchto kategoriích navštivte naši stránku o rizikových kategoriích AI Actu.

Poskytovatelé a uživatelé vysoce rizikových AI systémů jsou povinni dodržovat přísné požadavky. Patří sem robustní systémy řízení rizik (čl. 9), vysoká kvalita tréninkových dat (čl. 10), povinnost technické dokumentace (čl. 11), záznamy o činnosti (čl. 12), transparentnost a poskytování informací uživatelům (čl. 13) a zajištění lidského dohledu (čl. 14). Právě požadavek na transparentnost a lidský dohled je pro ochranu občanů klíčový, neboť zajišťuje, že rozhodnutí založená na AI nejsou černou skříňkou, ale lze je přezkoumat a pochopit.

Nejdůležitějším přínosem AI Actu pro ochranu občanů v kontextu automatizovaného rozhodování je článek 50, který výslovně stanoví práva dotčených osob. Uživatelé vysoce rizikových AI systémů, které mají významný dopad na základní práva (jako jsou ty v Příloze III), musí zajistit, aby dotčené osoby byly informovány o tom, že jsou předmětem rozhodnutí založeného na výstupu AI systému. Dále mají právo na vysvětlení tohoto rozhodnutí, včetně informací o tom, jak systém fungoval a jaké faktory vedly k danému výsledku. Tato formulace jde nad rámec GDPR čl. 22 tím, že se netýká pouze 'výhradně automatizovaných' rozhodnutí, ale všech, kde je výstup vysoce rizikového AI systému podstatným základem rozhodnutí. Více o tomto právu najdete na stránce věnované AI Act článku 50.

Synergie AI Act a GDPR: Jak se doplňují pro komplexní ochranu

Zatímco GDPR se zaměřuje na ochranu osobních údajů a práv subjektů údajů, AI Act se soustředí na regulaci samotných AI systémů a zajištění, aby byly bezpečné, transparentní a etické. Tyto dva právní předpisy se vzájemně doplňují a vytvářejí komplexní síť ochrany pro občany EU. Tam, kde GDPR chrání 'data', AI Act chrání 'systémy', které tato data zpracovávají a generují rozhodnutí. Společně tak zabezpečují, že jednotlivci nejsou ponecháni napospas nepochopitelným algoritmům.

Hlavní rozdíl spočívá v rozsahu. GDPR čl. 22 se vztahuje pouze na rozhodnutí, která jsou učiněna 'výhradně' automatizovaně. AI Act se však vztahuje na vysoce rizikové AI systémy, které jsou používány k podpoře nebo informování rozhodnutí, i když je přítomen lidský dohled. To znamená, že i když člověk nakonec rozhodnutí potvrdí, pokud byl významně ovlivněn výstupem vysoce rizikového AI systému, práva dle AI Actu se uplatní.

Tato synergie je klíčová pro plné zajištění práv občanů. GDPR zajišťuje, že osobní údaje jsou zpracovávány zákonně a s respektem k právům jednotlivců na soukromí. AI Act pak dodává další vrstvu, která se zaměřuje na to, aby samotné nástroje (AI systémy) používané k zpracování dat a generování rozhodnutí byly spolehlivé, transparentní a etické. Tím se posiluje právo na vysvětlení a možnost napadení rozhodnutí, což vede k větší důvěře v digitální služby.

Vaše práva v praxi: Jak se bránit proti nespravedlivým automatizovaným rozhodnutím?

Pro občany to znamená posílení jejich práv a nástrojů k ochraně před potenciálně nespravedlivými nebo diskriminačními automatizovanými rozhodnutími. Pokud se domníváte, že jste byli předmětem automatizovaného rozhodnutí, které vás významně poškodilo, máte nyní jasnější cestu, jak se bránit. V první řadě máte právo být informováni o tom, že je AI systém vůbec použit a že jeho výstup hraje roli v rozhodnutí, které se vás týká. Tato transparentnost je základem pro uplatnění dalších práv.

Dále máte právo požadovat lidský přezkum. To znamená, že se můžete obrátit na organizaci, která rozhodnutí učinila, a požádat, aby vaše situace byla posouzena člověkem, nikoliv pouze algoritmem. V rámci AI Actu (zejména čl. 50) máte navíc výslovné právo na vysvětlení, proč bylo dané rozhodnutí učiněno a jaké faktory k němu vedly. Toto vysvětlení by mělo být srozumitelné a dostatečně podrobné, aby vám umožnilo posoudit spravedlivost a správnost rozhodnutí.

Pokud se i po vysvětlení domníváte, že rozhodnutí je nespravedlivé, diskriminační nebo nesprávné, máte právo jej napadnout. Můžete požadovat nápravu, přezkoumání nebo revizi. V případě, že organizace nereaguje adekvátně, můžete se obrátit na příslušné dozorové orgány pro ochranu osobních údajů (v případě GDPR) nebo na nově zřízené orgány dohledu nad AI (v případě AI Actu). Pro společnosti je klíčové, aby se na nové požadavky připravily a zajistily soulad svých AI systémů, jak jsme popsali v článku Jak připravit firmu na AI Act.

Závěr: Důvěra a spravedlnost v éře umělé inteligence

Automatizované rozhodování je mocný nástroj, který má potenciál transformovat společnost k lepšímu. Abychom však mohli plně využít jeho výhod, je nezbytné zajistit, aby bylo používáno eticky, transparentně a s respektem k základním právům jednotlivců. AI Act a GDPR čl. 22 představují společně silný právní rámec, který chrání občany před potenciálními riziky a dává jim nástroje k uplatnění jejich práv.

Pochopení těchto práv je prvním krokem k tomu, abychom se v digitálním světě cítili bezpečněji a jistěji. Jako občané máme právo na transparentnost, na lidský dohled a na vysvětlení, pokud se nás dotýká rozhodnutí učiněné umělou inteligencí. Aishield.cz je zde, aby vám pomohl se v této složité legislativě orientovat a zajistit, že vaše systémy jsou v souladu s novými pravidly.

Chcete zjistit, jak jsou vaše webové stránky a online služby připraveny na výzvy AI Actu a GDPR? Projděte si náš rychlý sken webu a získejte přehled o potenciálních rizicích a doporučeních pro soulad.

Související články

• rizikových kategoriích AI Actu
• AI Act článku 50
• Jak připravit firmu na AI Act
• sken webu