Zákazy AI systémů: Článek 5 AI Actu vysvětlen

Co zakazuje článek 5 AI Actu?

EU AI Act (Nařízení 2024/1689) definuje ve svém článku 5 absolutní zákazy — AI praktiky, které jsou považovány za natolik nebezpečné, že jejich používání je v EU zcela nepřípustné. Tyto zákazy vstoupily v platnost jako první část AI Actu, již od 2. února 2025, což podtrhuje jejich naléhavost.

Na rozdíl od vysoce rizikových AI systémů, které lze provozovat za splnění přísných podmínek, zakázané AI praktiky nelze legálně používat za žádných okolností. Porušení těchto zákazů představuje nejzávažnější přestupek dle AI Actu s odpovídajícími maximálními sankcemi.

Přehled zakázaných AI praktik

Článek 5 AI Actu zakazuje celkem osm kategorií AI aplikací. Jejich společným jmenovatelem je, že všechny představují zásadní ohrožení základních práv a svobod občanů EU.

1. Manipulativní a klamavé AI systémy

Zakázány jsou AI systémy, které využívají podprahové techniky, záměrně manipulativní nebo klamavé postupy k podstatnému narušení rozhodování osob. Výsledkem musí být nebo je pravděpodobné, že bude způsobena významná újma. Příkladem může být AI chatbot záměrně navržený k psychologické manipulaci spotřebitelů ke koupi nebezpečných produktů nebo AI systém pro podprahovou reklamu.

2. Zneužívání zranitelností

Zakázány jsou AI systémy, které cíleně zneužívají zranitelnosti osob z důvodu jejich věku, zdravotního postižení nebo specifické sociální či ekonomické situace. Jedná se o AI aplikace, které záměrně těží z toho, že oběť není schopna se manipulaci bránit — například AI systém cílící klamavé reklamy na seniory s kognitivním poklesem.

3. Sociální bodování (Social Scoring)

Zcela zakázáno je hodnocení nebo klasifikace fyzických osob na základě jejich sociálního chování nebo osobnostních charakteristik (social scoring), pokud vede k znevýhodňujícímu zacházení. Zákaz se vztahuje na systémy, kde je výsledné hodnocení neodůvodněné nebo nepřiměřené kontextu, ve kterém byly údaje shromážděny. Tento zákaz přímo reaguje na praktiky známé z čínského systému sociálního kreditu.

4. Predikce kriminality na základě profilování

Zakázány jsou AI systémy pro posuzování nebo predikci rizika, že fyzická osoba spáchá trestný čin, pokud vychází výhradně z profilování osoby nebo z posouzení jejích osobnostních rysů a charakteristik. Policejní predikce založená čistě na tom, kdo osoba je, nikoliv na objektivních faktech, je nepřípustná. Systémy založené na analýze konkrétních důkazů spojených s trestnou činností však zakázány nejsou.

5. Plošný scraping obličejových obrázků

AI Act zakazuje vytváření nebo rozšiřování databází pro rozpoznávání obličejů prostřednictvím nelokalizovaného scrapingu obličejových obrázků z internetu nebo CCTV záznamů. Takové praktiky, jaké používala firma Clearview AI, jsou v EU jednoznačně nelegální.

6. Rozpoznávání emocí na pracovišti a ve školách

Zakázáno je používání AI systémů pro rozpoznávání emocí zaměstnanců na pracovišti a studentů ve vzdělávacích institucích. Výjimku tvoří systémy využívané z lékařských nebo bezpečnostních důvodů (např. detekce únavy řidiče kamionu).

7. Biometrická kategorizace citlivých vlastností

Zakázány jsou AI systémy, které kategorizují osoby na základě biometrických dat za účelem odvození citlivých informací — konkrétně rasy, politických názorů, členství v odborech, náboženského vyznání, sexuální orientace nebo sexuálního života. Výjimku představuje zákonné označování biometrických datových souborů a filtrování v oblasti vymáhání práva.

8. Biometrická identifikace v reálném čase ve veřejném prostoru

Použití systémů biometrické identifikace na dálku v reálném čase na veřejně přístupných místech pro účely vymáhání práva je obecně zakázáno. Existují tři úzce vymezené výjimky — hledání obětí únosu, prevence konkrétní bezprostřední teroristické hrozby a lokalizace podezřelých z vážných trestných činů — ale i tyto vyžadují předchozí povolení soudu nebo nezávislého orgánu.

Jaké jsou sankce za porušení zákazů?

Porušení zákazů dle článku 5 nese nejvyšší možné pokuty v rámci celého AI Actu. Maximální sankce činí 35 milionů EUR nebo 7 % celkového celosvětového ročního obratu (podle toho, co je vyšší). Pro porovnání — u porušení jiných ustanovení AI Actu jsou maximální pokuty nižší (15 milionů EUR / 3 % obratu). Výše pokut jasně signalizuje, jak vážně EU tyto zákazy bere.

Co byste měli udělat?

Zákazy dle článku 5 platí od února 2025 — už teď. Každá firma, která využívá AI, by měla provést interní audit a ověřit, zda žádná z jejích AI aplikací nespadá do zakázaných kategorií. Nevědomost není omluvou a sankce jsou drakonické.

Klíčové kroky: (1) Zmapujte všechny AI systémy ve vaší organizaci, (2) Porovnejte je se seznamem zákazů, (3) Pokud máte pochybnosti, konzultujte situaci s odborníkem.

Související články

• Vysoce rizikové AI systémy: Příloha III
• Rizikové kategorie AI Actu
• AI Act pokuty — až 35 milionů EUR
• Objednejte si AI Act sken