AI Act vs Digital Services Act: Překrývající se regulace

Úvod do komplexní regulace digitálního prostoru

Digitální prostředí se neustále vyvíjí a s ním i snaha Evropské unie vytvořit bezpečný, spravedlivý a transparentní rámec pro jeho fungování. V posledních letech jsme byli svědky přijetí dvou klíčových legislativních aktů, které mají zásadní dopad na online platformy: Nařízení o digitálních službách (Digital Services Act, zkráceně DSA) a Nařízení o umělé inteligenci (AI Act). Oba tyto předpisy sdílí ambici chránit uživatele a zajistit odpovědnost v digitálním světě, avšak každý z nich přistupuje k problematice z jiného úhlu pohledu. Zatímco DSA se zaměřuje na transparentnost a odpovědnost poskytovatelů digitálních služeb, AI Act reguluje samotné systémy umělé inteligence na základě jejich rizika.

S rostoucím nasazováním umělé inteligence do nejrůznějších funkcí online platforem, od doporučovacích systémů po moderaci obsahu, se však nevyhnutelně objevuje překryv mezi těmito dvěma nařízeními. Provozovatelé platforem se tak ocitají v situaci, kdy musí navigovat mezi požadavky obou regulací, což může být náročné. Cílem tohoto článku je objasnit, kde se AI Act a Digital Services Act prolínají, jaké výzvy to přináší a jak mohou platformy efektivně zajistit soulad s oběma předpisy. Pochopení tohoto dynamického vztahu je klíčové pro každou společnost, která chce v Evropské unii úspěšně a zodpovědně působit.

AI Act: Základní pilíře regulace umělé inteligence

Nařízení EU o umělé inteligenci, známé jako AI Act (Nařízení EU 2024/1689), představuje první komplexní právní rámec pro AI na světě. Jeho hlavním cílem je zajistit, aby systémy umělé inteligence byly bezpečné, transparentní, nediskriminační a respektovaly základní práva občanů. AI Act uplatňuje tzv. rizikově orientovaný přístup, což znamená, že povinnosti pro poskytovatele a uživatele AI systémů se liší v závislosti na úrovni rizika, které daný systém představuje. Více o kategoriích rizika se dozvíte v našem článku o rizikových kategoriích AI Actu.

Základní pilíře AI Actu zahrnují kategorizaci systémů AI do čtyř rizikových úrovní: nepřijatelné riziko (čl. 5), vysoké riziko (čl. 6 a příloha III), omezené riziko a minimální riziko. Systémy AI s nepřijatelným rizikem, jako je například sociální scoring prováděný vládními orgány nebo manipulativní podněcování dětí, jsou zcela zakázány. Systémy s vysokým rizikem, které mohou mít významný dopad na základní práva nebo bezpečnost, podléhají přísným požadavkům, jako je posuzování shody, řízení rizik, dohled člověka (čl. 14) a robustní systémy správy dat. Pro online platformy jsou obzvláště relevantní systémy AI, které mohou být klasifikovány jako vysoce rizikové, například ty používané pro nábor zaměstnanců, hodnocení úvěruschopnosti, nebo v oblasti kritické infrastruktury.

Digital Services Act: Regulace digitálních služeb a platforem

Nařízení o digitálních službách (DSA) je dalším zásadním předpisem EU, který vstoupil v platnost s cílem vytvořit bezpečnější a transparentnější online prostředí. Na rozdíl od AI Actu, který se zaměřuje na technologie samotné, DSA reguluje poskytovatele digitálních služeb, zejména online platformy, hostingové služby a velmi velké online platformy (VLOPs) a vyhledávače (VLOSEs). Jeho primárním cílem je boj proti nelegálnímu obsahu online, ochrana základních práv uživatelů a zajištění odpovědnosti platforem za jejich algoritmy a procesy.

DSA ukládá platformám celou řadu povinností, které se stupňují s velikostí a dopadem služby. Tyto povinnosti zahrnují transparentnost ohledně moderace obsahu, zavedení mechanismů pro hlášení nelegálního obsahu, zajištění transparentnosti doporučovacích systémů (čl. 27), a pro VLOPs a VLOSEs také povinnost provádět posouzení systémových rizik (čl. 34) a přijímat opatření k jejich zmírnění. Právě zde, u doporučovacích systémů a moderace obsahu, dochází k nejvýraznějšímu překryvu s regulací umělé inteligence, neboť tyto funkce jsou dnes již téměř výhradně poháněny AI systémy.

Kde dochází k překryvu: Platformy v křížové palbě regulace

Překryv mezi AI Actem a Digital Services Actem je nejpatrnější u online platforem, které rozsáhle využívají umělou inteligenci pro své klíčové funkce. Hlavními oblastmi, kde se obě regulace potkávají, jsou doporučovací systémy, moderace obsahu, a šíření dezinformací nebo manipulativního obsahu.

Doporučovací systémy jsou srdcem mnoha moderních platforem. Podle DSA (čl. 27) musí platformy poskytovat uživatelům transparentní informace o tom, jak jejich doporučovací systémy fungují, a nabídnout jim možnost volby, která není založena na profilování. Pokud je však doporučovací systém natolik vlivný, že může významně ovlivňovat chování uživatelů způsobem, který by mohl vést k poškození (např. v oblasti duševního zdraví, přístupu ke službám nebo volebních procesů), mohl by spadat pod definici vysoce rizikového systému AI podle AI Actu (např. čl. 6 a příloha III, bod 5a pro systémy ovlivňující výsledky voleb, nebo bod 6a pro systémy v oblasti přístupu k základním službám). V takovém případě by platforma musela splnit přísné požadavky AI Actu na řízení rizik, transparentnost a dohled člověka. Podrobněji jsme se tomuto tématu věnovali v článku AI Act a recommendation systémy.

Moderace obsahu je další kritickou oblastí. DSA vyžaduje, aby platformy měly účinné mechanismy pro hlášení a odstraňování nelegálního obsahu a aby byly transparentní ohledně svých procesů. Mnoho platforem používá AI systémy k automatické detekci a odstraňování obsahu. Pokud tyto AI systémy pro moderaci obsahu vedou k rozhodnutím, která mohou významně ovlivnit základní práva uživatelů (např. svobodu projevu, přístup k informacím), mohou být považovány za vysoce rizikové dle AI Actu. Příkladem může být automatické blokování účtů nebo mazání obsahu bez adekvátního lidského dohledu. AI Act by v takovém případě vyžadoval robustní testování, řízení rizik a zajištění lidského dohledu (čl. 14) nad těmito AI systémy.

Dále, oba zákony adresují problém dezinformací a manipulativního obsahu. DSA se snaží zmírnit systémová rizika spojená s šířením dezinformací, zejména u VLOPs a VLOSEs (čl. 34). AI Act zase zakazuje některé manipulativní AI systémy (čl. 5) a zavádí požadavky na transparentnost pro AI generovaný obsah (deepfakes, generativní AI – čl. 52), aby uživatelé věděli, kdy interagují s AI. Platformy musí zajistit, aby AI systémy používané k šíření nebo identifikaci takového obsahu splňovaly požadavky obou nařízení, což zahrnuje jak technickou robustnost a bezpečnost AI systému, tak i transparentnost jeho fungování a dopadů na uživatele.

Výzvy pro compliance a synergické přístupy

Provozovatelé online platforem čelí značným výzvám při zajišťování souladu s oběma nařízeními. Klíčové je vyhnout se duplicitní práci a identifikovat oblasti, kde lze požadavky obou aktů řešit synergicky. Zde jsou některé doporučené přístupy.

Integrace posuzování rizik: Obě nařízení vyžadují hodnocení rizik. DSA vyžaduje posouzení systémových rizik (čl. 34) pro VLOPs/VLOSEs, zatímco AI Act vyžaduje podrobné posouzení shody a řízení rizik pro vysoce rizikové AI systémy (čl. 9 a 10). Platformy by měly integrovat tyto procesy do jednoho robustního rámce pro řízení rizik, který zohlední jak dopady AI systémů, tak i širší systémová rizika platformy. To pomůže identifikovat potenciální problémy dříve a efektivněji přidělovat zdroje. Vytvoření komplexního kontrolního seznamu AI Act compliance se může stát základním kamenem tohoto přístupu.

Transparentnost a lidský dohled: Transparentnost je ústředním tématem obou aktů. DSA (čl. 27) klade důraz na transparentnost doporučovacích systémů a moderace obsahu, zatímco AI Act (čl. 52) požaduje transparentnost pro AI generovaný obsah a vysoce rizikové AI systémy. Platformy by měly zřídit jednotné mechanismy pro komunikaci s uživateli ohledně fungování AI a zajistit, aby lidský dohled (čl. 14 AI Actu) byl integrální součástí procesů, které využívají vysoce rizikové AI systémy, a to i v kontextu moderace obsahu, kde je lidský prvek často nezbytný pro spravedlivé rozhodování.

Správa dat a governance: AI Act klade velký důraz na kvalitu a správu dat (čl. 10), které jsou zásadní pro trénování a fungování AI systémů. DSA nepřímo ovlivňuje správu dat prostřednictvím požadavků na transparentnost a ochranu uživatelů. Platformy by měly zavést jednotný systém správy dat, který splňuje standardy obou nařízení, a také vytvořit interní governance struktury, které zajistí odpovědnost za AI systémy a jejich soulad s právními předpisy. To zahrnuje jasné přiřazení rolí a odpovědností, pravidelné audity a školení personálu.

Závěr: Strategický přístup k regulaci

Překrývající se regulace AI Actu a Digital Services Actu představuje pro online platformy komplexní, ale zvládnutelnou výzvu. Místo vnímání těchto nařízení jako samostatných břemen je nutné je chápat jako součást širšího úsilí EU o vytvoření spravedlivého a bezpečného digitálního ekosystému. Pro platformy je klíčové přijmout strategický a integrovaný přístup k compliance, který maximalizuje synergie mezi požadavky obou aktů.

Proaktivní analýza a adaptace AI systémů a provozních procesů na požadavky obou nařízení je nezbytná pro minimalizaci rizik a zajištění dlouhodobé udržitelnosti v EU. Platformy, které investují do robustních systémů řízení rizik, transparentnosti a etické AI, nejenže splní své právní povinnosti, ale také si vybudují důvěru u svých uživatelů a získají konkurenční výhodu na trhu. Pamatujte, že dodržování předpisů není jen o vyhýbání se pokutám, které mohou být podle AI Actu značné, ale především o budování zodpovědného digitálního prostředí.

Potřebujete zjistit, jak jsou vaše webové stránky a AI systémy připraveny na nadcházející regulace? Náš nástroj vám poskytne rychlý a detailní přehled. Zjistěte své slabiny a silné stránky ještě dnes na aishield.cz/scan.

Související články

• rizikových kategoriích AI Actu
• AI Act a recommendation systémy
• kontrolního seznamu AI Act compliance
• pokutám