Generativní AI obsah: Pravidla označování dle AI Actu

Éra generativní AI a potřeba transparentnosti

Generativní AI systémy, jako jsou modely pro tvorbu textu, obrázků, videa nebo audia, se staly nedílnou součástí našeho digitálního světa. Od marketingových kampaní přes tvorbu obsahu až po uměleckou tvorbu – možnosti jsou takřka neomezené. S rostoucí sofistikovaností těchto nástrojů se však objevuje i naléhavá potřeba transparentnosti. Jak můžeme rozlišit, co vytvořil člověk a co je dílem umělé inteligence?

Právě tato otázka stála u zrodu jedné z klíčových povinností nového Nařízení EU 2024/1689 o umělé inteligenci, známého jako AI Act. Cílem AI Actu není bránit inovacím, nýbrž zajistit důvěru, bezpečnost a ochranu základních práv občanů v digitálním prostředí. A jedním z pilířů této důvěry je právě srozumitelné označování AI obsahu.

Uživatelé a spotřebitelé mají právo vědět, zda je obsah, se kterým se setkávají, generován umělou inteligencí. Tato transparentnost je zásadní pro informované rozhodování, ochranu před dezinformacemi a zabránění manipulaci. Provozovatelé a poskytovatelé systémů generativní AI se tak musí připravit na novou realitu, kde označování není jen doporučením, ale zákonnou povinností.

Klíčové povinnosti dle článku 50 AI Actu: Co musíte označit?

AI Act přináší konkrétní požadavky na označování, které jsou podrobně popsány zejména v článku 50. Tento článek stanovuje, že poskytovatelé systémů umělé inteligence s obecným účelem (General-Purpose AI, GPAI), které generují syntetické audio, video nebo obrazový obsah, musí zajistit, aby byl tento obsah identifikovatelný jako uměle generovaný nebo manipulovaný. A to včetně vývoje technických řešení pro tento účel.

To se týká široké škály AI obsahu: textových článků, blogů, marketingových textů, ale i vizuálního obsahu jako jsou fotografie, ilustrace, videa či audio záznamy. V podstatě jakýkoli AI obsah, který by mohl být zaměněn s obsahem vytvořeným člověkem, musí být řádně označen. Povinnost se týká nejen obsahu zcela generovaného AI, ale i obsahu, který byl podstatně upraven nebo manipulován umělou inteligencí, pokud by to mohlo vést k oklamání uživatele.

Zodpovědnost za označování leží primárně na poskytovatelích GPAI modelů (viz článek 50 odst. 1), kteří musí vyvinout technické řešení pro označení. Nicméně, i subjekty, které tyto modely využívají a nasazují k tvorbě obsahu, mají povinnost zajistit, že výsledný AI obsah je pro koncové uživatele srozumitelně označen, ať už prostřednictvím viditelných prvků, nebo jasného prohlášení. Cílem je, aby uživatelé byli vždy schopni bezpečně a snadno rozpoznat, že se jedná o AI generovaný výstup.

Praktické metody označování: Viditelné a neviditelné prvky

AI Act sice stanovuje povinnost označování, ale ponechává určitou flexibilitu v tom, jak konkrétně má být provedeno. Důležité je, aby označení bylo "zjevné" a "jednoznačné" (čl. 50 odst. 1 písm. a)). To znamená, že uživatel by měl být schopen snadno rozpoznat, že se jedná o AI generovaný obsah, aniž by musel hledat skryté informace nebo dešifrovat složité kódy.

Mezi praktické metody označování.