General Purpose AI (GPAI): Povinnosti dle AI Actu

Úvod: AI Act a vzestup General Purpose AI

Evropská unie opět stojí v čele digitální regulace, tentokrát s revolučním Nařízením o umělé inteligenci, známým jako AI Act (Nařízení EU 2024/1689). Tento průlomový právní rámec, který vstoupil v platnost v březnu 2024, má za cíl zajistit bezpečnost, etiku a důvěryhodnost systémů umělé inteligence napříč celou EU. Jednou z jeho nejvýznamnějších a nejdiskutovanějších oblastí je regulace General Purpose AI (GPAI), tedy systémů umělé inteligence pro obecné účely.

GPAI modely, jako jsou ikonické ChatGPT od OpenAI, Gemini od Google, nebo Claude od Anthropic, se staly nedílnou součástí našeho digitálního života. Jejich schopnost vykonávat širokou škálu úkolů, od generování textu a kódu po analýzu dat a tvůrčí tvorbu, přináší obrovský potenciál, ale zároveň i nová rizika. AI Act se zaměřuje právě na tato rizika a stanovuje jasné povinnosti pro jejich poskytovatele, aby zajistil odpovědný rozvoj a využívání těchto technologií. Pro poskytovatele i uživatele je klíčové pochopit, co AI Act v této oblasti vyžaduje, aby se vyhnuli potenciálním komplikacím a pokutám.

Co je General Purpose AI (GPAI) v kontextu AI Actu?

Předtím, než se ponoříme do konkrétních povinností, je nezbytné jasně definovat, co AI Act rozumí pod pojmem General Purpose AI (GPAI). Dle čl. 3 odst. 6b AI Actu (ve spojení s článkem 50) je GPAI model definován jako model umělé inteligence, včetně velkých multimodálních modelů, který je trénován na velkém množství dat, je navržen tak, aby měl širokou použitelnost a může být integrován do velkého množství následných systémů a aplikací. Jeho flexibilita spočívá v tom, že může být adaptován pro různé účely, aniž by byl původně navržen pro konkrétní, předem definovaný cíl.

To znamená, že modely jako ChatGPT, které lze použít pro psaní esejí, programování, brainstorming nebo analýzu, spadají přímo do této kategorie. AI Act rozlišuje mezi samotným GPAI modelem (např. základní model GPT-4) a GPAI systémem, který je založen na GPAI modelu a zahrnuje další komponenty (např. uživatelské rozhraní, specifické aplikace). Povinnosti stanovené v článcích 51 až 56 se primárně týkají poskytovatelů těchto základních GPAI modelů, ale mají kaskádovitý dopad i na ty, kdo je následně integrují do svých vlastních AI systémů. Důležité je si uvědomit, že AI Act se snaží pokrýt jak vývojáře těchto základních technologií, tak i ty, kdo je adaptují a uvádějí na trh v konkrétních aplikacích.

Základní povinnosti pro všechny poskytovatele GPAI modelů (Článek 51)

Všichni poskytovatelé GPAI modelů, bez ohledu na to, zda jsou považovány za modely se systémovým rizikem, musí splnit řadu klíčových povinností, které jsou detailně popsány v článku 51 AI Actu. Cílem je zajistit transparentnost, odpovědnost a minimalizaci rizik spojených s jejich širokým nasazením. Mezi nejdůležitější patří vytvoření a aktualizace technické dokumentace. Tato dokumentace musí obsahovat podrobné informace o architektuře modelu, trénovacích datech, metodách testování a validačních procesech. Je to základní kámen pro externí ověření a pochopení fungování modelu.

Dále je vyžadováno vypracování srozumitelných pokynů k používání, které musí obsahovat jasné informace o možnostech a omezeních modelu, včetně jeho potenciálních rizik a doporučení pro jeho bezpečné a etické nasazení. Poskytovatelé musí také zavést systém řízení kvality, který zajistí, že model je vyvíjen a testován v souladu s nejlepšími postupy. To zahrnuje opatření pro sledování výkonu modelu po uvedení na trh a rychlou reakci na případné nedostatky. Součástí povinností je i transparentnost ohledně spotřeby energie modelu a informování o souhrnu trénovacích dat, zejména těch, která jsou chráněna autorským právem, což úzce souvisí s dalšími články AI Actu.

GPAI modely se systémovým rizikem: Zpřísněné požadavky (Článek 52)

AI Act uznává, že některé GPAI modely mohou představovat větší hrozbu pro veřejný zájem a základní práva kvůli svému rozsahu a potenciálnímu dopadu. Proto článek 52 zavádí zpřísněné povinnosti pro GPAI modely, které jsou označeny jako modely se systémovým rizikem. Kritérium pro systémové riziko je primárně stanoveno na základě výpočetního výkonu použitého k trénování modelu, přičemž prahová hodnota je nastavena na 10^25 FLOPs (floating point operations). Toto číslo není náhodné, ale odráží schopnost modelu dosáhnout úrovně, kdy jeho selhání nebo zneužití může mít rozsáhlé a destabilizující dopady.

Poskytovatelé těchto modelů se systémovým rizikem musí splňovat všechny základní povinnosti, plus další specifické požadavky. Mezi ně patří provádění důkladného hodnocení modelu, které zahrnuje posouzení a zmírnění systémových rizik, a provádění tzv. adversarial testing, tedy testování odolnosti modelu vůči útokům nebo neočekávaným vstupům. Dále jsou povinni hlásit vážné incidenty a poruchy Evropskému úřadu pro AI (AI Office) a zajistit vysokou úroveň kybernetické bezpečnosti. Specifické požadavky se týkají i energetické účinnosti a monitorování zneužití. Cílem těchto zpřísněných pravidel je zajistit, aby modely s největším potenciálem dopadu byly podrobeny nejpřísnější kontrole a dohledu, což je pro budování důvěry v AI zásadní. Více o transparentních povinnostech se dočtete v našem článku o transparentní stránce.

Transparentnost a dodržování autorských práv: Klíčové pilíře (Článek 51 a 53)

Transparentnost je jedním z hlavních pilířů AI Actu, a to platí i pro GPAI modely. Článek 51 explicitně vyžaduje, aby poskytovatelé GPAI modelů zveřejnili souhrn obsahu použitého pro trénování modelu. Tato povinnost je klíčová pro pochopení, na jakých datech byly modely trénovány a jak to může ovlivnit jejich výstupy a potenciální předpojatosti. Cílem je umožnit veřejnosti a regulátorům lépe posoudit spolehlivost a etické aspekty těchto systémů. Kromě toho, pokud je GPAI model určen k generování textu, musí být jasně označeno, že obsah byl generován AI, aby se předešlo dezinformacím a zajistila se informovanost uživatelů.

Další zásadní oblastí je dodržování autorských práv, které je řešeno v článku 53. Vzhledem k tomu, že mnoho GPAI modelů je trénováno na obrovských množstvích dat z internetu, včetně obsahu chráněného autorskými právy, AI Act stanovuje, že poskytovatelé GPAI modelů musí zavést a dodržovat politiky, které respektují práva duševního vlastnictví. To zahrnuje implementaci mechanismů pro identifikaci a filtrování obsahu chráněného autorskými právy nebo získání příslušných licencí. Toto ustanovení reaguje na rostoucí obavy ohledně potenciálního porušování autorských práv a snaží se zajistit, aby inovace v oblasti AI probíhaly v souladu se stávajícími právními normami. Nedodržení těchto povinností může mít vážné důsledky, včetně vysokých pokut, jak je popsáno v našem článku o pokutách za porušení AI Actu.

Proč je dodržování povinností GPAI zásadní?

Dodržování povinností vyplývajících z AI Actu pro GPAI modely není jen byrokratickou zátěží, ale strategickou nutností. Pro poskytovatele to znamená budování důvěry u koncových uživatelů a obchodních partnerů, což je klíčové pro dlouhodobý úspěch na trhu. Zajištění transparentnosti a etického rozvoje pomáhá předcházet skandálům, právním sporům a poškození reputace. Pro uživatele GPAI modelů (firmy, které je integrují do svých řešení) je důležité vybrat si poskytovatele, který prokazatelně AI Act dodržuje, aby se sami vyhnuli riziku souvisejícímu s downstream aplikacemi.

AI Act tak vytváří konkurenční výhodu pro ty, kteří se aktivně zapojí do odpovědného rozvoje AI. Je to signál pro celý svět, že Evropa klade důraz na inovace, ale zároveň na ochranu práv jednotlivců a společnosti jako celku. Pro firmy jako AIshield.cz je to příležitost pomoci organizacím navigovat se v tomto komplexním prostředí a zajistit, že jejich AI systémy jsou nejen výkonné, ale i plně v souladu s regulacemi. Nečekejte, až bude pozdě – aktivní příprava je klíčem k úspěšnému přechodu do éry regulované umělé inteligence.

Související články

• Co je AI Act a proč je důležitý?
• Pokuty za porušení AI Actu