Co je AI systém? Definice podle AI Actu (článek 3)

Proč je definice AI systému tak důležitá?

Evropská unie se stala průkopníkem v regulaci umělé inteligence s přijetím AI Actu (Nařízení EU 2024/1689). Toto přelomové nařízení má za cíl zajistit, aby AI systémy používané v EU byly bezpečné, transparentní a respektovaly základní práva. Ale než se pustíme do detailů, jako jsou vysoce rizikové kategorie, zákazy nebo transparentnost, musíme si ujasnit jednu zásadní věc: Co je to vlastně ten AI systém, o kterém AI Act mluví?

Pochopení této definice je naprosto klíčové, protože je to vstupní brána k celému nařízení. Pokud váš systém spadá pod definici AI systému, pak na něj AI Act dopadá se všemi svými povinnostmi. Pokud nikoli, nařízení se vás (alespoň v tomto ohledu) netýká. Pro firmy a vývojáře je proto nezbytné přesně vědět, kde leží hranice. A právě k tomu nám slouží článek 3 odstavec 1 AI Actu.

Na první pohled se může zdát, že definice AI je snadná. Všichni máme nějakou intuitivní představu. Nicméně, právní předpis potřebuje být přesný a zároveň dostatečně flexibilní, aby obstál v rychle se vyvíjejícím technologickém prostředí. Pojďme se tedy podívat, jak AI Act tuto výzvu řeší.

Jádro definice: Co je AI systém podle AI Actu?

AI Act v článku 3 odstavec 1 definuje AI systém jako: strojově založený systém navržený s různým stupněm autonomie, který může vykazovat adaptivní chování po zavedení a který pro explicitní nebo implicitní cíle odvozuje z poskytnutých vstupů, jak generovat výstupy, jako jsou předpovědi, doporučení nebo rozhodnutí, které mohou ovlivňovat fyzické nebo virtuální prostředí.

Tato definice je poměrně komplexní, ale rozebereme si ji krok za krokem. Zaprvé, jde o 'strojově založený systém', což primárně odkazuje na software. Zadruhé, systém je 'navržený s různým stupněm autonomie'. To znamená, že AI systém nemusí být plně autonomní; stačí, aby měl určitou míru schopnosti fungovat bez přímého lidského zásahu. Tato autonomie je klíčová pro odlišení od jednoduchých automatizovaných skriptů.

Třetím důležitým prvkem je 'adaptivní chování po zavedení'. To naznačuje, že systém se dokáže učit nebo se měnit na základě nových dat nebo interakcí, i poté, co byl nasazen do provozu. To je typické pro techniky machine learningu. A konečně, AI systém 'odvozuje z poskytnutých vstupů, jak generovat výstupy, jako jsou předpovědi, doporučení nebo rozhodnutí, které mohou ovlivňovat fyzické nebo virtuální prostředí'. Zde vidíme, že systém zpracovává data (vstupy) a vytváří z nich smysluplné výsledky (výstupy), které mají nějaký dopad na svět kolem nás, ať už reálný, nebo digitální. To je esence funkčnosti každého AI systému.

Klíčové prvky a technologie zahrnuté v definici

Aby byla definice ještě srozumitelnější a zároveň odolná vůči budoucímu vývoji technologií, AI Act v recitálu 6 a Příloze I upřesňuje, jaké typy technologií pod ni spadají. Mezi ty hlavní patří: machine learning přístupy (včetně učení pod dohledem, bez dohledu, posilovaného učení), logické a znalostní přístupy (například expertní systémy, bayesovské sítě) a statistické přístupy (jako jsou regresní modely, shlukování).

To znamená, že pokud váš software využívá například neuronové sítě pro rozpoznávání obrazu, rozhodovací stromy pro doporučování produktů, nebo složité statistické modely pro detekci podvodů, je velmi pravděpodobné, že se jedná o AI systém dle AI Actu. Důraz je kladen na schopnost systému učit se z dat a odvozovat z nich nové poznatky nebo vzorce, nikoli pouze vykonávat předem naprogramované, pevné instrukce.

Příkladem může být chatbot, který se učí z konverzací se zákazníky a zlepšuje své odpovědi (machine learning), nebo systém pro řízení dopravy, který optimalizuje semafory na základě aktuálního provozu a historických dat (kombinace machine learningu a logických přístupů). Všechny tyto příklady splňují kritéria adaptivního chování, autonomie a generování výstupů, které ovlivňují prostředí.

Co (zatím) není AI systém podle AI Actu?

Stejně důležité jako vědět, co AI systém je, je vědět i to, co jím není. AI Act záměrně není zamýšlen k regulaci každého softwaru nebo každého automatizačního nástroje. Pokud systém postrádá klíčové prvky, jako je adaptivní chování nebo dostatečný stupeň autonomie, s největší pravděpodobností se na něj AI Act nevztahuje.

Jednoduché automatizační skripty, které provádějí předem definované úkoly bez jakékoli schopnosti učení nebo adaptace, obvykle nejsou AI systémy. Příkladem může být makro v Excelu, které sčítá sloupce, nebo jednoduchý spamový filtr, který blokuje e-maily obsahující pevně daná klíčová slova bez jakéhokoli strojového učení. Tyto systémy pouze vykonávají přesné instrukce a nemění své chování na základě nových dat nebo zkušeností.

Podobně ani tradiční databáze, vyhledávače (pokud nevyužívají pokročilé ML algoritmy pro personalizaci výsledků) nebo základní systémy pro správu obsahu nejsou samy o sobě AI systémy. Rozhodující je, zda systém dokáže 'odvozovat' a 'adaptovat se', generovat 'předpovědi, doporučení nebo rozhodnutí', která mají reálný dopad. Pokud systém pouze zobrazuje data nebo vykonává pravidla, která zůstávají statická, AI Act se na něj pravděpodobně nevztahuje.

Proč je tato definice tak důležitá? Dopady a souvislosti

Jak již bylo řečeno, definice AI systému je základním kamenem celého nařízení. Bez ní by nebylo možné určit, na které systémy se AI Act vůbec vztahuje. Jakmile je systém identifikován jako AI systém, otevírá se cesta k dalším povinnostem a regulacím.

Například, pokud je váš systém AI systémem, je třeba posoudit, zda nespadá do kategorie zakázaných AI systémů podle článku 5. Dále je nutné zjistit, zda se nejedná o vysoce rizikový AI systém, jak je popsáno v článku 6 a Příloze III AI Actu. Vysoce rizikové systémy mají nejpřísnější požadavky, včetně povinnosti provádět hodnocení shody, dodržovat přísné standardy pro kvalitu dat, lidský dohled a robustnost. Pro více informací si přečtěte náš článek o vysoce rizikových AI systémech.

Kromě toho se na určité typy AI systémů vztahují specifické povinnosti transparentnosti, například podle článku 50 AI Actu pro AI systémy, které interagují s lidmi nebo generují syntetický obsah. Pochopení definice AI systému je proto prvním a nejdůležitějším krokem k zajištění souladu s AI Actem a minimalizaci rizika potenciálních pokut, které mohou dosáhnout desítek milionů eur.

Každá společnost, která vyvíjí, nasazuje nebo používá AI systémy v EU, musí provést důkladnou analýzu svých systémů a zjistit, zda spadají pod tuto definici. Jedině tak lze efektivně plánovat další kroky a zajistit, že všechny povinnosti stanovené AI Actem budou splněny včas.

Připravte se na AI Act s AIshield.cz

Porozumění definici AI systému je jen začátek vaší cesty k souladu s AI Actem. Nařízení přináší řadu nových povinností, které vyžadují komplexní přístup k řízení rizik, správě dat a transparentnosti. Pro mnoho firem to představuje značnou výzvu, zejména při identifikaci všech AI systémů a jejich správné klasifikaci.

Nezůstávejte pozadu a začněte s přípravou co nejdříve. Na AIshield.cz vám pomůžeme s analýzou vašich AI systémů a identifikací potenciálních rizik a povinností podle AI Actu. Náš nástroj je navržen tak, aby vám usnadnil proces skenování a hodnocení. Zjistěte, kde se nacházíte a jaké kroky je třeba podniknout.

Pochopení definice AI systému je zásadní. Dovolte nám, abychom vám pomohli s dalšími kroky k bezpečnému a legálnímu využívání umělé inteligence. Začněte s námi ještě dnes.

Související články

• vysoce rizikových AI systémech
• článek o transparentnostních povinnostech