AI Act a robotika: Průmysloví roboti pod regulací

Úvod: Nová éra regulace pro robotiku

Svět robotiky se neustále vyvíjí, a s ním i role umělé inteligence. Průmysloví roboti, kdysi pouhé automatizované stroje, jsou dnes stále častěji vybaveni sofistikovanými systémy AI, které jim umožňují adaptivní učení, prediktivní údržbu a interakci s komplexním prostředím. Tato revoluce přináší obrovské příležitosti pro zvýšení efektivity a inovace, ale zároveň i nové výzvy v oblasti bezpečnosti a etiky. A právě zde vstupuje do hry Nařízení EU o umělé inteligenci, známé jako AI Act, které má za cíl tyto výzvy řešit.

AI Act, který vstoupil v platnost v březnu 2024, představuje globální precedent pro regulaci AI technologií. Jeho cílem je zajistit, aby systémy umělé inteligence používané v EU byly bezpečné, transparentní, nediskriminační a respektovaly základní práva. Pro sektor robotiky, a zejména pro průmyslové roboty, má toto nařízení dalekosáhlé dopady. Již nyní je jasné, že firmy, které vyvíjejí, vyrábějí nebo nasazují roboty s integrovanou AI, se budou muset adaptovat na nová pravidla a přísné požadavky na shodu.

Proč jsou průmysloví roboti pod drobnohledem AI Actu?

Základní princip AI Actu spočívá v klasifikaci AI systémů podle míry rizika, kterou představují pro zdraví, bezpečnost a základní práva občanů. Nařízení rozlišuje čtyři kategorie: nepřijatelné riziko, vysoké riziko, omezené riziko a minimální riziko. Pro průmyslovou robotiku je klíčová kategorie vysoce rizikových systémů AI. Podle Článku 6 odst. 2 a Přílohy III bodu 1(a) jsou za vysoce rizikové považovány AI systémy, které jsou určeny k použití jako bezpečnostní komponenty produktu, nebo jako produkt sám, který je předmětem harmonizační legislativy EU, jako je například směrnice o strojních zařízeních (Machinery Directive).

To znamená, že pokud váš průmyslový robot obsahuje AI systém, který zajišťuje bezpečnostní funkce – například detekci kolizí, bezpečné zastavení, monitorování pohybu v blízkosti člověka, nebo je sám o sobě klíčovou součástí bezpečného provozu stroje – pak spadá do kategorie vysoce rizikových systémů AI. Nejde tedy o každý robot, ale o ty, jejichž selhání by mohlo vést k závažné újmě na zdraví, životě nebo majetku. Regulace si uvědomuje, že průmyslový robot pracující v těsné blízkosti lidských operátorů nebo s nebezpečnými materiály, představuje inherentní riziko, které musí být důsledně řízeno a minimalizováno.

Tato klasifikace má zásadní důsledky, protože na vysoce rizikové systémy AI se vztahují nejpřísnější povinnosti a požadavky na shodu, které výrobci a dodavatelé musí splnit před uvedením produktu na trh EU. Porozumění, zda váš robotický systém spadá do této kategorie, je proto prvním a nejdůležitějším krokem k zajištění shody s AI Actem.

Klíčové povinnosti pro výrobce a dodavatele vysoce rizikových robotických systémů

Pro výrobce a dodavatele průmyslových robotů s vysoce rizikovými AI systémy zavádí AI Act řadu přísných povinností, které přesahují stávající požadavky na strojní zařízení. Tyto povinnosti, podrobně rozvedené v Kapitole 3 AI Actu, zahrnují komplexní sadu požadavků na celý životní cyklus AI systému – od návrhu a vývoje až po nasazení a post-tržní monitorování.

Jednou z nejdůležitějších je zavedení robustního systému řízení rizik (Článek 9), který musí být průběžně aktualizován. To znamená systematickou identifikaci, analýzu a hodnocení rizik spojených s AI systémem, a implementaci opatření k jejich zmírnění. Další klíčovou oblastí je správa dat (data governance) a kvalita dat (Článek 10), na kterých je AI systém trénován, testován a validován. Data musí být relevantní, reprezentativní, dostatečně robustní a bez chyb, aby se zabránilo diskriminaci a zajistila přesnost a spolehlivost AI systému. Nepřesná nebo nekvalitní data mohou vést k neočekávanému chování robota a bezpečnostním incidentům.

Výrobci budou muset rovněž zajistit vysokou úroveň technické dokumentace (Článek 11), která detailně popisuje AI systém, jeho účel, výkonnost, omezení a proces vývoje. Tato dokumentace je klíčová pro posuzování shody a pro audit. Dále je vyžadována transparentnost a poskytování informací uživatelům (Článek 13), aby bylo jasné, jak AI systém funguje a jaké jsou jeho limity. Nezbytná je také lidská kontrola (human oversight) (Článek 14), která zajišťuje, že lidé mohou efektivně dohlížet na AI systém a v případě potřeby zasáhnout nebo systém vypnout. V neposlední řadě jsou stanoveny požadavky na robustnost, přesnost a kybernetickou bezpečnost (Článek 15) AI systémů, aby byly odolné proti chybám, útokům a neočekávaným situacím. Každý krok v životním cyklu průmyslového robota s AI musí být pečlivě zdokumentován a ověřen, což značně zvyšuje komplexnost vývoje a provozu. Pro detailní přehled o povinnostech doporučujeme prostudovat náš článek o tom, jak připravit firmu na AI Act.

Splnění těchto povinností vyžaduje nejen technické, ale i organizační a procesní změny v celém dodavatelském řetězci. Firmy musí investovat do školení personálu, revize interních procesů a potenciálně i do nových technologií pro monitorování a testování AI systémů.

Synergie s Machinery Directive a role CE značení

Jedním z klíčových aspektů AI Actu v kontextu průmyslové robotiky je jeho vztah k existující legislativě, zejména ke směrnici o strojních zařízeních (Machinery Directive 2006/42/EC), která bude brzy nahrazena novým nařízením o strojních zařízeních (Machinery Regulation 2023/1230). AI Act není zamýšlen jako náhrada stávajících bezpečnostních předpisů, nýbrž jako jejich doplnění. Cílem je vytvořit jednotný a ucelený právní rámec, který zajistí komplexní bezpečnost a shodu robotických systémů.

V praxi to znamená, že průmyslový robot s AI, který je považován za vysoce rizikový AI systém, bude muset splňovat požadavky obou právních předpisů. Bude se na něj vztahovat jak posuzování shody podle AI Actu (Článek 43), tak i posuzování shody podle Machinery Directive/Regulation. Výsledkem úspěšného posouzení shody podle obou nařízení bude možnost umístění CE značky na produkt. Tato značka pak signalizuje, že produkt splňuje všechny relevantní požadavky EU na bezpečnost, zdraví a ochranu životního prostředí, včetně těch, které se týkají AI.

Integrace těchto požadavků představuje výzvu, ale zároveň i příležitost pro výrobce. Místo dvou oddělených procesů posuzování shody je cílem optimalizovat a integrovat tyto postupy tak, aby se minimalizovala administrativní zátěž. Je klíčové, aby výrobci pochopili, jak se povinnosti z AI Actu prolínají s požadavky na strojní zařízení a jak je efektivně zahrnout do svých interních procesů pro design, výrobu a testování robotických systémů. Zapojení notifikované osoby bude v mnoha případech nezbytné pro ověření shody s oběma nařízeními, což je detailně popsáno v našem článku o rizikových kategoriích AI Actu.

Dopady a výzvy pro průmysl robotiky

Implementace AI Actu přinese průmyslu robotiky značné dopady a výzvy. Firmy budou muset investovat do revize stávajících produktů a vývojových procesů, do školení svých týmů a do zavedení nových systémů pro správu dat a řízení rizik. To vše povede k počátečním nákladům a potenciálnímu zpomalení inovačního cyklu, dokud se odvětví plně neadaptuje na nová pravidla.

Jednou z největších výzev bude zajištění dostupnosti kvalifikovaných odborníků, kteří rozumí jak robotice, tak AI Actu a jeho technickým požadavkům. Bude potřeba specialistů na etiku AI, datovou kvalitu, kybernetickou bezpečnost a certifikační procesy. Menší a střední podniky (MSP) mohou čelit větším potížím s alokací zdrojů na splnění nových požadavků, což může vést k nerovnostem na trhu.

Navzdory výzvám AI Act přináší i významné příležitosti. Zavedení jasných pravidel a standardů pro bezpečnost a spolehlivost AI systémů může zvýšit důvěru spotřebitelů a průmyslových uživatelů v robotické technologie. Firmy, které prokáží shodu s nařízením, získají konkurenční výhodu a přístup na evropský trh s jednotnými pravidly. Dlouhodobě to může vést k vývoji bezpečnějších, robustnějších a etičtějších robotických systémů, které budou lépe přijímány společností a budou moci plně využít svůj potenciál k transformaci průmyslu a zlepšení kvality života.

Závěr: Budoucnost bezpečné a inovativní robotiky

AI Act je bezpochyby transformačním právním aktem, který mění pravidla hry pro celý průmysl umělé inteligence, a robotika není výjimkou. Pro výrobce a dodavatele průmyslových robotů s integrovanou AI to znamená nutnost proaktivního přístupu k plnění nových povinností, které se týkají bezpečnosti, transparentnosti a etiky. Ačkoliv počáteční fáze adaptace může být náročná, dlouhodobým výsledkem bude robustnější a důvěryhodnější ekosystém robotiky, který bude schopen plně využít potenciál AI bez kompromisů v oblasti bezpečnosti.

Připravte se na tyto změny včas a zajistěte, aby vaše robotické systémy byly v souladu s novou legislativou. AIshield.cz je vaším partnerem na cestě k plné shodě s AI Actem. Náš tým expertů je připraven vám pomoci identifikovat rizika, nastavit procesy a provést audit vašich AI systémů. Nenechávejte shodu na poslední chvíli. Zjistěte, jak jsme na tom s AI Actem ve vaší firmě ještě dnes.

Související články

• jak připravit firmu na AI Act
• rizikových kategoriích AI Actu