AI Literacy: Nová povinnost pro firmy od února 2025

AI Act a proměna firemního prostředí: Proč AI gramotnost?

Evropská unie se stala průkopníkem v regulaci umělé inteligence, a to s přijetím přelomového nařízení o umělé inteligenci, známého jako AI Act (Nařízení EU 2024/1689). Tento komplexní právní rámec má za cíl zajistit, aby AI systémy používané v EU byly bezpečné, transparentní, etické a respektovaly základní práva občanů. S jeho plnou účinností se blíží řada nových povinností pro firmy, a jednou z těch, která si zaslouží okamžitou pozornost, je požadavek na AI literacy zaměstnanců. Nejde o vzdálenou budoucnost, ale o realitu, která nastane už v únoru 2025.

AI Act mění pravidla hry pro každou organizaci, která se dotýká umělé inteligence – ať už ji vyvíjí, nasazuje, nebo dokonce jen používá jako koncový uživatel. Od kybernetické bezpečnosti, přes řízení rizik, až po ochranu dat a transparentnost, nařízení pokrývá široké spektrum oblastí. V tomto kontextu se AI literacy, tedy digitální gramotnost v oblasti umělé inteligence, stává nejen konkurenční výhodou, ale nově i mandatorní povinností, která je klíčová pro plynulý a bezpečný přechod do éry regulované AI.

Pro mnoho firem představuje AI Act významnou výzvu, ale zároveň i příležitost. Jde o investici do budoucnosti, do důvěry ve své systémy a do kvalifikace svých zaměstnanců. Ignorování těchto povinností by mohlo vést k nemalým problémům, včetně vysokých pokut, které mohou dosáhnout až desítek milionů eur, nebo procenta z celosvětového ročního obratu, jak stanoví článek 99 AI Actu. Proto je nezbytné začít se připravovat co nejdříve, a to právě se zaměřením na klíčovou oblast: vzdělávání a AI gramotnost.

Článek 4 AI Actu: Jádro požadavku na AI gramotnost

Jádro požadavku na AI gramotnost nalezneme v článku 4 AI Actu. Ten se zaměřuje na zajištění, aby osoby, které se podílejí na vývoji, nasazování nebo dohledu nad vysoce rizikovými AI systémy, disponovaly odpovídajícími znalostmi a dovednostmi. Konkrétně článek 4 stanoví, že provozovatelé vysoce rizikových systémů UI zajistí, aby jejich zaměstnanci, kteří se podílejí na obsluze a dohledu nad těmito systémy, měli dostatečnou AI literacy. To znamená, že musí být schopni porozumět možnostem a omezením těchto systémů, riziku zaujatosti (bias), dopadu na základní práva a také tomu, jak efektivně zasáhnout v případě problémů.

Tato povinnost se nevztahuje pouze na technické týmy. AI literacy je relevantní pro široké spektrum zaměstnanců. Může jít o produktové manažery, kteří definují požadavky na AI, právníky a specialisty na compliance, kteří posuzují soulad s předpisy, manažery lidských zdrojů, kteří využívají AI pro nábor, nebo i vrcholové vedení, které rozhoduje o strategickém nasazení AI. Klíčové je, že každý, kdo přichází do styku s vysoce rizikovými AI systémy, ať už přímo, nebo nepřímo, musí mít odpovídající úroveň AI gramotnosti.

Cílem článku 4 je minimalizovat rizika spojená s nesprávným používáním nebo nedorozuměním AI systémů. Pokud zaměstnanci plně nerozumí, jak AI funguje, jaká jsou její omezení a potenciální dopady, může dojít k vážným chybám. To může zahrnovat diskriminaci, porušení soukromí, nebo dokonce bezpečnostní incidenty. Zajištění AI literacy tak není jen splněním právní povinnosti, ale především proaktivním krokem k ochraně uživatelů, firemní reputace a celkové důvěryhodnosti AI systémů.

Co znamená AI literacy a proč je klíčová pro vaši firmu?

AI literacy v kontextu AI Actu neznamená, že se každý zaměstnanec musí stát expertem na strojové učení nebo programování. Znamená to spíše schopnost porozumět základním principům umělé inteligence, jejím možnostem a omezením, etickým důsledkům a potenciálním rizikům. Pro zaměstnance, kteří pracují s vysoce rizikovými AI systémy, to zahrnuje také pochopení specifik konkrétních systémů, jejich datových vstupů, výstupů a schopnosti interpretovat výsledky s kritickým myšlením. Jde o schopnost identifikovat, kdy je AI systém vhodný pro daný úkol, kdy by mohl selhat, a jaké jsou jeho dopady na lidi a společnost.

Tato gramotnost je klíčová z několika důvodů. Zaprvé, umožňuje zaměstnancům efektivněji a bezpečněji pracovat s AI systémy. S lepším pochopením AI mohou lépe identifikovat potenciální chyby, zaujatosti (bias) nebo neočekávané výsledky. Zadruhé, zvyšuje to schopnost firmy plnit regulační požadavky, jako jsou požadavky na transparentnost a dohled. Zaměstnanci, kteří rozumí AI, jsou lépe vybaveni k dokumentaci procesů a k vysvětlování rozhodnutí AI systému.

Zatřetí, investice do AI literacy posiluje inovace a konkurenceschopnost. Vzdělaní zaměstnanci jsou schopni lépe identifikovat příležitosti pro využití AI, ale také kriticky posoudit její limity. A konečně, AI literacy buduje důvěru. Provozovatelé AI systémů mají dle článku 5 povinnost informovat uživatele o použití AI. Kvalitní AI literacy mezi zaměstnanci napomáhá správné komunikaci o AI a buduje důvěru u koncových uživatelů a zákazníků, což je v dnešní době neocenitelné. Je to investice do lidského kapitálu, která se vrátí v podobě lepšího výkonu, snížení rizik a silnějšího postavení na trhu.

Praktické kroky k dosažení souladu: Školení a interní procesy

Splnění požadavku na AI literacy vyžaduje systematický přístup. Prvním krokem je identifikace zaměstnanců, kteří přicházejí do styku s vysoce rizikovými AI systémy. To může zahrnovat týmy vývoje, provozu, produktového managementu, ale i HR nebo právní oddělení, pokud jejich práce souvisí s AI, která spadá do kategorie vysokého rizika. Dále je nutné definovat konkrétní znalosti a dovednosti, které tito zaměstnanci potřebují na základě jejich role a úrovně interakce s AI.

Následně je třeba navrhnout a implementovat efektivní školení. Školení by měla být diferencovaná: pro některé zaměstnance postačí základní povědomí o AI, etice a rizicích, zatímco pro jiné budou potřeba detailnější kurzy zaměřené na konkrétní AI technologie, datovou etiku, detekci zaujatosti nebo procesy ověřování a validace AI systémů. Důležité je, aby školení byla pravidelná a aktualizovaná v souladu s rychlým vývojem AI technologií a regulačního prostředí. Může jít o interní workshopy, e-learningové kurzy, certifikované programy nebo externí konzultace.

Kromě formálního školení je klíčové zavést interní procesy, které podporují kontinuální rozvoj AI gramotnosti. To zahrnuje tvorbu interních směrnic a nejlepších postupů pro práci s AI, zavedení mechanismů pro sdílení znalostí a osvědčených postupů, a také podporu kultury otevřené diskuse o etických a bezpečnostních aspektech AI. Dokumentace těchto procesů a záznamy o absolvovaných školeních budou nezbytné pro prokázání souladu s AI Actem při případných auditech. Připravit se na AI Act efektivně vyžaduje komplexní strategii, která zahrnuje nejen technické a právní aspekty, ale i rozvoj lidského kapitálu. Více o tom, jak se komplexně připravit, najdete v našem článku na téma Jak se připravit na AI Act.

Termín se blíží: Únor 2025 už klepe na dveře

Časový plán pro implementaci AI Actu je poměrně ambiciózní, a konkrétně pro článek 4 a požadavek na AI literacy je termín stanoven na únor 2025. To znamená, že firmy mají jen omezený čas na to, aby identifikovaly relevantní zaměstnance, posoudily jejich stávající úroveň AI gramotnosti, navrhly a spustily odpovídající školící programy a zavedly potřebné interní procesy. Odkládání příprav na poslední chvíli může mít vážné důsledky.

Nedodržení požadavků AI Actu, včetně těch týkajících se AI literacy, může vést k vysokým pokutám. Jak již bylo zmíněno, pokuty za porušení některých ustanovení mohou dosáhnout až 35 milionů eur nebo 7 % celkového celosvětového ročního obratu podniku za předchozí finanční rok, podle toho, co je vyšší. Tyto sankce jsou navrženy tak, aby byly odstrašující a zajistily, že firmy budou brát regulaci vážně. Více informací o pokutách najdete v našem podrobném článku o pokutách za porušení AI Actu.

Kromě finančních sankcí existuje i riziko poškození reputace. Společnost, která nedokáže zajistit etické a bezpečné používání AI, riskuje ztrátu důvěry zákazníků, partnerů a veřejnosti. V dnešní době, kdy je transparentnost a etika v centru pozornosti, je dodržování AI Actu klíčové pro udržení pozitivního image a dlouhodobé udržitelnosti podnikání. Proto je strategické plánování a včasná implementace požadavků na AI literacy naprosto nezbytná.

AIshield.cz: Váš partner na cestě k AI compliance

Pochopení a implementace všech požadavků AI Actu, včetně AI literacy, může být pro mnoho firem náročný úkol. AIshield.cz je zde, aby vám tuto cestu usnadnil. Nabízíme komplexní řešení pro posouzení souladu vašich AI systémů s AI Actem, identifikaci rizik a návrh konkrétních kroků k dosažení plné compliance. Naše platforma vám pomůže nejen s technickými aspekty, ale i s přípravou na nové povinnosti týkající se AI gramotnosti.

S našimi nástroji můžete efektivně auditovat vaše stávající AI systémy, získat detailní reporty o souladu s AI Actem a identifikovat oblasti, kde je potřeba zlepšení. Pomůžeme vám pochopit, které z vašich systémů spadají pod definici vysoce rizikových AI systémů a jaké konkrétní požadavky na AI literacy a další aspekty se na ně vztahují. Náš tým expertů je připraven vám poradit s nastavením interních procesů a školení, abyste byli na únor 2025 plně připraveni.

Nenechte se zaskočit novou legislativou. Začněte s přípravou na AI Act hned teď. Zjistěte, jak jsme na tom s AI Actem, a připravte se na budoucnost AI s důvěrou. Pro rychlý přehled stavu vašeho webu a AI systémů, navštivte náš skenovací nástroj. Získejte první vhled do vaší připravenosti na AI Act ještě dnes! Navštivte: aishield.cz/scan

Související články

• pokutách za porušení AI Actu
• Jak se připravit na AI Act