AI Literacy: Nová povinnost pro firmy od února 2025

AI Act a AI Literacy: Proč je to najednou klíčové?

Evropská unie se s přijetím Nařízení EU 2024/1689, známého jako AI Act, stává průkopníkem v regulaci umělé inteligence. Cílem je zajistit, aby AI systémy byly bezpečné, etické a respektovaly základní práva občanů. Nicméně, aby tato regulace nebyla jen prázdnou frází na papíře, je nezbytné, aby se s ní seznámili ti, kteří s AI systémy denně pracují. A právě zde přichází na scénu klíčový koncept: AI literacy, neboli AI gramotnost. Nejedná se o pouhý trend, ale o novou, legislativně vynucenou povinnost, která se dotkne každé firmy využívající AI.

Zatímco mnohé firmy se soustředí na technickou implementaci a dodržování požadavků na vysoce rizikové AI systémy, často opomíjejí jeden z nejzákladnějších, a přitom nejdůležitějších aspektů: lidský faktor. AI Act si je tohoto vědom a v jeho Článku 4 explicitně uvádí požadavek na adekvátní úroveň AI gramotnosti pro zaměstnance. A co je nejdůležitější? Tento požadavek nabývá účinnosti již v únoru 2025, což nechává firmám jen omezený čas na přípravu. Je tedy nejvyšší čas se zamyslet nad tím, jak zajistit, aby vaši zaměstnanci byli na novou éru AI připraveni.

Co přesně požaduje Článek 4 AI Actu?

Článek 4 Nařízení EU 2024/1689 (AI Act) se zaměřuje na opatření, která mají zajistit, že AI systémy jsou provozovány s náležitou péčí a porozuměním. Konkrétně stanovuje, že poskytovatelé vysoce rizikových AI systémů a subjekty, které tyto systémy používají (tzv. uživatelé nebo „deployers“), musí zajistit, aby jejich zaměstnanci, kteří s těmito systémy přicházejí do styku, disponovali dostatečnou úrovní AI gramotnosti. To zahrnuje pochopení rizik, omezení a potenciálních předsudků spojených s danými AI systémy, stejně jako schopnost interpretovat jejich výstupy.

Pro poskytovatele to znamená, že musí zajistit, aby jejich technický i netechnický personál byl schopen navrhovat, vyvíjet a testovat AI systémy s ohledem na bezpečnost a transparentnost. Uživatelé pak musí garantovat, že jejich **zaměstnanci**, kteří AI systémy implementují, monitorují nebo na základě jejich výstupů dělají rozhodnutí, rozumí tomu, jak AI funguje, jaké jsou její silné a slabé stránky, a jak správně reagovat na případné chyby nebo neočekávané výsledky. Cílem je minimalizovat riziko lidské chyby a zajistit odpovědné používání AI technologie v každodenní praxi. Nejde tedy jen o to mít AI systémy v souladu s regulací, ale také o to, aby je lidé správně chápali a používali.

Nejde jen o IT oddělení: Kdo musí být AI gramotný?

Často se mylně předpokládá, že povinnost **AI literacy** se týká pouze IT specialistů nebo vývojářů. Realita je však mnohem širší. AI Act se explicitně vztahuje na všechny **zaměstnance**, kteří s AI systémy interagují, ať už přímo při jejich vývoji, nasazení, monitorování, nebo dokonce při interpretaci jejich výstupů pro strategické rozhodování. To zahrnuje širokou škálu rolí v organizaci: od managementu, přes právní oddělení, HR, marketing, až po zákaznickou podporu. Pokud váš tým používá chatboty pro komunikaci se zákazníky, nástroje pro automatizaci procesů, prediktivní analytiku v HR nebo marketingové segmentaci, dotýká se jich tato povinnost.

Například, HR specialisté využívající AI pro screening životopisů musí rozumět potenciálním předsudkům v algoritmech, aby nedocházelo k diskriminaci. Marketingoví pracovníci, kteří používají AI pro personalizaci obsahu, musí chápat etické aspekty a ochranu dat. Manažeři rozhodující na základě AI reportů potřebují kriticky vyhodnocovat spolehlivost a omezení těchto dat. Každý, kdo je součástí řetězce, kde AI hraje roli, musí mít adekvátní úroveň **AI gramotnosti**, aby mohl efektivně a bezpečně s těmito systémy pracovat. To vyžaduje komplexní přístup k **školení** a vzdělávání napříč celou organizací, nejen v technických týmech.

Jak AI gramotnost prakticky implementovat? Školení je základ.

Splnění požadavků Článku 4 na **AI literacy** vyžaduje systematický přístup. Klíčovým prvkem je zavedení komplexního programu **školení** pro vaše **zaměstnance**. Toto školení by nemělo být jednorázovou akcí, ale spíše kontinuálním procesem, který se přizpůsobuje novým technologiím a změnám v regulaci. Mělo by pokrývat základní principy AI, fungování konkrétních AI systémů používaných ve vaší firmě, jejich potenciální rizika a omezení, etické aspekty a samozřejmě i specifické povinnosti vyplývající z **AI Actu**.

Při navrhování programu **školení** je důležité rozlišovat mezi různými úrovněmi znalostí. Zatímco někteří **zaměstnanci** budou potřebovat hlubší technické znalosti, pro jiné postačí základní povědomí o tom, jak AI funguje a jaké má dopady na jejich práci. Firmy mohou využít interní zdroje, externí odborníky nebo kombinaci obojího. K dispozici jsou online kurzy, workshopy, webináře a certifikační programy. Důležité je také vytvořit interní směrnice a postupy, které jasně definují, jak s AI systémy zacházet a jak řešit případné problémy. Investice do **školení** není jen náklad, ale strategická investice do odolnosti a konkurenceschopnosti vaší firmy v digitální éře. Pro více informací o přípravě na AI Act doporučujeme náš článek Jak se připravit na AI Act.

Zajištění **AI literacy** by mělo být součástí celkové strategie řízení rizik a compliance. Pravidelné hodnocení úrovně znalostí **zaměstnanců** a aktualizace **školení** jsou nezbytné pro udržení souladu s regulací. Pamatujte, že správně vyškolení **zaměstnanci** jsou vaší první linií obrany proti potenciálním rizikům spojeným s AI a zároveň katalyzátorem pro inovace a efektivitu.

AI Literacy jako konkurenční výhoda a ochrana před riziky

Na první pohled se může požadavek na **AI literacy** jevit jako další byrokratická zátěž. Nicméně, inteligentní firmy v něm uvidí příležitost. Zajištění, že vaši **zaměstnanci** rozumí AI, nejenže snižuje riziko pokut za nedodržení **AI Actu** (které mohou být, jak uvádí Článek 99, značné), ale také výrazně zlepšuje operační efektivitu a podporuje inovace. Lépe informovaný tým dokáže efektivněji využívat AI nástroje, identifikovat nové příležitosti a minimalizovat chyby.

Kromě compliance a efektivity, AI gramotnost buduje důvěru. Když **zaměstnanci** chápou, jak AI systémy fungují, jsou schopni lépe vysvětlovat jejich fungování zákazníkům, partnerům i regulátorům. To posiluje transparentnost a důvěryhodnost vaší značky. V době, kdy se etické otázky kolem AI dostávají do popředí, je proaktivní přístup k **AI literacy** jasným signálem, že vaše firma bere odpovědné používání technologie vážně. V konečném důsledku se **AI literacy** stává klíčovou konkurenční výhodou na trhu, který se stále více opírá o data a automatizaci. Pro pochopení možných sankcí si přečtěte náš text o pokutách za porušení AI Actu.

Nenechte se zaskočit: Začněte s přípravou hned!

Únor 2025 se kvapem blíží a s ním i povinnost zajistit **AI literacy** vašich **zaměstnanců** podle **Článku 4 AI Actu**. Neodkládejte přípravu na poslední chvíli. Proaktivní přístup vám umožní nejen splnit legislativní požadavky, ale také získat náskok před konkurencí a posílit vaši pozici na trhu.

Ať už jste poskytovatelem AI systémů, nebo je ve své firmě využíváte, je nezbytné zmapovat, které AI systémy používáte, kdo s nimi přichází do styku a jakou úroveň **AI gramotnosti** tito **zaměstnanci** potřebují. Následně je třeba implementovat vhodný program **školení** a zajistit pravidelnou aktualizaci znalostí. S AIshield.cz získáte komplexní přehled o tom, jak vaše AI systémy vyhovují **AI Actu** a kde je třeba zapracovat. Náš nástroj vám pomůže identifikovat rizika a navrhnout konkrétní kroky k dosažení plné shody, včetně doporučení pro **školení** vašich **zaměstnanců**.

Související články

• Jak se připravit na AI Act
• pokutách za porušení AI Actu