AI Act pro obce a města: Povinnosti samospráv v éře umělé inteligence

Umělá inteligence ve službách veřejnosti: Příležitosti i nové výzvy pro samosprávy

Digitální transformace ovlivňuje všechny sféry společnosti a veřejná správa není výjimkou. Umělá inteligence (AI) se stává stále běžnější součástí fungování obcí a měst, nabízí potenciál pro efektivnější služby občanům, optimalizaci dopravy, predikci údržby infrastruktury nebo zlepšení sociálních služeb. Od chytrých chatbotů na webových stránkách radnic, přes systémy řízení dopravního provozu, až po komplexní nástroje pro správu sociální péče, AI slibuje revoluci v poskytování veřejných služeb. Tento technologický pokrok však přináší i nové výzvy, zejména v oblasti etiky, bezpečnosti a ochrany základních práv.

S příchodem Nařízení Evropského parlamentu a Rady (EU) 2024/1689, známého jako AI Act, se situace pro samosprávy zásadně mění. Tento průkopnický právní předpis si klade za cíl regulovat vývoj a používání AI systémů v Evropské unii, a to s důrazem na minimalizaci rizik a ochranu občanů. Pro obce a města to znamená, že se z uživatelů AI systémů, často označovaných jako "deployeři", stávají subjekty s konkrétními právními povinnostmi, jejichž nedodržení může mít vážné důsledky. Je tedy nezbytné, aby se každá samospráva, která AI systémy využívá nebo plánuje využívat, seznámila s novými pravidly a aktivně se připravila na jejich implementaci.

Obce a města jako 'Deployeři' AI systémů: Klíčová role v AI Actu

AI Act definuje různé aktéry v životním cyklu AI systémů, přičemž pro obce a města je klíčová role tzv. 'deployera' (Čl. 3, bod 16). Deployer je jakákoli fyzická nebo právnická osoba, orgán veřejné moci, agentura nebo jiný subjekt, který používá AI systém pod svou vlastní autoritou. V kontextu veřejné správy to znamená, že pokud vaše obec nebo město implementuje a používá AI systém – ať už jde o chatbot pro komunikaci s občany, systém pro optimalizaci svozu odpadu, nebo software pro analýzu dat v sociálních službách – stáváte se deployerem a musíte plnit odpovídající povinnosti.

Důležité je si uvědomit, že AI Act se nevztahuje pouze na ty nejsofistikovanější a nejmodernější AI systémy. Jeho působnost je široká a může se týkat i zdánlivě jednoduchých nástrojů. Kde se tedy AI systémy v obcích a městech nejčastěji objevují? Může jít o systémy pro správu parkovacích zón, nástroje pro personalizaci informací na úředních deskách, systémy pro predikci poptávky po veřejných službách, nebo dokonce i algoritmy pro automatické třídění e-mailů na úřadech. Každý takový systém vyžaduje pečlivé posouzení z hlediska AI Actu.

Pro efektivní dodržování nařízení je pro každou samosprávu zásadní provést inventuru všech používaných AI systémů a určit jejich povahu a potenciální rizika. To je první a nejdůležitější krok k pochopení, jaké konkrétní povinnosti pro vaši obec či město z AI Actu vyplývají. Neznalost zákona neomlouvá a proaktivní přístup je v tomto případě nezbytný. Více o tom, co je AI Act obecně, naleznete v našem článku na téma /ai-act/co-je-ai-act.