AI Act a neziskové organizace: Platí i pro NGO?

Úvod: AI Act – Pro koho vlastně platí?

Evropská unie v březnu 2024 schválila přelomové Nařízení o umělé inteligenci, známé jako AI Act (Nařízení EU 2024/1689). Jedná se o první komplexní právní rámec pro umělou inteligenci na světě, jehož cílem je zajistit bezpečnost, transparentnost a ochranu základních práv uživatelů AI systémů. Mnoho organizací, zejména ty menší nebo neziskové, si klade otázku: „Týká se to i nás?“ Často panuje představa, že taková regulace je relevantní pouze pro technologické giganty a velké korporace. Skutečnost je však složitější a AI Act má potenciál ovlivnit široké spektrum subjektů, včetně neziskových organizací (NGO).

Cílem tohoto článku je detailně prozkoumat, jak se AI Act vztahuje na neziskovky, jaké povinnosti mohou vzniknout a zda existují nějaké specifické výjimky, které by se na neziskový sektor mohly vztahovat. Pochopení těchto nuancí je klíčové pro každou NGO, která již umělou inteligenci využívá, nebo o jejím nasazení uvažuje. Ať už jde o interní procesy, komunikaci s veřejností, sběr dat nebo dobrovolnictví, AI se stává nedílnou součástí moderní doby a neziskové organizace by neměly zůstat pozadu v porozumění legislativě, která ji reguluje.

Kdo je „pod dohledem“ AI Actu? Definice a role pro neziskovky

AI Act definuje několik klíčových rolí, které určují rozsah odpovědnosti za umělou inteligenci. Nejdůležitější jsou „poskytovatel“ a „provozovatel“ (Článek 3 AI Actu). Poskytovatelem je osoba nebo subjekt, který vyvíjí AI systém nebo ho uvádí na trh pod svým jménem nebo obchodní značkou. Provozovatelem je pak jakákoli fyzická nebo právnická osoba, veřejný orgán, agentura nebo jiný subjekt, který používá AI systém pod svou kontrolou, s výjimkou jeho použití v rámci osobní neprofesionální činnosti.

Z tohoto pohledu je zřejmé, že neziskovky mohou snadno spadnout do role provozovatele. Pokud vaše NGO nasadí AI systém, například chatbot pro podporu členů, nástroj pro analýzu dat o dárcích nebo systém pro správu dobrovolnictví, stáváte se provozovatelem. Velikost ani právní forma organizace zde nehrají primární roli; rozhodující je faktické nasazení a používání AI. Pokud by navíc nezisková organizace sama vyvinula a nabídla AI systém jiným subjektům, stala by se i poskytovatelem se všemi souvisejícími povinnostmi. Je proto nezbytné pečlivě zvážit, jakou roli vaše NGO v ekosystému AI zastává, a to i s ohledem na možný dopad na základní práva jednotlivců. Více o základních pojmech najdete v našem článku: text odkazu: Co je AI Act.

Je důležité si uvědomit, že AI Act se primárně zaměřuje na AI systémy, které představují potenciální riziko. Rozlišuje se několik kategorií rizika, přičemž největší pozornost je věnována „vysoce rizikovým“ AI systémům. I když většina AI nástrojů používaných neziskovkami pravděpodobně nespadá do této kategorie, je nutné provést důkladnou analýzu. Například AI systém, který by mohl ovlivnit přístup k základním službám (sociální pomoc, vzdělání) nebo se používá pro hodnocení osob, by mohl být považován za vysoce rizikový, i když je provozován neziskovou organizací. Přečtěte si více o kategoriích rizika zde: text odkazu: Rizikové kategorie AI Actu.

Výjimky a zvláštní ustanovení: Naděje pro neziskovky?

AI Act skutečně obsahuje několik výjimek, které mohou být pro neziskové organizace relevantní, ale je třeba k nim přistupovat s opatrností. Jednou z klíčových výjimek je ta pro systémy vyvinuté nebo používané výhradně pro účely vědeckého výzkumu a vývoje (Článek 2 odst. 5 písm. b AI Actu). Pokud se vaše NGO podílí na akademickém nebo vědeckém výzkumu, kde je AI využívána k experimentálním účelům bez přímého dopadu na osoby mimo testovací prostředí, může se tato výjimka uplatnit. Je však zásadní, aby se jednalo o skutečně výzkumnou činnost a nikoli o běžné nasazení AI systému v provozu.

Další důležitou oblastí jsou open-source AI systémy. AI Act do jisté míry podporuje inovace a vývoj open-source AI komponent (Článek 2 odst. 5 písm. c), což je v souladu s duchem mnoha neziskovek. Pokud vaše NGO přispívá k open-source komunitě vývojem AI modelů a dat, nemusí se na vás vztahovat plný rozsah povinností poskytovatele. Je však nutné zdůraznit, že tato výjimka se obvykle vztahuje na fázi vývoje a distribuce open-source komponent, nikoli na jejich následné nasazení jako součást vysoce rizikového systému. Pokud neziskovka vezme open-source model a integruje ho do služby, která spadá pod kategorii vysoce rizikového AI systému, stane se provozovatelem s odpovídajícími povinnostmi.

Je důležité si uvědomit, že AI Act neobsahuje plošnou výjimku pro celý neziskový sektor. Zatímco některé aktivity, jako je výzkum nebo vývoj open-source, mohou spadat pod zvláštní ustanovení, obecné používání AI systémů pro provozní účely se řídí stejnými pravidly jako u komerčních subjektů. To znamená, že i NGO musí dbát na transparentnost, bezpečnost a dodržování etických principů, zejména pokud AI systémy ovlivňují osoby, kterým organizace pomáhá, nebo zapojené dobrovolníky. Každá neziskovka by měla provést pečlivou analýzu svých AI nástrojů a zhodnotit jejich potenciální dopady.

Když NGO provozuje AI chatbot: Praktické dopady a povinnosti

Představme si běžný scénář: nezisková organizace se rozhodne nasadit AI chatbot na svůj web, aby efektivněji komunikovala s veřejností, poskytovala základní informace o svých projektech nebo směrovala zájemce o dobrovolnictví. V takovém případě se NGO stává „provozovatelem“ tohoto AI systému. Pokud chatbot poskytuje pouze obecné informace a nezpracovává citlivé osobní údaje nebo nečiní kritická rozhodnutí ovlivňující uživatele, pravděpodobně nebude klasifikován jako vysoce rizikový AI systém. Nicméně i tak vznikají určité povinnosti.

Jednou z klíčových povinností provozovatele AI chatbotu je transparentnost. AI Act vyžaduje, aby uživatelé byli informováni, že komunikují s AI systémem, a nikoli s člověkem (Článek 50 AI Actu). Tato transparentnost je zásadní pro budování důvěry a zajištění informovaného souhlasu. Neziskovka by měla zajistit, že toto upozornění je jasné, srozumitelné a snadno dostupné, například na začátku konverzace s chatbotem. Dále by měla být zodpovědná za to, že chatbot nešíří dezinformace a jeho výstupy jsou přesné a ověřitelné, zejména pokud poskytuje citlivé informace související s posláním NGO.

Dalšími aspekty jsou zabezpečení dat a ochrana soukromí. Pokud chatbot shromažďuje jakékoli osobní údaje, musí NGO dodržovat nejen AI Act, ale i obecné nařízení o ochraně osobních údajů (GDPR). To zahrnuje zajištění dostatečného zabezpečení dat, informování uživatelů o zpracování jejich údajů a umožnění výkonu jejich práv. Nasazení AI chatbotu je skvělý způsob, jak optimalizovat zdroje, ale vyžaduje pečlivé zvážení právních a etických dopadů. Více o této problematice najdete v našem článku: text odkazu: AI Act a virtuální asistenti.

Jak se neziskovky mohou připravit a chránit? Praktické kroky

I když se AI Act může zdát komplexní, neziskové organizace mohou podniknout řadu proaktivních kroků k zajištění souladu a ochraně svých zájmů. Prvním krokem je audit stávajících AI systémů. Identifikujte všechny AI nástroje, které vaše NGO používá, ať už jsou to chatboti, analytické nástroje, systémy pro personalizaci nebo jakékoli jiné automatizované systémy, které využívají umělou inteligenci. Zjistěte, kdo je jejich poskytovatelem a jakou roli hrajete vy jako provozovatel.

Dále je klíčové posoudit rizika spojená s každým AI systémem. Přečtěte si seznam vysoce rizikových systémů v AI Actu a zhodnoťte, zda některý z vašich nástrojů do této kategorie spadá. I pokud ne, zvažte etické dopady a potenciální rizika pro uživatele a dobrovolníky. Vytvořte vnitřní směrnice pro používání AI, které zahrnují pravidla pro transparentnost, ochranu dat a odpovědnost. Vzdělávejte své zaměstnance a dobrovolníky o principech AI Actu a etickém používání AI. Pokud si nejste jisti, vyhledejte odbornou pomoc. Nezapomeňte na povinnosti spojené s dokumentací a monitorováním AI systémů, které používáte.

AI Act je příležitostí k posílení důvěry v digitální technologie a k zajištění, že umělá inteligence slouží společnosti etickým a odpovědným způsobem. Pro neziskovky to znamená nejen dodržování regulace, ale také možnost ukázat vedení v odpovědném používání AI. Proaktivní přístup k souladu s AI Actem pomůže vaší NGO nejen vyhnout se potenciálním sankcím, ale také posílí vaši reputaci jako důvěryhodného a inovativního partnera, který dbá na blaho svých uživatelů a komunity.

Závěr: Připravte se na budoucnost AI s AIshield.cz

AI Act je realitou a jeho dopady se budou týkat i neziskových organizací. I když existují určité výjimky, klíčem je pochopit vaši roli jako poskytovatele nebo provozovatele a zodpovědně přistupovat k nasazení AI systémů. Transparentnost, bezpečnost a etika by měly být základními pilíři vašeho přístupu k umělé inteligenci, ať už jste velká NGO nebo malá dobrovolnická iniciativa.

Nenechte se zaskočit novou legislativou. Buďte připraveni a zajistěte, že vaše neziskovka bude i nadále efektivně a eticky využívat potenciál AI. Chcete zjistit, jak jsou na tom vaše webové stránky a AI nástroje s dodržováním budoucích pravidel AI Actu? Využijte náš komplexní skener webových stránek a získejte podrobnou analýzu.

text odkazu: Zjistěte stav svého webu a AI nástrojů s AIshield.cz/scan.

Související články

• Co je AI Act
• Rizikové kategorie AI Actu
• AI Act a virtuální asistenti
• Zjistěte stav svého webu a AI nástrojů s AIshield.cz/scan