AI Act v praxi pojišťoven: Risk scoring a automatizace

AI v srdci pojišťovnictví: Revoluce a regulace

Pojišťovnictví, odvětví tradičně založené na datech a statistice, prochází v posledních letech zásadní transformací díky nástupu umělé inteligence (AI). AI systémy se staly nepostradatelnými pomocníky pro pojišťovny po celém světě, umožňujícími efektivnější a přesnější procesy. Ať už jde o sofistikovaný risk scoring klientů, automatizované zpracování pojistných událostí (claim processing) nebo detekci podvodů, umělá inteligence přináší nebývalou efektivitu a schopnost analyzovat obrovské objemy dat v reálném čase. Tyto inovace sice zvyšují konkurenceschopnost a optimalizují náklady, ale zároveň s sebou nesou i nové etické a právní otázky, které vyžadují jasné regulační rámce.

Právě zde vstupuje do hry Nařízení EU 2024/1689, známé jako AI Act. Tento průlomový právní předpis si klade za cíl zajistit, aby AI systémy používané v Evropské unii byly bezpečné, transparentní, nediskriminační a respektovaly základní práva občanů. Pro pojišťovny, které ve velké míře spoléhají na AI pro klíčové operace, jako je například posuzování bonity klienta nebo určení výše pojistného, představuje AI Act významnou výzvu, ale zároveň i příležitost k posílení důvěry a zodpovědného využívání technologií. Klíčové je pochopit, kdy se AI systém pojišťovny stává vysoce rizikovým a jaké povinnosti z toho vyplývají.

Zejména oblast risk scoringu je pro pojišťovny srdcem jejich podnikání. Přesné vyhodnocení rizika je základem pro správné nastavení pojistného, optimalizaci portfolia a udržení profitability. Umělá inteligence zde umožňuje modelovat komplexní scénáře, identifikovat latentní korelace v datech a predikovat budoucí události s dosud nevídanou přesností. Avšak právě tato síla AI přináší i potenciál pro neúmyslnou diskriminaci nebo nesprávná rozhodnutí, která mohou mít pro jednotlivce závažné dopady. Proto je regulace v podobě AI Actu v tomto sektoru obzvláště relevantní.

Kdy se AI v pojišťovně stává „vysoce rizikovou“?

AI Act zavádí kategorizaci AI systémů podle úrovně rizika, které představují pro základní práva a bezpečnost. Pro pojišťovnictví je klíčové, že mnohé z běžně používaných AI aplikací spadají do kategorie „vysoce rizikových“ systémů. Dle článku 6 ve spojení s Přílohou III, bodem 4, se jako vysoce rizikové systémy označují ty, které se používají pro posuzování úvěruschopnosti nebo pro zakládání úvěrového skóre fyzických osob, a také systémy, které vyhodnocují rizika a stanovují cenu pojistných smluv v oblasti životního a zdravotního pojištění. Podobně, bod 5 Přílohy III hovoří o systémech, které rozhodují o přístupu fyzických osob k základním soukromým službám, což se může týkat i některých typů pojištění.

To znamená, že prakticky každý systém, který pojišťovna využívá pro risk scoring, stanovení ceny pojistky nebo posouzení nároku na určitý typ pojištění, bude pravděpodobně považován za vysoce rizikový. Tato klasifikace není jen formální nálepkou, ale spouští řadu přísných požadavků a povinností pro pojišťovny, které tyto systémy buď vyvíjejí (jako „poskytovatelé“) nebo používají (jako „provozovatelé“ či „uživatelé“). Je nezbytné, aby pojišťovny provedly důkladnou analýzu svých AI systémů a identifikovaly ty, které spadají do této kategorie, aby mohly včas zahájit proces plnění souladu. Více o kategoriích rizik naleznete v našem článku o /ai-act/rizikove-kategorie.

Klasifikace jako vysoce rizikový systém implikuje, že potenciální škody, které by takový systém mohl způsobit, jsou značné – ať už jde o finanční ztráty, poškození pověsti, nebo dokonce porušení základních práv jednotlivců, jako je právo na nediskriminaci nebo právo na spravedlivý přístup ke službám. Představte si situaci, kdy algoritmus pro risk scoring chybně vyhodnotí klienta jako vysoce rizikového kvůli zavádějícím datům, což vede k nepřiměřeně vysokému pojistnému nebo dokonce odmítnutí pojištění. Takové důsledky AI Act aktivně řeší a snaží se jim předcházet.

Povinnosti a dopady pro vysoce rizikové systémy

Pro pojišťovny, které používají vysoce rizikové AI systémy, AI Act stanovuje rozsáhlý soubor povinností. Tyto povinnosti jsou primárně adresovány poskytovatelům AI systémů (článek 9 až 15), ale mnoho z nich se promítá i do rolí provozovatelů (článek 26). Mezi klíčové požadavky patří zavedení robustního systému řízení rizik (článek 9), který pokrývá celý životní cyklus AI systému – od návrhu a vývoje až po nasazení a monitorování. To zahrnuje identifikaci, analýzu a zmírňování rizik, včetně těch souvisejících s diskriminací a předsudky (bias).

Dále je vyžadována vysoká kvalita tréninkových, validačních a testovacích dat (článek 10), aby se minimalizovaly chyby a zkreslení, která by mohla vést k nespravedlivým výsledkům v risk scoringu. Pojišťovny musí zajistit odpovídající technickou dokumentaci (článek 11) a uchovávat záznamy (článek 12), aby byla zajištěna transparentnost a auditovatelnost systému. Klíčová je také povinnost implementovat lidský dohled (článek 14), aby se zabránilo plně automatizovanému rozhodování bez možnosti přezkumu a zásahu člověka, a to zejména v citlivých oblastech, jako je odmítnutí pojistné smlouvy nebo výrazné zvýšení pojistného.

Pojišťovny jako provozovatelé budou muset zajistit, že systémy, které používají, splňují tyto požadavky. To často znamená úzkou spolupráci s dodavateli AI řešení, pravidelné audity a interní školení. Důraz je kladen na transparentnost a poskytování informací uživatelům o tom, jak jsou jejich data zpracovávána a jak AI systém funguje. Nedodržení těchto povinností může vést k značným sankcím, které mohou dosáhnout až 35 milionů eur nebo 7 % celkového ročního celosvětového obratu, podle toho, co je vyšší. Proto je pro každou pojišťovnu naprosto klíčové brát AI Act vážně a aktivně se připravovat na jeho plné uplatňování.

Automatizované rozhodování a lidský dohled: Klíčová výzva

Jedním z nejcitlivějších aspektů využívání AI v pojišťovnictví je automatizované rozhodování, zejména v kontextu risk scoringu a stanovení cen. AI systémy dokáží analyzovat obrovské množství dat, včetně demografických údajů, historie pojistných událostí, finanční stability a dalších faktorů, aby generovaly skóre rizika a navrhovaly pojistné podmínky. Ačkoliv to přináší efektivitu, existuje zde inherentní riziko, že plně automatizované procesy mohou vést k nespravedlivým nebo diskriminačním výsledkům, pokud nejsou správně navrženy a monitorovány. AI Act se snaží tomuto předejít.

Článek 14 AI Actu explicitně vyžaduje, aby vysoce rizikové AI systémy byly navrženy a vyvinuty tak, aby umožňovaly účinný lidský dohled. To znamená, že pojišťovny nemohou spoléhat na AI pro konečné rozhodnutí bez možnosti lidského přezkumu a intervence. Lidský dohled by měl být smysluplný a zajišťovat, že AI systém nevede k automatickému rozhodování, které by bylo v rozporu se základními právy nebo by bylo nespravedlivé. To vyžaduje nejen technické možnosti přezkumu, ale i odpovídající školení personálu, který bude mít za úkol takový dohled vykonávat.

Důraz na transparentnost (článek 13) a vysvětlitelnost je zde rovněž kritický. Jednotlivci, jejichž risk scoring byl ovlivněn AI systémem, by měli mít právo na srozumitelné vysvětlení, jak k danému rozhodnutí došlo a jaké faktory AI systém vzal v úvahu. To pomáhá budovat důvěru a umožňuje nápravu v případě chyb. Pro pojišťovny to znamená, že musejí být schopny nejen prokázat soulad svých systémů, ale také srozumitelně komunikovat s klienty o tom, jak jsou jejich data a rizika hodnocena. Více o tomto tématu se dočtete v našem blogovém článku /blog/ai-act-a-automatizovane-rozhodovani.

Cesta k souladu: Praktické kroky pro pojišťovny

Plnění požadavků AI Actu je pro pojišťovny komplexní, ale nezbytný úkol. Prvním krokem je důkladný interní audit všech AI systémů používaných v organizaci, s cílem identifikovat ty, které spadají do kategorie vysoce rizikových. Následuje zmapování datových toků a procesů, které tyto systémy využívají, aby se zajistila jejich kvalita, integrita a soulad s požadavky na ochranu dat.

Dále je klíčové zavést komplexní systém řízení rizik, který bude zahrnovat pravidelné posuzování dopadů na základní práva (FRIA – Fundamental Rights Impact Assessment) a testování systémů na zkreslení a diskriminaci. Pojišťovny budou muset investovat do technické dokumentace, která detailně popisuje design, vývoj a fungování každého vysoce rizikového AI systému. Nezbytná bude i revize smluvních vztahů s dodavateli AI řešení, aby bylo zajištěno, že i oni plní své povinnosti dle AI Actu.

V neposlední řadě je zásadní investovat do školení zaměstnanců. Od vývojářů a datových vědců po pracovníky s klienty a management – všichni potřebují pochopit principy AI Actu a jeho dopady na jejich každodenní práci. Vytvoření interního týmu nebo jmenování zodpovědné osoby pro AI Act může usnadnit koordinaci a zajistit plynulý přechod k plnému souladu. Proaktivní přístup a systematické řešení těchto výzev umožní pojišťovnám nejen splnit zákonné povinnosti, ale také posílit důvěru klientů a udržet si konkurenční výhodu v digitální éře.

Související články

• rizikové kategorie AI systémů
• AI Act a automatizované rozhodování