EU AI Act: Implementace a compliance povinnosti pro firmy
Autor: Mgr. Jan Hrabec
Evropský AI Act, který vstoupil v platnost 2. srpna 2025, přinesl zásadní změny v regulaci umělé inteligence v Evropské unii. Tento legislativní rámec představuje klíčový krok k zajištění bezpečnosti, ochrany práv jednotlivců a odpovědnosti při používání vysokorizikových AI systémů. Firmy, které se podílejí na vývoji, implementaci nebo poskytování těchto systémů, musely zajistit splnění přísných povinností týkajících se auditů, monitorování výkonu, transparentnosti a governance struktur.
Povinnosti pro poskytovatele vysokorizikových AI systémů
Od 2. srpna 2025, kdy EU AI Act nabyl účinnosti, se poskytovatelé vysokorizikových AI systémů museli podřídit novým právním požadavkům. Tyto systémy zahrnují například AI používané v oblasti řízení dopravy, detekce podvodů, predikce kriminality či automatizovaného rozhodování ve finančním sektoru. Cílem je zajistit, aby tyto technologie fungovaly v souladu se základními právními normami EU, které chrání občany a zajišťují transparentnost a etiku ve využívání AI.
Klíčové povinnosti
- Povinné audity a inspekce: Podle článku 15 a článku 16 AI Act byly všechny vysokorizikové AI systémy podrobeny pravidelným auditům. Tyto audity měly za úkol nejen prověřit technickou stránku systému, ale i jeho etické a právní aspekty, včetně prevence diskriminace a zajištění ochrany práv jednotlivců. Každá firma, která poskytovala takový systém, byla povinna provádět nezávislý audit svých produktů, který prokázal, že systémy jsou v souladu s nařízeními EU.
- Transparentnost a dokumentace: Článek 13 a článek 17 AI Act stanovil povinnost pro firmy vést detailní dokumentaci o vývoji a fungování jejich AI produktů. Tato dokumentace musela zahrnovat popis algoritmů, datového souboru a všech kroků, které byly podniknuty pro zajištění transparentnosti a souladu s právními normami. Firmy tak musely zajistit, že rozhodovací procesy AI budou veřejně dostupné a přehledné, což bylo klíčové pro ochranu práv jednotlivců.
- Monitorování výkonu a opravy: Další zásadní povinností bylo monitorování výkonu systémů, které muselo probíhat kontinuálně. Pokud došlo k jakýmkoli chybám nebo problémům v systému, firmy měly povinnost je neprodleně opravit a zajistit, aby jejich AI systémy neohrožovaly bezpečnost nebo práva uživatelů.
Governance struktury a odpovědnost
Jedním z klíčových aspektů EU AI Act bylo zavedení přísných governance struktur pro poskytovatele AI systémů. Firmy musely zajistit vytvoření odpovědných týmů, které by se zabývaly řízení rizik, monitorováním shody s právními předpisy a etickými audity. Tento tým měl za úkol nejen vykonávat pravidelné audity, ale také zajistit, že všechny procesy spojené s vývojem a implementací AI budou transparentní a v souladu s právními a etickými standardy.
Pokuty a sankce za nedodržení předpisů
Podle článku 83 GDPR a AI Act mohly firmy čelit pokutám až do výše 7 % globálního obratu za nedodržení povinností stanovených v této regulaci. Pokud například podniky nezajistily dostatečnou transparentnost, nezavedly správné monitoringové procesy, nebo nezajistily pravidelné audity svých AI systémů, byly vystaveny těžkým sankcím, které mohly mít významný dopad na jejich finanční stabilitu.
Pokuty mohly dosáhnout až €30 milionů nebo 7 % ročního obratu, podle toho, která částka byla vyšší. Tento přístup měl zajistit, že compliance se stane nevyhnutelným a firmy nebudou moci ignorovat povinnosti stanovené novým právním rámcem.
Co firmy musely udělat?
Vzhledem k tomu, že EU AI Act začal platit 2. srpna 2025, firmy měly několik let na přípravu. Přesto, jak ukazují zkušenosti z implementace jiných evropských regulací, například GDPR, příprava na splnění regulačních požadavků bývá složitá a časově náročná. To znamená, že firmy, které vyvíjejí nebo implementují vysokorizikové AI systémy, musely zahájit implementaci governance struktur, dokumentačních procesů a pravidelných auditů už dávno před rokem 2025, aby byly plně v souladu s regulací.
Zdroje a právní rámec
- Nařízení Evropského parlamentu a Rady (EU) 2021/0106 (AI Act) – Klíčové nařízení, které definuje pravidla pro umělou inteligenci a stanovuje právní rámec pro regulaci vysokorizikových AI systémů.
- GDPR (Nařízení EU 2016/679) – Nařízení, které se zaměřuje na ochranu osobních údajů, a je relevantní pro implementaci odpovědnosti za ochranu údajů ve vztahu k AI systémům.
- Zákon č. 89/2012 Sb., občanský zákoník – Týká se právních aspektů smluv a odpovědnosti v oblasti využívání nových technologií, včetně AI.
- Zákon č. 586/1992 Sb., o daních z příjmů – Relevantní pro podniky při zajišťování compliance s novými daňovými povinnostmi, které mohou vzniknout v souvislosti s implementací AI.
Závěr
S platností EU AI Act od 2. srpna 2025 jsou firmy, které vyvíjejí nebo implementují vysokorizikové AI systémy, povinny splnit přísné regulační požadavky. To zahrnuje pravidelné audity, zajištění transparentnosti a vytvoření silných governance struktur. Nedodržení těchto povinností může mít pro firmy vážné právní a finanční důsledky, včetně pokut až do výše 7 % globálního obratu. Příprava na tuto regulaci vyžadovala nejen technické, ale i právní a etické úpravy procesů, což činí tento přechod pro firmy klíčovým krokem k udržitelnosti na evropském trhu.