EU AI Act soulad
Jak Pulsar Solutions zajišťuje soulad s nařízením EU o umělé inteligenci (nařízení 2024/1689) a dodává odpovědnou, transparentní a na člověka zaměřenou AI ve výrobě.
Co je EU AI Act?
Světově první komplexní právní rámec pro umělou inteligenci.
EU AI Act (nařízení 2024/1689) je průlomové nařízení, které stanovuje harmonizovaná pravidla pro vývoj, nasazení a používání systémů umělé inteligence v celé Evropské unii. Vstoupilo v platnost 1. srpna 2024 a jeho ustanovení se uplatňují postupně do srpna 2028, ve znění nařízení Digital Omnibus (EU) 2026/1744. Od 2. srpna 2026 platí a jsou aktivně vymáhány povinnosti transparentnosti podle článku 50.
Nařízení uplatňuje přístup založený na rizicích a kategorizuje systémy AI do čtyř úrovní rizika s požadavky úměrnými riziku, které každý systém představuje pro zdraví, bezpečnost a základní práva. To zajišťuje, že vysoce rizikové aplikace podléhají přísnějším kontrolám, zatímco systémy s nižším rizikem mohou inovovat s mírnějšími povinnostmi.
V Pulsar Solutions vnímáme AI Act nikoliv jako regulační zátěž, ale jako rámec, který je v souladu s našimi základními hodnotami transparentnosti, odpovědnosti a designu zaměřeného na člověka. Naše platforma pro údržbu poháněná AI je od základu budována s ohledem na tyto principy.
Kde se AI Act nachází dnes
Klíčová data účinnosti včetně změn zavedených nařízením Digital Omnibus (EU) 2026/1744.
2. února 2025
Platí zákazy praktik AI s nepřijatelným rizikem a povinnost AI gramotnosti pro poskytovatele i provozovatele (články 4 a 5).
2. srpna 2025
Platí povinnosti pro poskytovatele obecných modelů AI spolu se sankčním rámcem s pokutami až 35 milionů EUR nebo 7 % celosvětového ročního obratu za nejzávažnější porušení.
2. srpna 2026
Platí a jsou vymáhány povinnosti transparentnosti podle článku 50: lidé musí být informováni, že komunikují se systémem AI, a obsah generovaný AI musí být označen jako uměle vytvořený ve strojově čitelném formátu. Pulsar Solutions obě povinnosti plní.
2. prosince 2027
Platí povinnosti pro samostatné vysoce rizikové systémy AI podle přílohy III, odložené ze srpna 2026 nařízením Digital Omnibus.
2. srpna 2028
Platí povinnosti pro vysoce rizikovou AI zabudovanou do regulovaných výrobků podle přílohy I.
Klasifikace rizik AI
EU AI Act definuje čtyři kategorie rizik pro systémy AI.
Nepřijatelné riziko
Systémy AI, které představují jasnou hrozbu pro bezpečnost, živobytí nebo práva, jako je sociální bodování vládami nebo biometrický dohled v reálném čase. Tyto jsou zakázány.
Vysoké riziko
AI používaná v kritických oblastech jako biometrická identifikace, řízení kritické infrastruktury, zaměstnanost nebo vymáhání práva. Podléhá přísným požadavkům včetně posouzení shody.
Omezené riziko
Systémy AI se specifickými povinnostmi transparentnosti podle článku 50, jako jsou chatboty, generativní AI nebo systémy rozpoznávání emocí. Od 2. srpna 2026 musí být uživatelé informováni, že komunikují s AI, a generovaný obsah musí být takto označen.
Minimální / nízké riziko
Systémy AI představující zanedbatelné riziko, jako jsou doporučování obsahu poháněné AI, spamové filtry nebo nástroje pro optimalizaci průmyslových procesů. Podléhají dobrovolným kodexům chování.
Platforma Pulsar Solutions pro údržbu poháněná AI nespadá do žádné kategorie vysokého rizika definované přílohou III AI Act: neprovádí biometrickou identifikaci a nečiní autonomní rozhodnutí ovlivňující základní práva. Její základní funkce, jako je řízení znalostí, zpracování dokumentů a optimalizace údržby, představují minimální riziko. Protože náš asistent komunikuje s uživateli a generuje obsah, plníme také povinnosti transparentnosti podle článku 50 platné od 2. srpna 2026: uživatelé jsou jasně informováni, že komunikují se systémem AI, a výstupy generované AI jsou označeny jako uměle vytvořené, a to i ve strojově čitelném formátu. Nad tento rámec dobrovolně přijímáme mnoho postupů vyžadovaných pro systémy s vyšším rizikem, abychom zajistili nejvyšší standardy odpovědné AI.
Náš přístup k souladu
Šest pilířů, které řídí, jak odpovědně budujeme a nasazujeme AI.
Transparentnost
V souladu s článkem 50 jsou uživatelé od začátku každé interakce informováni, že pracují se systémem AI, a obsah generovaný AI je označen, a to i ve strojově čitelném formátu. Zároveň vysvětlujeme, jak naše modely dospívají ke svým doporučením.
Lidský dohled
Výstupy AI slouží jako doporučení, nikdy jako autonomní rozhodnutí. Technici údržby a operátoři si zachovávají plnou kontrolu a mohou jakýkoliv návrh AI přepsat, upravit nebo odmítnout. V souladu s článkem 4 podporujeme AI gramotnost našeho týmu i uživatelů naší platformy prostřednictvím školení a dokumentace.
Přesnost a robustnost
Naše modely jsou průběžně validovány oproti reálným výrobním datům. Implementujeme důsledné testování, monitoring a zpětnovazební smyčky pro udržení vysoké přesnosti a prevenci driftu modelů.
Správa dat
Dodržujeme přísné postupy správy dat včetně minimalizace dat, omezení účelu a kontrol kvality. Trénovací data jsou pečlivě kurátorována, dokumentována a pravidelně auditována z hlediska předpojatosti.
Technická dokumentace
Vedeme komplexní technickou dokumentaci pokrývající architekturu systému, metodiky tréninku, metriky výkonu, známá omezení a zamýšlené případy použití, inspirovanou požadavky článku 11.
Kybernetická bezpečnost
Naše systémy AI jsou chráněny bezpečnostními opatřeními podnikové úrovně včetně šifrování, řízení přístupu, auditního logování a pravidelného hodnocení zranitelností v souladu s článkem 15.
Synergie GDPR a AI Act
Ochrana dat a regulace AI jdou ruku v ruce.
EU AI Act doplňuje obecné nařízení o ochraně osobních údajů (GDPR, nařízení 2016/679). Společně vytvářejí komplexní rámec pro odpovědné využívání systémů AI, které zpracovávají osobní údaje. V Pulsar Solutions zajišťujeme plný soulad s oběma nařízeními:
- Zákonnost zpracování: Veškeré osobní údaje zpracovávané našimi systémy AI mají platný právní základ podle článku 6 GDPR, ať už na základě smluvní nezbytnosti, oprávněného zájmu nebo výslovného souhlasu.
- Minimalizace dat: Shromažďujeme a zpracováváme pouze údaje nezbytně nutné pro zamýšlený účel. Naše modely AI jsou navrženy tak, aby pracovaly s anonymizovanými nebo pseudonymizovanými daty, kdekoli je to možné.
- Omezení uložení: Osobní údaje jsou uchovávány pouze po dobu nezbytně nutnou. Uplatňujeme jasné zásady uchovávání a automatizované plány mazání.
- Práva subjektů údajů: Uživatelé mohou uplatnit svá plná práva podle GDPR včetně přístupu, opravy, výmazu, přenositelnosti a práva vznést námitku proti automatizovanému zpracování podle článku 22.
- Odpovědnost: Vedeme záznamy o činnostech zpracování, provádíme posouzení vlivu na ochranu osobních údajů (DPIA) tam, kde je to vyžadováno, a dokumentujeme všechny operace zpracování dat související s AI.
Úplné podrobnosti o tom, jak nakládáme s osobními údaji, naleznete v našich zásadách ochrany osobních údajů.
Etické principy AI
Nad rámec souladu s předpisy se zavazujeme k etickému vývoji AI.
- Informovaný souhlas: Zajišťujeme, aby všechny zainteresované strany rozuměly, jak je AI v naší platformě používána, jaká data jsou zpracovávána a jak jsou rozhodnutí podporována doporučeními AI.
- Spravedlnost a nediskriminace: Naše modely AI jsou pravidelně testovány na předpojatost. Implementujeme metriky spravedlnosti a zajišťujeme, aby výstupy AI nediskriminovaly na základě chráněných charakteristik.
- Lidská důstojnost: AI v naší platformě je navržena tak, aby rozšiřovala lidskou odbornost, nikoliv ji nahrazovala. Upřednostňujeme řešení, která zmocňují pracovníky a zvyšují jejich dovednosti a znalosti.
- Environmentální udržitelnost: Zvažujeme environmentální dopad našich systémů AI, optimalizujeme výpočetní zdroje a podporujeme udržitelné výrobní postupy.
- Právo na vysvětlení: Každý uživatel dotčený rozhodnutím podporovaným AI má právo obdržet jasné a srozumitelné vysvětlení faktorů, které ovlivnily výstup.
Tyto principy odrážejí náš závazek vůči etickým pokynům stanoveným Expertní skupinou EU na vysoké úrovni pro AI a hodnotám zakotveným v Listině základních práv EU.
Otázky ohledně souladu s AI?
Náš tým je připraven diskutovat o tom, jak Pulsar Solutions splňuje požadavky EU AI Act a jak můžeme vaší organizaci pomoci orientovat se v regulaci AI ve výrobě.