EU AI Act soulad
Jak Pulsar Solutions zajišťuje soulad s nařízením EU o umělé inteligenci (nařízení 2024/1689) a dodává odpovědnou, transparentní a na člověka zaměřenou AI ve výrobě.
Co je EU AI Act?
Světově první komplexní právní rámec pro umělou inteligenci.
EU AI Act (nařízení 2024/1689) je průlomové nařízení, které stanovuje harmonizovaná pravidla pro vývoj, nasazení a používání systémů umělé inteligence v celé Evropské unii. Vstoupilo v platnost 1. srpna 2024 a jeho ustanovení se uplatňují postupně do roku 2027.
Nařízení uplatňuje přístup založený na rizicích a kategorizuje systémy AI do čtyř úrovní rizika s požadavky úměrnými riziku, které každý systém představuje pro zdraví, bezpečnost a základní práva. To zajišťuje, že vysoce rizikové aplikace podléhají přísnějším kontrolám, zatímco systémy s nižším rizikem mohou inovovat s mírnějšími povinnostmi.
V Pulsar Solutions vnímáme AI Act nikoliv jako regulační zátěž, ale jako rámec, který je v souladu s našimi základními hodnotami transparentnosti, odpovědnosti a designu zaměřeného na člověka. Naše platforma pro údržbu poháněná AI je od základu budována s ohledem na tyto principy.
Klasifikace rizik AI
EU AI Act definuje čtyři kategorie rizik pro systémy AI.
Nepřijatelné riziko
Systémy AI, které představují jasnou hrozbu pro bezpečnost, živobytí nebo práva, jako je sociální bodování vládami nebo biometrický dohled v reálném čase. Tyto jsou zakázány.
Vysoké riziko
AI používaná v kritických oblastech jako biometrická identifikace, řízení kritické infrastruktury, zaměstnanost nebo vymáhání práva. Podléhá přísným požadavkům včetně posouzení shody.
Omezené riziko
Systémy AI se specifickými povinnostmi transparentnosti, jako jsou chatboty nebo systémy rozpoznávání emocí. Uživatelé musí být informováni, že komunikují s AI.
Minimální / nízké riziko
Systémy AI představující zanedbatelné riziko, jako jsou doporučování obsahu poháněné AI, spamové filtry nebo nástroje pro optimalizaci průmyslových procesů. Podléhají dobrovolným kodexům chování.
Platforma Pulsar Solutions pro údržbu poháněná AI je klasifikována jako systém AI s minimálním/nízkým rizikem. Naše platforma pomáhá výrobním týmům s řízením znalostí, zpracováním dokumentů a optimalizací údržby. Neprovádí biometrickou identifikaci, nečiní autonomní rozhodnutí ovlivňující základní práva ani nepůsobí v žádné kategorii vysokého rizika definované přílohou III AI Act. Přesto dobrovolně přijímáme mnoho postupů vyžadovaných pro systémy s vyšším rizikem, abychom zajistili nejvyšší standardy odpovědné AI.
Náš přístup k souladu
Šest pilířů, které řídí, jak odpovědně budujeme a nasazujeme AI.
Transparentnost
Uživatelé jsou vždy informováni, když interagují s obsahem generovaným AI. Každý výstup AI je jasně označen a poskytujeme vysvětlení, jak naše modely dospívají ke svým doporučením.
Lidský dohled
Výstupy AI slouží jako doporučení, nikdy jako autonomní rozhodnutí. Technici údržby a operátoři si zachovávají plnou kontrolu a mohou jakýkoliv návrh AI přepsat, upravit nebo odmítnout.
Přesnost a robustnost
Naše modely jsou průběžně validovány oproti reálným výrobním datům. Implementujeme důsledné testování, monitoring a zpětnovazební smyčky pro udržení vysoké přesnosti a prevenci driftu modelů.
Správa dat
Dodržujeme přísné postupy správy dat včetně minimalizace dat, omezení účelu a kontrol kvality. Trénovací data jsou pečlivě kurátorována, dokumentována a pravidelně auditována z hlediska předpojatosti.
Technická dokumentace
Vedeme komplexní technickou dokumentaci pokrývající architekturu systému, metodiky tréninku, metriky výkonu, známá omezení a zamýšlené případy použití v souladu s článkem 11.
Kybernetická bezpečnost
Naše systémy AI jsou chráněny bezpečnostními opatřeními podnikové úrovně včetně šifrování, řízení přístupu, auditního logování a pravidelného hodnocení zranitelností v souladu s článkem 15.
Synergie GDPR a AI Act
Ochrana dat a regulace AI jdou ruku v ruce.
EU AI Act doplňuje obecné nařízení o ochraně osobních údajů (GDPR, nařízení 2016/679). Společně vytvářejí komplexní rámec pro odpovědné využívání systémů AI, které zpracovávají osobní údaje. V Pulsar Solutions zajišťujeme plný soulad s oběma nařízeními:
- Zákonnost zpracování: Veškeré osobní údaje zpracovávané našimi systémy AI mají platný právní základ podle článku 6 GDPR, ať už na základě smluvní nezbytnosti, oprávněného zájmu nebo výslovného souhlasu.
- Minimalizace dat: Shromažďujeme a zpracováváme pouze údaje nezbytně nutné pro zamýšlený účel. Naše modely AI jsou navrženy tak, aby pracovaly s anonymizovanými nebo pseudonymizovanými daty, kdekoli je to možné.
- Omezení uložení: Osobní údaje jsou uchovávány pouze po dobu nezbytně nutnou. Uplatňujeme jasné zásady uchovávání a automatizované plány mazání.
- Práva subjektů údajů: Uživatelé mohou uplatnit svá plná práva podle GDPR včetně přístupu, opravy, výmazu, přenositelnosti a práva vznést námitku proti automatizovanému zpracování podle článku 22.
- Odpovědnost: Vedeme záznamy o činnostech zpracování, provádíme posouzení vlivu na ochranu osobních údajů (DPIA) tam, kde je to vyžadováno, a dokumentujeme všechny operace zpracování dat související s AI.
Úplné podrobnosti o tom, jak nakládáme s osobními údaji, naleznete v našich zásadách ochrany osobních údajů.
Etické principy AI
Nad rámec souladu s předpisy se zavazujeme k etickému vývoji AI.
- Informovaný souhlas: Zajišťujeme, aby všechny zainteresované strany rozuměly, jak je AI v naší platformě používána, jaká data jsou zpracovávána a jak jsou rozhodnutí podporována doporučeními AI.
- Spravedlnost a nediskriminace: Naše modely AI jsou pravidelně testovány na předpojatost. Implementujeme metriky spravedlnosti a zajišťujeme, aby výstupy AI nediskriminovaly na základě chráněných charakteristik.
- Lidská důstojnost: AI v naší platformě je navržena tak, aby rozšiřovala lidskou odbornost, nikoliv ji nahrazovala. Upřednostňujeme řešení, která zmocňují pracovníky a zvyšují jejich dovednosti a znalosti.
- Environmentální udržitelnost: Zvažujeme environmentální dopad našich systémů AI, optimalizujeme výpočetní zdroje a podporujeme udržitelné výrobní postupy.
- Právo na vysvětlení: Každý uživatel dotčený rozhodnutím podporovaným AI má právo obdržet jasné a srozumitelné vysvětlení faktorů, které ovlivnily výstup.
Tyto principy odrážejí náš závazek vůči etickým pokynům stanoveným Expertní skupinou EU na vysoké úrovni pro AI a hodnotám zakotveným v Listině základních práv EU.
Otázky ohledně souladu s AI?
Náš tým je připraven diskutovat o tom, jak Pulsar Solutions splňuje požadavky EU AI Act a jak můžeme vaší organizaci pomoci orientovat se v regulaci AI ve výrobě.