Posudzovanie zhody a certifikácia vysokorizikových systémov umelej inteligencie: praktický sprievodca pre organizácie

1. Úvod

Posudzovanie zhody vysokorizikových systémov umelej inteligencie je základným pilierom európskeho regulačného rámca. Predstavuje proces, ktorým sa overuje, či HR-AI spĺňa všetky požiadavky stanovené v Akte o umelej inteligenciiEurópsky parlament a Rada EÚ. Nariadenie (EÚ) 2024/1689 z 13. júna 2024, ktorým sa stanovujú harmonizované pravidlá pre umelú inteligenciu (Akt o umelej inteligencii – AIA). Úradný vestník Európskej únie, L 2024/1689.. Bez riadne vykonaného posúdenia zhody nemôže byť HR-AI uvedený na trh ani používaný v Európskej únii.

Akt o umelej inteligencii stanovuje dva postupy posudzovania zhody. Prvým je interná kontrola podľa Prílohy VI, ktorá umožňuje poskytovateľovi preukázať súlad vlastnými prostriedkami. Druhým je posúdenie zhody s účasťou notifikovanej osoby podľa Prílohy VII, ktoré prináša nezávislé overenie splnenia požiadaviek. Správna voľba medzi týmito dvoma cestami je kľúčová pre každý HR-AI.

V ďalších častiach článku rozoberieme, ako tieto postupy fungujú v praxi, aké podmienky musia poskytovatelia dodržať a aké dokumenty vypracovať. Predstavíme aj praktický checklist krokov, ktoré tvoria jadro certifikačného procesu, a upozorníme na najčastejšie chyby, ktoré môžu viesť k zlyhaniu pri posudzovaní zhody. Súčasťou textu budú odporúčania založené na medzinárodných normách a rámcoch, ktoré proces výrazne uľahčujú.

2. Kto a kedy vykonáva posudzovanie zhody HR-AI

Za posudzovanie zhody vysokorizikového systému umelej inteligencie (HR-AI) zodpovedá poskytovateľ vysokorizikového systému umelej inteligencie. Akt o umelej inteligencii presne určuje, že poskytovateľ musí ešte pred uvedením HR-AI na trh alebo jeho uvedením do prevádzky preukázať splnenie požiadaviek stanovených v kapitole III nariadenia, ktoré sa týkajú riadenia rizík, kvality dát, technickej dokumentácie, transparentnosti, kybernetickej bezpečnosti a správy po uvedení na trh¹⁾.

Poskytovateľ HR-AI si môže zvoliť jednu z dvoch ciest posudzovania zhody: internú kontrolu podľa Prílohy VI alebo postup s účasťou notifikovanej osoby podľa Prílohy VII. Rozhodnutie závisí od toho, či sa pri systéme uplatňujú harmonizované normy alebo spoločné špecifikácie, alebo či ide o systém, pri ktorom nariadenie vyžaduje nezávislé overenie.

Posúdenie zhody musí byť ukončené pred tým, ako sa HR-AI dostane na trh alebo do prevádzky. Ak by sa systém používal bez platného preukázania zhody, išlo by o porušenie Aktu o umelej inteligencii. V takom prípade by poskytovateľ niesol plnú právnu zodpovednosť a čelil by sankciám, ktoré nariadenie predpokladá.

Posudzovanie zhody tak nie je len formálnym procesom, ale rozhodujúcou hranicou medzi vývojom HR-AI a jeho praktickým používaním. Je to nástroj, ktorý má ochrániť základné práva jednotlivcov a zároveň budovať dôveru verejnosti v technológie umelej inteligencie.

Autor: JUDr. Rudolf Kellner, LL.M.