Inštitucionálny rámec dohľadu nad umelou inteligenciou: príslušné orgány, jednotné kontaktné miesta a databáza EÚ

Ako je nastavený dohľad nad vysokorizikovými AI systémami v EÚ a na Slovensku

Registrácia v databáze EÚ a ako sa na režim dohľadu pripraviť

 

Úvod

Akt o umelej inteligencii nereguluje len systémy umelej inteligencie samotné, ale buduje aj inštitucionálnu infraštruktúru, ktorá má zabezpečiť, že jeho pravidlá sa v praxi skutočne uplatňujú. Požiadavky na vysokorizikové systémy, povinnosti poskytovateľov a nasadzujúcich subjektov ani procesy posudzovania zhody nemajú bez funkčných orgánov dohľadu reálnu vykonateľnosť. Práve preto AI Akt zakladá sústavu vzájomne prepojených inštitucionálnych mechanizmov, ktoré majú zabezpečiť transparentnosť, vysledovateľnosť a konzistentný dohľad naprieč celou Európskou úniou.

Tento článok sa zameriava na tri vzájomne prepojené piliere tohto inštitucionálneho rámca. Prvým sú príslušné vnútroštátne orgány, teda orgány členských štátov zodpovedné za uplatňovanie a presadzovanie nariadenia. Druhým sú jednotné kontaktné miesta, ktoré slúžia ako hlavný komunikačný kanál medzi členským štátom, Európskou komisiou, Úradom pre AI a Radou pre AI. Tretím je databáza EÚ pre vysokorizikové systémy umelej inteligencie, ktorá vytvára centrálny register týchto systémov s verejne prístupnou aj neverejnou časťou.

Cieľom článku je poskytnúť praktický prehľad o tom, ako sú tieto mechanizmy nastavené, aké povinnosti z nich vyplývajú pre organizácie a aké sú špecifiká slovenského prostredia, kde sa implementácia AI Aktu úzko spája s návrhom zákona o umelej inteligencii a európskej dátovej regulácii, ktorý je v súčasnosti v medzirezortnom pripomienkovom konaní. Článok zároveň zasadzuje inštitucionálny rámec do kontextu riadenia, aby organizácie vedeli, čo od dohľadu očakávať a ako sa naň systematicky pripraviť.

Právne požiadavky prepájam s overenými rámcami riadenia a bezpečnosti, najmä s ISO/IEC 42001:2023 pre systém manažérstva umelej inteligencie, ISO/IEC 23894:2023 pre riadenie rizík a rámcom NIST AI RMF. Organizácie tak dostanú nielen právny výklad, ale aj praktický návod na nastavenie procesov, dokumentácie a komunikácie s orgánmi dohľadu.

 

1. Príslušné vnútroštátne orgány podľa AI Aktu

AI Akt ukladá každému členskému štátu povinnosť určiť alebo zriadiť aspoň jeden príslušný vnútroštátny orgán na účely uplatňovania a presadzovania nariadenia. Príslušné orgány zabezpečujú, že pravidlá AI Aktu sa v praxi dodržiavajú na strane poskytovateľov aj nasadzujúcich subjektov. Sú zároveň inštanciou, na ktorú sa organizácie obracajú v prípadoch notifikácií, registrácií, hlásení incidentov a pri žiadostiach o výklad. (AIA, čl. 70 ods. 1)

Kľúčovým princípom je nezávislosť a objektívnosť. Príslušné orgány musia vykonávať svoju činnosť nestranne, bez vonkajších vplyvov, a musia mať dostatočné technické, finančné a ľudské zdroje na plnenie zverených úloh. Táto požiadavka je v oblasti umelej inteligencie osobitne náročná, pretože posúdenie súladu spravidla vyžaduje kombináciu právnych, technických a etických kompetencií, ktoré presahujú štandardnú administratívnu kapacitu. (AIA, čl. 70 ods. 2)

Členské štáty sú povinné Komisii oznámiť totožnosť príslušných orgánov, ich úlohy a prípadné zmeny. AI Akt zároveň pripúšťa, že v rámci jedného členského štátu môže pôsobiť viacero príslušných orgánov, napríklad, ak sú kompetencie rozdelené medzi sektorové orgány pre zdravotníctvo, finančné služby, dopravu alebo presadzovanie práva. V takom prípade je nevyhnutné kompetencie jasne vymedziť, aby nevznikali prekrytia ani medzery v dohľade. (AIA, čl. 70 ods. 1 a 3)

Z pohľadu organizácií je dôležité rozumieť, čo príslušný orgán reálne vykonáva. Jadrom je dohľad nad trhom, teda overovanie, či systémy umelej inteligencie uvádzané na trh alebo do prevádzky spĺňajú požiadavky AI Aktu. Ďalej ide o prijímanie a spracúvanie oznámení vrátane hlásení závažných incidentov, o spoluprácu s inými orgánmi na vnútroštátnej aj európskej úrovni, ako aj o právomoc vyžadovať informácie, vykonávať kontroly, nariaďovať nápravné opatrenia a v odôvodnených prípadoch ukladať sankcie. (AIA, čl. 70; AIA, čl. 74)

Pre organizácie to znamená, že komunikácia s príslušným orgánom nie je jednorazová udalosť, ale priebežný vzťah počas celého životného cyklu AI systému. Organizácia by mala mať jasne nastavené interné procesy na komunikáciu s orgánom dohľadu: určené kontaktné osoby, evidenciu korešpondencie a schopnosť včas reagovať na žiadosti o informácie alebo na kontroly. Systematický prístup k riadeniu AI podľa ISO/IEC 42001:2023 je v tomto kontexte praktickým nástrojom, pretože zabezpečuje, že organizácia má zdokumentované politiky, roly a evidencie, ktoré sú voči dohľadu obhájiteľné a overiteľné. (ISO/IEC 42001:2023, čl. 5 až 10)

Autor: JUDr. Rudolf Kellner, LL.M.