Umelá inteligencia mení pravidlá hry: príležitosti, riziká a nové pravidlá

Každý krok, ktorý urobíme v práci s umelou inteligenciou, pripomína ťah na šachovnici – premyslený môže priniesť výhodu, unáhlený však riziko.

Umelá inteligencia (AI) sa stala jedným z najsilnejších trendov posledných rokov a zásadne mení spôsob, akým pracujeme, podnikáme aj komunikujeme. V mnohých oblastiach prináša efektivitu, úsporu času a nové príležitosti – od automatizácie procesov cez analýzu dát až po tvorbu obsahu. Zároveň však otvára otázky zodpovednosti, bezpečnosti a etiky, ktoré nemožno prehliadať.

Pri používaní AI je potrebné nielen rozvíjať nové zručnosti, ako napríklad efektívne písanie promptov, ale aj nastaviť jasné pravidlá pre prácu s citlivými informáciami. Firmy musia dbať na to, aby nedochádzalo k únikom osobných alebo obchodne dôležitých údajov, aby boli vstupy správne anonymizované a aby sa zabránilo zneužitiu technológií. V oblasti programovania vie AI pomôcť urýchliť tvorbu kódu, no vždy je potrebný dohľad človeka, ktorý posúdi kvalitu a správnosť výsledku.

Významnou výzvou zostáva aj otázka autorských práv – za využívanie AI totiž zodpovedá užívateľ, nie samotný nástroj. Preto je nevyhnutné, aby sa v organizáciách zavádzali interné pravidlá a firemné procesy, ktoré zohľadnia nielen ochranu dát, ale aj právne riziká. Do praxe vstupuje európsky Akt o umelej inteligencii (AI Act), ktorý stanovuje jednotné pravidlá pre celú EÚ. Slovensko zároveň pripravuje nový zákon, ktorý určí, kto bude dohliadať na využívanie AI v našich podmienkach.

Legislatíva:

• Akt o umelej inteligencii
• Nový zákon o organizácii štátnej správy v oblasti umelej inteligencie – legislatívny proces začatý
• Krátky prehľad nových európskych digitálnych aktov
• Seriál odborných článkov k AI aktu od odborného autora JUDr. Rudolfa Kellnera, LL.M.:
  • Úvod do problematiky umelej inteligencie
  • Vybrané pojmy a koncepty umelej inteligencie
  • Životný cyklus systému umelej inteligencie
  • Vysokorizikové systémy AI – klasifikácia a požiadavky
  • Povinnosti poskytovateľov vysokorizikových systémov umelej inteligencie
  • Povinnosti poskytovateľov a používateľov vysokorizikových systémov AI
  • Notifikačný režim a registrácia vysokorizikových AI systémov
• Stanovisko EDPB k modelom umelej inteligencie

Otázka autorských práv:

• Umelá inteligencia (AI) verzus autorské právo

Firemné procesy:

• Úvod do umelej inteligencie
• Praktický sprievodca písania promptov pre začiatočníkov
• Usmernenie pre zamestnancov pre prácu so systémami AI
• Práca so systémami AI – vzor smernice
• Umelá inteligencia – nové pracovné pozície vo firmách
• Audioškolenie: Umelá inteligencia v organizácii, nové povinnosti a riziká
• Videoškolenie: Bezpečnosť osobných údajov s AI
• Videoškolenie: Práca s ChatGPT, Gemini a Perplexity
• Ako preveriť dôveryhodnosť AI systému, aplikácie?
• Čo by z pohľadu informačnej bezpečnosti nemalo chýbať v zmluve s dodávateľom AI?

Autor: Redakcia Bezpečnosť v praxi