AI Act vstupuje do ďalšej fázy: Týka sa regulácia umelej inteligencie aj vašej spoločnosti?
Umelá inteligencia sa už naplno stala prirodzenou súčasťou podnikania. Využíva sa pri marketingu, analýze dát, zákazníckej podpore, nábore zamestnancov ale aj v každodenných interných procesoch. Aj napriek tomu mnohé spoločnosti stále predpokladajú, že ide o reguláciu určenú výlučne pre vývojárov umelej inteligencie alebo veľké technologické spoločnosti ako sú napríklad OpenAI, Perplexity alebo NVIDIA.
V praxi to tak vôbec nemusí byť.
AI Act sa vzťahuje ako na subjekty, ktoré umelú inteligenciu vytvárajú alebo uvádzajú na trh (providers) ale aj na subjekty, ktoré ju využívajú v rámci svojej podnikateľskej činnosti (deployers), pričom povinnosti deployera sa líšia podľa rizikovej kategórie AI systému.
Kľúčové dátumy účinnosti
Nariadenie nadobudlo účinnosť v auguste 2024, pričom prvé pravidlá sa začali uplatňovať postupne. Od februára 2025 platia napríklad pravidlá týkajúce sa zákazu neprijateľných AI praktík a povinnosti zabezpečiť primeranú úroveň AI gramotnosti zamestnancov.
Od 2.augusta 2026 nadobúdajú účinnosť ďalšie významné ustanovenia európskeho nariadenia o umelej inteligencii. V ďalšej fáze sa začnú uplatňovať povinnosti týkajúce sa transparentnosti, dohľadu a regulácie špecifických kategórií AI systémov. Niektoré pravidlá týkajúce sa vysokorizikových systémov boli v dôsledku nedávnych úprav pravidiel EÚ v oblasti umelej inteligencie (často označovaných ako „Digital Omnibus on AI“) posunuté na neskoršie obdobie (začiatok uplatňovania v roku 2027 a neskôr).
Nová regulácia so sebou priniesla viac než len nové povinnosti ako zabezpečenie ľudského dohľadu, monitorovanie a reportovanie incidentov súvisiacich s AI či vzdelávanie zamestnancov.
Priniesla potrebu poznať:
- aké AI nástroje ana aký účel ich spoločnosť používa,
- aké riziká sich používaním súvisia,
- kto za ich používanie zodpovedá,
- aké interné pravidlá a procesy je potrebné nastaviť.
Pri AI Act-e nie je najväčším problémom samotná existencia regulácie. Najväčším rizikom je domnienka, že sa vašej spoločnosti netýka. Pre spoločnosti, ktoré chcú využívať umelú inteligenciu zodpovedne a bezpečne, môže byť včasná príprava dôležitou konkurenčnou výhodou.
Čo znamená AI Act pre E-shopy?
AI Act neznamená zákaz využívania AI napr. pri generovaní produktových popisov či pri zákazníckych chatbotoch. Je však potrebné využívať AI transparentne, správne kontrolovať AI výstupy a chrániť osobné údaje zákazníkov. Pri generatívnej AI sa taktiež od 2. augusta 2026 vyžaduje označovanie takéhoto obsahu aby bolo zrejmé, že ide o AI generovaný výstup. Uvedené sa týka najmä deepfake a systetického obsahu, ako aj obsahu zverejňovaného bez redakčného dohľadu.
Čo znamená AI Act pre brandingové a marketingové agentúry?
Ide najmä o zodpovednosť za AI generovaný obsah. Generatívna AI síce umožňuje rýchlejšiu tvorbu, zároveň však otvára otázky týkajúce sa zodpovednosti a transparentnosti. Agentúra by mala vedieť preukázať aké AI nástroje používa a zároveň na aký účel a akým spôsobom kontroluje výstupy. Včasné nastavenie interných pravidiel používania AI a zmluvného rámca s klientmi predstavuje významnú ex ante mitigáciu rizík. Taktiež je potrebné od 2. augusta 2026 zabezpečiť jasné označovanie AI generovaného obsahu.
AI Act v recruitingu
Osobitú pozornosť si vyžaduje aj používanie AI pri nábore zamestnancov. AI nástroje používané na triedenie životopisov, hodnotenie kandidátov alebo podporu rozhodovania pri prijímaní zamestnancov predstavujú vysokorizikové použitie AI. Spoločnosť je povinná zabezpečiť primeraný ľudský dohľad, podrobnú dokumentáciu procesu rozhodovania a mitigáciu rizika diskriminácie alebo nesprávneho rozhodnutia. Spoločnosť je povinná ex post preukázať, akým spôsobom bolo rozhodnutie prijaté.
AI Act a sankcie a compliance
AI Act umožňuje uložiť sankcie až do výšky 35 mil. EUR (alebo 7% z celosvetového ročného obratu) pri najzávažnejších porušeniach predpisov. Cieľom AI governance nie je AI implicitne obmedziť. Jej cieľom je zabezpečiť používanie AI od začiatku lege artis (v súlade so zákonom).
V našej kancelárii sa dlhodobo venujeme právu duševného vlastníctva, technológiám a inováciám. AI Act vnímame ako prirodzenú súčasť digitalizácie podnikania a klientom pomáhame zorientovať sa v nových pravidlách tak, aby regulácia nebrzdila ich podnikanie, ale podporovala jeho bezpečný rozvoj.
Jedno je isté: najdrahšou položkou pri AI compliance bude odklad. Spoločnosti, ktoré začnú riešiť AI governance až poprvej kontrole alebo po prvom probléme, budú spravidla čeliť vyšším nákladom ako tie, ktoré si svoje AI procesy zmapujú a nastavia už teraz.
Ak zvažujete, ako AI vo vašej spoločnosti používať v súlade s novými pravidlami, radi sa s vami o tejto téme porozprávame.