AI nástroje a GDPR – Ste si istí, že dodržiavate právne predpisy?

Od 2. februára 2025 sú platné a účinné všeobecné ustanovenia a zakázané postupy v oblasti umelej inteligencie. Prevádzkovateľ, ktorý využíva alebo zamýšľa využívať akýkoľvek nástroj umelej inteligencie spracúvajúci osobné údaje, je povinný zabezpečiť súlad aj s Nariadením Európskeho parlamentu a Rady (EÚ) 2016/679 z 27. apríla 2016 o ochrane fyzických osôb pri spracúvaní osobných údajov a o voľnom pohybe takýchto údajov (ďalej len „Nariadenie GDPR“). 

Na dosiahnutie účelu spracúvania osobných údajov v rámci jednotlivých spracovateľských operácií je prevádzkovateľ povinný zabezpečiť, že spracovanie bude prebiehať v súlade s kľúčovými zásadami ochrany osobných údajov. To zahŕňa najmä zabezpečenie, že údaje budú spracúvané zákonným, spravodlivým a transparentným spôsobom, že budú zhromaždené len na konkrétne, legitímne účely a nebudú uchovávané dlhšie a vo väčšom rozsahu, než je nevyhnutné. Okrem toho je nevyhnutné, aby údaje boli presné, chránené pred neoprávneným prístupom a zabezpečené primeranými opatreniami na ochranu ich dôvernosti a integrity.

Ak plánujete využívať akýkoľvek AI nástroj, ktorý môže spracúvať osobné údaje, je kľúčové identifikovať riziká ešte pred jeho nasadením. Prevádzkovatelia by si mali dávať pozor najmä na nástroje, ktoré využívajú podprahové techniky bez vedomia dotknutých osôb, alebo ktoré aplikujú manipulatívne či klamlivé prístupy. Takéto praktiky sú podľa Nariadenia AI  považované za zakázané, keďže môžu významne narušiť správanie jednotlivcov alebo skupín, zneužiť ich zraniteľnosť alebo cielene zasahovať do zraniteľných skupín. Rovnako je zakázané využívanie AI nástrojov na posudzovanie rizika budúceho správania fyzických osôb, ako je napríklad predikcia rizika spáchania trestného činu, výlučne na základe profilovania alebo hodnotenia osobnostných vlastností a charakteristík, ale aj ďalšie iné zakázané praktiky v zmysle Nariadenia AI.

Nedodržanie zákazov týkajúcich sa zakázaných praktík využívajúcich AI, ktoré sa nachádzajú v Nariadení AI môže viesť k uloženiu správnych pokút až do výšky 35 000 000 EUR, alebo, v prípade podniku, až do výšky 7% jeho celkového ročného obratu na celosvetovej úrovni za predchádzajúci finančný rok, podľa toho, ktorá suma je vyššia.

Vzhľadom na vyššie uvedené, prevádzkovatelia osobných údajov majú povinnosť splniť požiadavky vyplývajúce z Nariadenia GDPR (napr. zaktualizovať si záznamy o spracovateľskej činnosti prevádzkovateľa, vykonať test proporcionality a i.), vrátane požiadaviek, vyplývajúcich z Nariadenia AI, aby sa zabezpečila ochrana osobných údajov pri používaní technológií v súlade s platnou právnou úpravou.​​​​​​​​​​