Žiadne automatizované monitorovanie a rozoznávanie psychického stavu na pracovisku či vo vzdelávacích inštitúciách, social scoring či hromadné scrapovanie fotografií tvárí. Nová európska legislatíva kategorizuje technológie umelej inteligencie podľa rizika pre bezpečnosť či ľudské práva. Tie najnebezpečnejšie budú úplne zakázané.

V kategórii „vysoko rizikových“ budú musieť vývojári poskytovať informácie o dátach využitých na trénovanie AI a ďalšie informácie. Za porušenie pravidiel hrozia miliónové pokuty.

O čo ide

Zákon o AI je posledným z trojice legislatívy, ktorou chce EÚ regulovať digitálne technológie a trh. Práce na príprave spustil prudký nástup generatívnej AI, ako je ChatGPT. Snaží sa obmedziť možné škodlivé využívanie umelej inteligencie – napríklad na obmedzovanie ľudských práv, demokracie, súkromia.

AI rozdeľuje aplikácie podľa miery rizika. Tie v najvyššej kategórii budú v Európskej únii úplne zakázané. Vysokorizikové zas budú podliehať prísnym pravidlám. Za najvážnejšie porušenie môžu firmy zaplatiť pokutu až sedem percent globálneho ročného obratu alebo 35 miliónov eur. Pri porušení povinností pre poskytovateľov systémov a modelov je pokuta 15 miliónov alebo tri percentná obratu, pri poskytnutí nepravdivých informácií môže firma zaplatiť do 1,5 percenta obratu.

Na systém budú dohliadať národní regulátori a Úrad pre AI, vytvorený pri Európskej komisii.

Prečo je to dôležité

Hospodárska dôležitosť umelej inteligencie rýchlo rastie. Podľa amerického ministerstva obchodu sa globálne financovanie AI priemyslu v roku 2021 zdvojnásobilo na 66,8 miliardy dolárov. Až 65 firiem presiahlo valuáciu jednej miliardy dolárov. Do roku 2030 by mal globálny AI trh mal narásť na dva až tri bilióny dolárov.

Už dnes sa však AI technológie používajú spôsobom, ktorý podkopáva ľudské práva. Čína vytvorila systém hromadného sledovania a hodnotenia (social scoring) občanov, systémy automaticky vyhľadávajú „rizikové“ osoby na základe rasových či etnických charakteristík.

Čo bude zakázané

Medzi zakázaným využitím umelej inteligencie sú manipulatívne techniky, systémy zneužívajúce zraniteľnosť niektorých skupín, akými sú deti či ľudia s hendikepom, systémy sociálneho bodovania, aký používa napríklad Čína, či hromadné scrapovanie obrázkov tvarí ako v Clearview AI.

Zakázané bude aj automatizované rozoznávanie psychologických stavov na pracovisku či vo vzdelávaní. Výnimku majú využitia z bezpečnostných dôvodov: napríklad kontrola vodiča, aby nezaspal.

V EÚ nebude smieť byť použitý ani softvér, ktorý by predvídal riziko spáchania trestného činu na základe osobnostných predpokladov.

Regulácia vysokého rizika

Druhou kategóriou sú AI aplikácie s „vysokým rizikom“. Pred uvedením na trh budú musieť splniť viacero podmienok vrátane kompatibility s ľudskoprávnymi pravidlami. Databázy, na ktorých je AI trénovaná, musia byť postavené tak, aby minimalizovali riziká a diskriminujúce výsledky. Firmy musia dať verejným inštitúciám detailnú dokumentáciu na posúdenie, aplikácie budú musieť podliehať ľudskému dohľadu.

Patria sem systémy v kritickej infraštruktúre (napríklad doprave), ktoré by mohli ohroziť zdravie či životy ľudí, aplikácie vo vzdelávaní, v dôležitých súkromných a verejných službách, v polícii, súdnictve a podobne.

Výnimky

Výnimky sa týkajú najmä použitia aplikácií pri ochrane práva a poriadku. V takýchto prípadoch môže byť obmedzená transparentnosť dát, úrady budú môcť použiť aplikácie so súhlasom súdu aj bez predchádzajúceho vyhodnotenia ich konformity s pravidlami.

Kontroverznou otázkou bolo používanie biometrickej identifikácie osôb na diaľku. V reálnom čase bude možné len za prísnych podmienok: na zabránenie teroristickým útokom, lokalizovanie obetí či podozrivých z preddefinovaného zoznamu vážnych trestných činov.

Použitie technológie ex post (napríklad z videozáznamu) bude voľnejšie. Výnimky bude možné udeliť v nevyhnutných prípadoch, na základe národnej legislatívy a s predchádzajúcim súhlasom nezávislého orgánu.

Čo bude nasledovať

Finálne schválenie legislatívy sa očakáva v najbližších mesiacoch. Ustanovenia začnú platiť dva roky po jej vstupe do účinnosti, zoznam zakázaných použití AI už po polroku.

Zdroj: https://euractiv.sk/section/digitalizacia/news/niektore-pouzitia-umelej-inteligencie-budu-v-europe-zakazane/