Európska únia tento týždeň prijala prelomové regulačné opatrenia v oblasti umelej inteligencie. Tie jasne definujú, aké typy AI nástrojov budú považované za príliš rizikové a teda zakázané. Toto rozhodnutie predstavuje významný krok v ochrane práv a súkromia občanov v digitálnej ére.
Porušenie stanovených pravidiel bude mať závažné finančné následky. Subjekty môžu čeliť pokutám až do výšky 7 % ich celosvetových ročných príjmov alebo 35 miliónov eur, podľa toho, ktorá suma je vyššia. Členské štáty EÚ majú do augusta časový priestor na ustanovenie príslušných regulačných orgánov.
Kľúčové oblasti zákazu a regulácie
Medzi najvýznamnejšie zakázané praktiky patrí biometrická identifikácia osôb v reálnom čase na verejných priestranstvách prostredníctvom kamerových systémov. Výnimky existujú len v prípadoch prevencie špecifických hrozieb, napríklad teroristických útokov.
Významný dôraz sa kladie na ochranu osobných údajov. Zakazuje sa sociálne bodovanie založené na irelevantných osobných charakteristikách, ako je etnický pôvod či aktivita na sociálnych sieťach. Podobne je zakázané hodnotenie kriminálneho rizika výlučne na základe biometrických údajov.
Regulácia sa výrazne dotýka aj pracovného prostredia a vzdelávania, kde sa zakazuje používanie systémov na detekciu emócií. Špeciálna ochrana je venovaná zraniteľným skupinám – deťom, seniorom a osobám so zdravotným postihnutím.
Nové pravidlá taktiež kategoricky odmietajú vytváranie rozsiahlych databáz tvárí získaných z internetu a priemyselných kamier. Tým sa bráni vzniku masívneho štátneho dohľadu. Zakázaná je aj manipulácia správania prostredníctvom AI, najmä v kontexte klamlivých marketingových praktík.
Mimoriadne dôležitým aspektom je zákaz systémov, ktoré by sa pokúšali odvodzovať politické názory alebo sexuálnu orientáciu ľudí na základe biometrických údajov. Tým sa posilňuje ochrana základných ľudských práv a súkromia.
Tieto opatrenia predstavujú komplexný rámec pre etické využívanie umelej inteligencie v Európskej únii a stanovujú jasné hranice pre vývoj a implementáciu AI technológií v budúcnosti.
