V Česku AI Act dostalo na starost Ministerstvo práce a sociálních věcí, a to bez navýšení odborných kapacit. AI Act začal platit v srpnu loňského roku a firmy a úřady mají dva roky, než nařízení bude platné v plném rozsahu.
S AI Actem souvisí i postihy. Subjekty, které vyvinou či použijí umělou inteligenci v rozporu s touto regulací, mohou dostat pokutu sedmi procent z ročního obratu, případně 35 milionů eur, asi 880 milionů korun. Firmy jako Meta se podle informací Lupy chystají proti výrazné regulaci a postihům bojovat. Mluví se o tom, že i kvůli tomu se americký big tech spojil s Donaldem Trumpem, který by mohl na evropské představitele vyvinout tlak.
Nově zveřejněné pokyny k zakázaným praktikám shrnula Česká asociace umělé inteligence. Podle ní pokyny dávají jasnou představu, co se v EU nesmí dělat s AI. Zakázány jsou tyto věci:
- AI nesmí manipulovat podprahovými technikami. Reklamy nebo chatboty nesmí ovlivňovat lidi skrytými signály, které obcházejí jejich vědomé rozhodování. Konec neuromarketingu, který „láme vůli“ bez vašeho vědomí!
- Žádná AI nesmí zneužívat slabiny lidí. AI nesmí cílit na děti, seniory, osoby s postižením nebo lidi v tíživé finanční situaci a ovlivňovat jejich chování ve svůj prospěch.
- Sociální skórování v EU? Zakázáno! Pokud někdo chtěl zavést systém „hodnocení občanů“ podle jejich chování (jako v Číně), má smůlu. Sociální skórování s dopadem na přístup k běžným službám je v EU zcela zakázané.
- AI nesmí předpovídat zločince jen na základě osobnosti. Představte si AI, která by určovala, zda někdo spáchá zločin, jen podle jeho chování na sociálních sítích nebo psychologického profilu. Takové prediktivní AI systémy jsou nyní zakázané.
- Automatický sběr obličejů z internetu? Neprojde! Firmy nesmí hromadně sbírat a analyzovat fotky obličejů z webu nebo bezpečnostních kamer k vytvoření databází pro rozpoznávání tváří.
- Rozpoznávání emocí na pracovišti? Pouze pro lékařské účely. AI nesmí analyzovat emoce zaměstnanců v práci nebo studentů ve školách – s výjimkou zdravotních a bezpečnostních důvodů.
- Biometrická kategorizace je omezená. AI nesmí analyzovat biometrické údaje a zařazovat lidi podle rasy, politických názorů, víry nebo sexuální orientace.
- Policie nemůže sledovat lidi pomocí AI v reálném čase – až na výjimky. Systémy pro biometrickou identifikaci na veřejných místech v reálném čase jsou zakázané, s výjimkou hledání pohřešovaných osob, teroristických hrozeb nebo pátrání po nebezpečných pachatelích.