Akt o umělé inteligenci (AI Act) a počítání osob
Nařízení (EU) 2024/1689 zachází s různými způsoby počítání osob různě. Tento průvodce shrnuje data a metody, na kterých u měření návštěvníků záleží. Slouží k orientaci a není právním poradenstvím.
Na této stránce
Akt o umělé inteligenci (AI Act) se počítání osob týká jen někdy, podle metody. Nařízení (EU) 2024/1689 některé praktiky zakazuje a reguluje systémy, které pomocí biometrických údajů kategorizují osoby. Kamerové systémy, které jen počítají, zakázány nejsou, a počítání přes Wi-Fi, z dat mobilních operátorů a pomocí LiDARu nevytěžuje žádné biometrické rysy. Povinnosti pro samostatné vysoce rizikové systémy nyní podle nařízení (EU) 2026/1744 platí od 2. prosince 2027.
Deset let byla otázkou souladu při měření návštěvníků GDPR. Akt o umělé inteligenci, první ucelený zákon o AI na světě, teď stojí vedle něj a přímo zasahuje do toho, jak smějí organizace analyzovat lidi ve fyzickém prostoru. Pokud vaše měření využívá kamery a AI, patří akt na váš kontrolní seznam pro nákup. Pokud ne, má vaše metoda o jednu otázku k zodpovězení méně.
Která data z aktu o umělé inteligenci jsou důležitá pro měření návštěvníků?
Akt se uplatňuje postupně. V platnost vstoupil 1. srpna 2024 a jeho zakázané praktiky, tedy přímé zákazy, se uplatňují od 2. února 2025. Pravidla transparentnosti v článku 50 platí od 2. srpna 2026. Jedno z nich se kamerové analýzy týká přímo: kdo nasazuje systémy rozpoznávání emocí nebo biometrické kategorizace, musí o tom informovat osoby, které jsou jim vystaveny.
Rámec pro vysoce rizikové systémy, pro videoanalýzu nejdůležitější část, měl rovněž začít platit 2. srpna 2026. Digital Omnibus pro AI, nařízení (EU) 2026/1744, které vstoupilo v platnost v červenci 2026, ho posunul na 2. prosince 2027 u samostatných vysoce rizikových systémů a na 2. srpna 2028 u AI zabudované do výrobků, na které se vztahují předpisy EU o bezpečnosti výrobků. Povinnosti tedy platí dál, jen později, a organizace, které v Evropě provozují nebo nakupují kamerovou analýzu, se na ně stále musí připravit.
Co říká akt o umělé inteligenci o analýze lidí?
Pro měření jsou podstatné tři vrstvy nařízení (EU) 2024/1689.
- Zákazy: akt zakazuje praktiky, jako je biometrická identifikace na dálku v reálném čase ve veřejně přístupných prostorech pro účely vymáhání práva, s úzkými výjimkami. Počítání návštěvníků nic takového není a instalace pro počítání by se do toho nikdy neměla rozšířit.
- Rámec pro vysoce rizikové systémy: systémy, které pomocí biometrických údajů kategorizují jednotlivce, zejména podle citlivých vlastností, nesou rozsáhlé povinnosti a videoanalýza s AI, která identifikuje nebo profiluje lidi, je pro tento rámec typickým případem.
- Vše ostatní: systémy AI, které s biometrickými údaji nikdy nepracují, tyto kapitoly neregulují.
Dělicí čára vede tam, kde systém zpracovává biometrické údaje o jednotlivcích, bez ohledu na to, jakou AI používá. Systém, který vytěžuje obličeje nebo rysy těla, aby lidi klasifikoval, se z toho musí zodpovídat, zatímco systém, který počítá anonymní signály nebo tvary, nemá nic, podle čeho by mohl kohokoli klasifikovat.
Je počítání osob kamerou podle aktu o umělé inteligenci povolené?
Počítání kamerou zakázáno není, a pokud je provedené správně, kamerové systémy, které jen počítají, zpracovávají video, aniž by kohokoli identifikovaly. Proto moderní počítání pomocí AI kamery dává na výstupu čísla místo videozáznamu. Důkazní břemeno ale nese kamerový systém: musí doložit, co nedělá, dnes ve svém DPIA a stále častěji i v posouzení podle AI Act. To je zvládnutelné, ale stojí to úsilí. Odběratelé by měli od dodavatelů kamerové analýzy čekat písemné odpovědi na otázky k AI Act a vágní odpovědi brát jako zjištění.
Které metody počítání osob nevyvolávají biometrickou otázku?
Počítání přes Wi-Fi čte anonymní rádiové signály, analýza dat mobilních operátorů pracuje s agregovanými daty ze sítě a LiDAR měří pohybující se geometrii bez obrazu v jakékoli fázi. Žádná z nich nevytěžuje biometrické rysy, takže se na ně biometrické kapitoly aktu o umělé inteligenci nevztahují. Pro všechny tři platí stejná logika: soulad, který stojí na tom, co systém fyzicky nedokáže, vydrží déle než soulad, který stojí na interních pravidlech. Compliance tým, který plánuje na prosinec 2027, vynaloží na posouzení podle AI Act nejméně, když metoda měření žádné posouzení nevyžaduje. Průvodce DPIA se věnuje související otázce podle GDPR a stránka Počítání osob a GDPR popisuje postavení z hlediska GDPR, na kterém obojí stojí.
Chcete vidět, jak by to vypadalo u vás?
Časté dotazy
Zakazuje akt o umělé inteligenci počítání osob?
Ne. Zákazy v aktu míří na praktiky, jako je biometrická identifikace na dálku v reálném čase ve veřejně přístupných prostorech pro účely vymáhání práva, nikoli na komerční nebo obecní měření návštěvníků. Počítání, kolik lidí prostor navštívilo, není podle nařízení zakázanou praktikou.
Od kdy se AI Act uplatňuje?
Postupně. Nařízení vstoupilo v platnost 1. srpna 2024, pravidla o zakázaných praktikách se uplatňují od 2. února 2025 a pravidla transparentnosti v článku 50 platí od 2. srpna 2026. Povinnosti pro vysoce rizikové systémy měly začít platit týž den, ale Digital Omnibus pro AI, nařízení (EU) 2026/1744, je posunul na 2. prosince 2027 u samostatných vysoce rizikových systémů a na 2. srpna 2028 u AI zabudované do výrobků, na které se vztahují předpisy EU o bezpečnosti výrobků. Povinnosti tedy platí dál, jen později.
Jsou kamerové systémy pro počítání osob podle aktu vysoce rizikové?
Záleží na tom, co systém dělá, ne na samotné kameře. Systémy, které pomocí biometrických údajů kategorizují osoby podle citlivých vlastností, spadají pod rámec pro vysoce rizikové systémy, a videoanalýza, která jednotlivce identifikuje nebo profiluje, nese odpovídající povinnosti. Kamerový systém, který jen počítá a nevytěžuje biometrické rysy, je na tom jinak, ale i tak to musí v posouzení doložit. Tato odpověď slouží k obecné orientaci a není právním poradenstvím; zařazení konkrétního systému patří do jeho vlastního posouzení.
Které metody počítání zůstávají mimo rozsah aktu o umělé inteligenci?
Metody, které nikdy nezpracovávají biometrické údaje, nemusí řešit žádnou otázku biometrické klasifikace. Počítání přes Wi-Fi čte anonymní rádiové signály, analýza dat mobilních operátorů pracuje s agregovanými daty ze sítě a LiDAR měří tvary ve 3D bez jakéhokoli obrazu. V žádné fázi tedy nevzniká obličej, snímek těla ani biometrický rys a otázku rozsahu řeší už samotná konstrukce metody.