Blog > Nová evropská regulace umělé inteligence – nepřítel inovací před branami nebo zásadní krok do budoucna? – část první

Nová evropská regulace umělé inteligence – nepřítel inovací před branami nebo zásadní krok do budoucna? – část první

Autoři: Richard Otevřel, Petr Bratský 23.04.2021

Umělá inteligence představuje nepochybně jednu z klíčových technologií současnosti. Nyní se zdá, že její právní regulace na unijní úrovni je zase o krok blíže. Ze zveřejněného návrhu unijního nařízení o stanovení harmonizovaných pravidel pro umělou inteligenci je zřejmé, že Evropská komise nebere problematiku umělé inteligence na lehkou váhu. Na co návrh cílí a koho se dotkne? Odpovědi na tyto otázky Vám zodpovíme v sérii článků na pokračování!

Z více než osmdesáti stran návrhu nařízení o stanovení harmonizovaných pravidel pro umělou inteligenci („Návrh“) je zřejmé, že Návrh má předpoklady být v budoucnu komplexní úpravou na poli regulace umělé inteligence („AI“) v Evropské unii („Unie“). Na druhou stranu jeho struktura nyní připomíná složitou pavučinu, která může být na první pohled nejasná a matoucí. Na koho či na co Návrh cílí? Odpovědi na tyto otázky shrnujeme v tomto článku, který je prvním z dílků našeho seriálu o budoucnosti a směřování umělé inteligence pohledem technologického právníka.

 

Regulace bez hranic a hranice AI

Podobně jako nařízení GDPR v oblasti osobních údajů má i Návrh velmi širokou působnost – vztahuje se na všechny systémy AI, které mají dopad na území či osoby v Unii.

Regulace se tak dotkne nejen provozovatelů a uživatelů AI systémů na území Unie, ale též provozovatelů a uživatelů AI systémů mimo území Unie, pokud takové AI systémy mají vliv na osoby v Unii. Dopadat bude rovněž na všechny dovozce i distributory AI systémů. Návrh pracuje s širokou škálou definic povinných osob, nicméně hranice mezi nimi, zejména mezi „provozovatelem“ a „uživatelem“ není občas zcela zřejmá. Za provozovatele AI systému se totiž považuje také uživatel, pokud AI systém uvádí na trh pod svou obchodní firmou či ochrannou známkou nebo pokud jakýmkoliv způsobem modifikoval účel AI systému již předtím certifikovaného a uvedeného na unijní trh.

 

Vojáci mají zelenou

Návrh ze své působnosti celkem logicky s ohledem na pravomoci Unie vyjímá AI systémy určené výlučně pro vojenské užití – fatalisti doufající v soumrak Skynetu si tudíž musí ještě počkat.

 

Tři skupiny AI podle rizika

  1. Zakázané AI systémy

Na úvod Návrh přímo zakazuje některé AI systémy pro jejich rozpor s hodnotami Unie a se základními právy. Jedná se o

  • systémy manipulativní (AI systémy navržené nebo používané způsobem, který manipuluje s lidským chováním nebo vědomím nebo využívá zranitelnosti konkrétní skupiny osob a způsobující, že se člověk chová, vytváří si názor nebo přijímá rozhodnutí ve svůj neprospěch),
  • systémy společenského hodnocení nebo společenské důvěryhodnosti (vyhodnocující osoby na základě údajů z pracovního a osobního života – takové systémy jsou již například vyvíjeny v Číně[1]) a
  • AI systémy ve veřejných prostranstvích, které využívají real-time technologie dálkového biometrického rozpoznávání.

Poslední kategorie biometrických AI systémů není ovšem absolutně zakázaná, pokud má být určena výlučně k následujícím cílům:

  • cílené vyhledávání konkrétních potenciálních obětí trestných činů, včetně pohřešovaných dětí;
  • prevence konkrétního, závažného a bezprostředního ohrožení života nebo fyzické bezpečnosti fyzických osob nebo teroristického útoku;
  • odhalování, lokalizace, identifikace nebo stíhání pachatele nebo podezřelého z vybraných trestných činů (Návrh pracuje s kriminální činností, za kterou v členském státě hrozí alespoň tříletý nepodmíněný trest odnětí svobody).

Záruku za limitované a v zásadě vždy výjimečné užití AI pro tyto účely pak mají převzít soudy anebo nezávislé správní orgány autorizující konkrétní použití.

  1. Vysoce rizikové AI systémy

Jako jeden z hlavních pilířů regulace má být zavedena kategorie tzv. „vysoce rizikových AI systémů“. Jejich vymezení provádí prostřednictvím odkazu na existující unijní právní úpravu klíčových oblastí (zejména v oblasti dopravy a dopravních prostředků) a výčtem dle přílohy č. III Návrhu, která specifikuje další vysoce rizikové AI Systémy.

Evropská komise („Komise“) si dále vyhradila možnost tento výčet dále rozšiřovat, resp. s povinností každoročního přehodnocení, a to v případě, že shledá u určitého AI systému vysokou úroveň rizika újmy. „Riziko újmy“ poté Návrh definuje velmi široce. Pro posuzování kritérií rizika újmy Návrh přichází s podrobnou úpravou, která řeší jak územní míru současného či plánovaného užívání AI systému, tak například možnost navrátit do předchozího stavu případné negativní dopady způsobené AI systémem.

  1. Ostatní AI systémy

Nakonec AI systémy, kterou nejsou ani zakázané ani vysoce rizikové, musí zůstat aspoň pod minimálním dohledem, k čemuž mají přispět např. pravidla transparentnosti, která pro určité AI systémy mohou mít specifickou podobu, anebo pravidla pro jejich vývoj. Rozsah této zbytkové kategorie je však v tuto chvíli nejistý, protože oficiální Návrh zatím neobsahuje přílohy (jak bylo patrné z uniklého draftu minulý týden), které např. definují, co to vůbec AI je, resp. jaké techniky počítačového zpracování (statistické, induktivní, deduktivní, učící se apod.) tímto způsobem regulovat.

 

Závěr

Jak je vidět, vysvětlit základní otázku působnosti Návrhu bude stejný oříšek jako vysvětlit laikovi fungování AI. Již teď je jasné, že první otázky hráčů na poli technologií budou „Kam moje technologie spadá?“, „Jaké jsou moje povinnosti a co musím splnit?“ nebo „V jakém režimu Nařízení se pohybuji?“. To už je možná předzvěst vyhrocených debat nejen ve veřejném prostoru, ale především na poli Evropského parlamentu, kam bude Návrh Komise mířit v rámci legislativního procesu. A co teprve proces uvádění AI systémů na unijní trh? Těmto a dalším otázkám se budeme věnovat v navazujících článcích v dalších dnech.

Příště: Ekosystém jednotlivých hráčů na regulovaném poli AI

Autoři: Richard Otevřel, Petr Bratský a Vojtěch Zavadil

 

Klikněte ZDE, pokud chcete vědět více o našich službách, získaných oceněních nebo o tom, co o nás píší v médiích.

Poslat e-mailem Vytisknout Sdílet Sdílet
Líbil se Vám tento článek?

Rádi Vám budeme posílat další související články přímo na Váš e-mail.