O krok blíže k přijetí pravidel pro umělou inteligenci: ChatGPT pod drobnohledem

Evropský parlament přijal minulý týden drtivou většinou svůj postoj k návrhu nařízení pravidel pro umělou inteligenci - takzvaného Aktu[1] o umělé inteligenci. Tím otevřel cestu k jednáním, která s největší pravděpodobností povedou k přijetí prvního uceleného právního předpisu o umělé inteligenci na světě. Čeho se tato legislativa týká a jaké novinky se na poslední chvíli zanesly do návrhu?

Akt o umělé inteligenci (AI) klasifikuje tyto systémy na základě míry jejich rizikovosti. AI s minimálním rizikem, jako jsou videohry, nepodléhá regulaci, zatímco systémy s omezeným rizikem, například chatboty, podléhají požadavkům transparentnosti. 

Vysoce riziková AI, tedy používaná v rámci „kritické infrastruktury“, bude muset před svým uvedením na trh v EU projít posouzením shody a bude muset být vyhodnocována její rizikovost. Evropský parlament (EP) chce tuto kategorii dále rozšířit o AI, která má dopad na zdraví, bezpečnost, základní práva, ale i např. správu obsahu na sociální sítích nebo slouží k „odhalování zakázaného chování studentů během testů“, takzvaný e-proctoring. 

AI s „nepřijatelným rizikem“ mají být zakázaná, přičemž EP navrhuje, s výjimkami v oblasti odhalování trestných činů, zákaz používání některých biometrických a prediktivních systémů, včetně systémů rozpoznávání obličejů. Tento bod je považován za jednu z hlavních překážek pro nadcházející vyjednávání.

Došlápnutí na ChatGPT?

ChatGPT a jazykové modely aktuálně hýbou světem. Je proto potřeba vnímat, že EP nově nad rámec výše uvedené klasifikace rizikovosti navrhuje vícevrstvý přístup ve vztahu k modelům, které nemají specifický účel (AI pro obecné účely), a přísnější režim pro základní modely,[2] tedy velké jazykové modely, na nichž mohou být postaveny další AI systémy.

Poskytovatelé základních modelů budou muset posoudit a zmírnit možná rizika (pro zdraví, bezpečnost, základní práva, životní prostředí, demokracii atp.) a zaregistrovat své modely v databázi EU, než budou moci být uvedeny na evropský trh.

Nejpřísněji regulována má být generativní AI, jako je ChatGPT či generátor obrázků Midjourney, pro kterou chce EP zavést mimo základní povinnosti také povinné označování obsahu generovaného AI a vynutit si zveřejňování tréninkových dat, na něž se vztahují autorská práva. Zejména v ve vztahu k prvně jmenované povinnosti je však v tuto chvíli obtížně představitelné, jak by její plnění mohlo fungovat v praxi.

Závěr

EP nyní zahájilo trialog s Evropskou komisí a Radou EU za účelem sladění znění Aktu o umělé inteligenci, přičemž po ukončení těchto jednání se upravené znění Aktu vrátí EP k jeho finálnímu přijetí.

Ačkoliv je obtížné předpovídat, jak dlouho bude tento proces trvat, předpokládá se, že by se revidovaný návrh mohl do EP vrátit, a v případě naplnění optimističtějšího scénáře by mohl být i přijat, v prosinci tohoto roku. I v takovém případě je však nepravděpodobné, že by Akt vstoupil v účinnost dříve než v roce 2025, spíše se počítá s rokem 2026, aby všechny zainteresované strany měly dostatek času na přípravu na tento komplexní a dalekosáhlý předpis.

Při pohledu na současné znění Aktu o umělé inteligenci se nicméně nabízí otázka, zda s sebou jeho implementace nepřinese nežádoucí účinky v podobě ústupu hlavních vývojářů pokročilých AI nástrojů z regionu a přeměny EU v pouhého „spotřebitele“ nástrojů vyvinutých v technologicky vstřícnějších regionech mimo EU. 

Ať už se však situace v budoucnu vyvine jakkoliv, minimálně legislativně se blížíme takříkajíc do finále, které pro vás budeme samozřejmě bedlivě sledovat a poskytovat o něm ty nejaktuálnější informace.