Café Evropa: Umělá inteligence – proč je nutné ji regulovat, a jaký dopad budou mít tyto regulace na evropské občany a podniky?

Hosté:


Daniel Braun, zástupce vedoucí kabinetu místopředsedkyně Evropské
komise Věry Jourové
Jan Klesla, zmocněnec pro Evropská centra excelence v umělé
inteligenci při Ministerstvu průmyslu a obchodu ČR
Marcel Kolaja, místopředseda Evropského parlamentu, Česká
pirátská strana, Zelení/ESA
Alžběta Krausová, Ústav státu a práva, Akademie věd ČR


Moderátor: Luboš Palata, Denik.cz


Debata proběhla 9.prosince 2021 online formou.


-----


Ačkoliv si je EU vědoma obrovských přínosů umělé inteligence v
každodenním životě evropských občanů, její nynější nízká regulace
by v budoucnu mohla způsobit nemalé problémy. Proto v rámci snah
o posílení důvěryhodné umělé inteligence schválila v dubnu 2021
Evropská komise dlouho očekávané Nařízení o evropském přístupu k
umělé inteligenci. Cílem nařízení je v občanech podpořit důvěru v
umělou inteligenci prostřednictvím právního rámce a motivovat
podniky k rozvoji a uplatňování těchto technologií, investic a
inovací.


Nařízení například dává do souvislosti plán na podporu excelence
v oblasti umělé inteligence s prioritami Komise – Zelená dohoda
pro Evropu a digitální transformace, Plán na podporu oživení
Evropy. Dále kategorizuje umělou inteligenci podle rizik, které s
sebou potenciálně nesou, do 4 kategorií. Nepřijatelná rizika
zahrnují umělou inteligenci, která by mohla být hrozbou pro
občany EU, a jejíž použití by mělo být zakázáno – např. social
scoring. Vysokým rizikem jsou označovány technologie používané v
kritické infrastruktuře, vzdělání či zdravotnictví, přičemž
jejich použití by mělo být pečlivě posuzováno nejen před uvedením
na trh, ale i po celou dobu jejich životního cyklu. Nástroje,
které napodobují lidi, jako jsou například chatboti, spadají do
omezených rizik. Tyto systémy by měly být v budoucnu více
transparentní v informování uživatelů o své identitě. Poslední
skupinou je umělá inteligence představující minimální rizika, do
níž patří například videohry s prvky umělé inteligence nebo
filtry proti spamu. Do této kategorie se řadí většina umělé
inteligence, která představuje zanedbatelné nebo nulové riziko.


Jaký vliv bude mít nařízení na vývoj budoucí umělé inteligence?
Ovlivní nařízení již umělou inteligenci? Je nová právní regulace
umělé inteligence v EU potřeba – nestačí již existující předpisy
(Základní charta EU, GDPR)? Jak se k návrhu staví přední hráči na
poli AI?