Ϸվ

Seznam
ř峦dzí
ٲší
Úplné znění
Postup :
Průběh na zasedání
Stadia projednávání dokumentu : A9-0001/2021

Předložené texty :

A9-0001/2021

Rozpravy :

Hlasování :

Přijaté texty :

P9_TA(2021)0009

Přijaté texty
PDF204kWORD66k
Středa, 20. ledna 2021-Brusel
Umělá inteligence: otázky výkladu a uplatňování mezinárodního práva
P9_TA(2021)0009A9-0001/2021

Usnesení Evropského parlamentu ze dne 20. ledna 2021 na téma „Umělá inteligence: otázky výkladu a uplatňování mezinárodního práva v míře, v níž se to týká EU, voblastech civilního a vojenského využití a státní správy mimo oblast trestního práva“ ()

Evropský parlament,

–s ohledem na preambuli Smlouvy o Evropské unii a na články 2, 3, 10, 19, 20, 21, 114, 167, 218, 225 a 227 této smlouvy,

–s ohledem na právo předložit petici zakotvené v článcích 20 a 227 Smlouvy o fungování Evropské unie,

–s ohledem na Listinu základních práv Evropské unie,

–s ohledem na směrnici Rady 2000/43/ES ze dne 29. června 2000, kterou se zavádí zásada rovného zacházení sosobami bez ohledu na jejich rasu nebo etnický původ(1) (směrnice orasové rovnosti),

–s ohledem na směrnici Rady 2000/78/ES ze dne 27. listopadu 2000, kterou se stanoví obecný rámec pro rovné zacházení vzaměstnání apovolání(2) (směrnice orovném zacházení vzaměstnání),

–s ohledem na nařízení Evropského parlamentu a Rady (EU)2016/679 ze dne 27.dubna 2016 o ochraně fyzických osob vsouvislosti se zpracováním osobních údajů a o volném pohybu těchto údajů a o zrušení směrnice 95/46/ES (obecné nařízení oochraně údajů)(3) (dále jen „nařízení GDPR“) a na směrnici Evropského parlamentu aRady (EU) 2016/680 ze dne 27.dubna 2016 oochraně fyzických osob vsouvislosti se zpracováním osobních údajů příslušnými orgány za účelem prevence, vyšetřování, odhalování či stíhání trestných činů nebo výkonu trestů, o volném pohybu těchto údajů a o zrušení rámcového rozhodnutí Rady 2008/977/SVV(4),

–s ohledem na nařízení Rady (EU) 2018/1488 ze dne 28. září 2018, kterým se zřizuje evropský společný podnik pro vysoce výkonnou výpočetní techniku(5),

–sohledem na návrh nařízení Evropského parlamentu a Rady ze dne 6. června 2018, kterým se zavádí program Digitální Evropa na období 2021–2027 (),

–s ohledem na své usnesení ze dne 16. února 2017 obsahující doporučení Komisi oobčanskoprávních pravidlech prorobotiku(6),

–s ohledem na své usnesení ze dne 1. června 2017 odigitalizaci evropského průmyslu(7),

–s ohledem na své usnesení ze dne 12. září 2018 o autonomních zbraňových systémech(8),

–s ohledem na své usnesení ze dne 11. září 2018 o rovnosti jazyků v digitálním věku(9),

–sohledem na své usnesení ze dne 12. února 2019 okomplexní evropské průmyslové politice voblasti umělé inteligence arobotiky(10),

–s ohledem na sdělení Komise Evropskému parlamentu, Radě, Evropskému hospodářskému a sociálnímu výboru a Výboru regionů ze dne 11. prosince 2019 s názvem Zelená dohoda pro Evropu (),

–s ohledem na bílou knihu Komise ze dne 19. února 2020 nazvanou „O umělé inteligenci – evropský přístup kexcelenci adůvěře“ (),

–s ohledem na sdělení Komise Evropskému parlamentu, Radě, Evropskému hospodářskému a sociálnímu výboru aVýboru regionů zedne 19. února 2020 o evropské strategii pro data (),

–s ohledem na sdělení Komise Evropskému parlamentu, Radě, Evropskému hospodářskému a sociálnímu výboru a Výboru regionů ze dne 19. února 2020 o formování digitální budoucnosti Evropy (),

–s ohledem na zprávu odborné skupiny na vysoké úrovni pro umělou inteligenci, kterou zřídila Komise v červnu 2018, zveřejněnou dne 8. dubna 2019 pod názvem „Etické pokyny pro zajištění důvěryhodnosti UI“,

–s ohledem na Rámcovou úmluvu Rady Evropy o ochraně národnostních menšin, na protokol č. 12 k Úmluvě o ochraně lidských práv a základních svobod a na Evropskou chartu regionálních či menšinových jazyků,

–s ohledem na Evropskou etickou chartu o používání umělé inteligence v soudních systémech a jejich prostředí, kterou přijala pracovní skupina Rady Evropy pro kvalitu justice (CEPEJ-GT-QUAL) v prosinci 2018,

–s ohledem na doporučení Rady OECD k umělé inteligenci přijaté dne 22. května 2019,

–s ohledem na článek 54 jednacího řádu,

–s ohledem na stanoviska Výboru pro zahraniční věci, Výboru pro vnitřní trh a ochranu spotřebitelů, Výboru pro dopravu a cestovní ruch a Výboru pro občanské svobody, spravedlnost a vnitřní věci,

–s ohledem na zprávu Výboru pro právní záležitosti (A9-0001/2021),

Úǻ

A.vzhledem k tomu, že se umělá inteligence (UI), robotika a související technologie rychle vyvíjejí a mají přímý dopad na všechny aspekty naší společnosti, včetně základních sociálních a hospodářských zásad a hodnot;

B.vzhledem k tomu, že UI zásadním způsobem mění vojenskou doktrínu a materiál díky zásadní změně vedení vojenských operací, zejména v důsledku začlenění a využívání nových technologií a autonomních schopností;

C.vzhledem k tomu, že vývoj a navrhování tzv. „umělé inteligence“, robotiky a souvisejících technologií provádějí lidé a jejich rozhodnutí určují potenciál technologií ve prospěch společnosti;

D.vzhledem k tomu, že společný rámec Unie musí zahrnovat vývoj, zavádění a využívání UI, robotiky a souvisejících technologií a musí zajišťovat úctu k lidské důstojnosti a dodržování lidských práv zakotvených v Listině základních práv Evropské unie;

E.vzhledem k tomu, že Unie a její členské státy nesou zvláštní odpovědnost za to, že zajistí, aby UI, robotika a související technologie – neboť mohou mít přeshraniční využití – byly zaměřeny na člověka, tedy aby byly v zásadě určeny k použití ve prospěch lidstva a společného dobra s cílem přispívat k dobrým životním podmínkám a obecnému zájmu jejich občanů; vzhledem k tomu, že Unie by měla členským státům pomoci dosáhnout tohoto cíle, a to zejména těm státům, které začaly uvažovat o možném vypracování právních norem nebo o provedení legislativních změn v této oblasti;

F.vzhledem k tomu, že evropští občané by mohli mít prospěch z vhodného, účinného, transparentního a uceleného regulačního přístupu na úrovni Unie, který by definoval dostatečně jasné podmínky, aby společnosti mohly vyvíjet aplikace a plánovat jejich obchodní modely, a zároveň by zaručoval, že Unie a její členské státy si uchovají kontrolu nad regulacemi, které je třeba přijmout, aby nebyly nuceny přijímat nebo akceptovat normy stanovené jinými stranami;

G.vzhledem k tomu, že etické pokyny, jako jsou zásady přijaté odbornou skupinou na vysoké úrovni pro umělou inteligenci, představují užitečný výchozí bod, který ale nepostačuje k zajištění toho, aby podniky jednaly spravedlivě a zaručily účinnou ochranu jednotlivců;

H.vzhledem k tomu, že tato zvláštní odpovědnost mimo jiné znamená, že je třeba přezkoumat otázky výkladu a uplatňování mezinárodního práva související s aktivním zapojením EU do mezinárodních jednání, pokud se EU týká civilní a vojenské využití tohoto typu UI, robotiky a souvisejících technologií a otázky státní moci ve vztahu k těmto technologiím nespadají do oblasti působnosti trestního práva;

I.vzhledem k tomu, že je nezbytné poskytnout vhodný a ucelený právní rámec, pokud jde o etické aspekty těchto technologií, jakož i o transparentnost a odpovědnost (zejména v případě UI, robotiky a souvisejících technologií považovaných za velmi rizikové); vzhledem k tomu, že tento rámec musí odrážet skutečnost, že bytostně evropské a univerzální humanistické hodnoty jsou použitelné pro celý hodnotový řetězec vývoje, uplatňování a využití UI; vzhledem k tomu, že tento etický rámec se musí vztahovat na vývoj (včetně výzkumu a inovací), zavádění a využití UI, přičemž musí být v plném rozsahu respektováno právo Unie a hodnoty stanovené v Listině základních práv Evropské unie;

J.vzhledem k tomu, že tento přezkum si klade za cíl zmapovat, do jaké míry odpovídají pravidla soukromého i veřejného mezinárodního práva a práva EU těmto technologiím, a upřesnit výzvy a rizika, které tyto technologie přinášejí pro státní moc, aby tyto výzvy a rizika mohly být řešeny odpovídajícím a přiměřeným způsobem;

K.vzhledem k tomu, že Evropská komise se ve své bílé knize nezabývá vojenskými aspekty využití umělé inteligence;

L.vzhledem k tomu, že evropský harmonizovaný přístup k těmto problémům si žádá, abychom přijali společnou definici UI a opatření k zajištění toho, aby byly dodržovány základní hodnoty Evropské unie, zásady, které stanoví Listina základních práv, a mezinárodní právní předpisy v oblasti lidských práv;

M.vzhledem k tomu, že UI poskytuje nebývalé příležitosti ke zvýšení výkonnosti v odvětví dopravy tím, že řeší problémy vyplývající z rostoucí poptávky po cestování a obav v oblasti bezpečnosti a životního prostředí, a zároveň umožňuje, aby všechny druhy dopravy byly chytřejší, účinnější a pohodlnější;

N.vzhledem, že pro rozvoj unijních kapacit v odvětví obrany je nezbytné řešit umělou inteligenci v tomto odvětví na úrovni EU;

Definice umělé inteligence

1.má za to, že je nezbytné přijmout společný evropský právní rámec s harmonizovanými definicemi a společnými etickými zásadami, včetně využití UI pro vojenské účely; vyzývá proto Komisi, aby přijala tyto definice:

„systémem UI“ se rozumí systém, který je buď založen na softwaru, nebo je součástí hardwarových zařízení a vykazuje chování simulující inteligenci mimo jiné tím, že shromažďuje a zpracovává údaje, analyzuje a interpretuje své okolí a činí s určitým stupněm autonomie kroky k dosažení konkrétních cílů;
„autonomním“ se rozumí systém UI, který pracuje tak, že analyzuje určitá vstupní data a využívá soubor předem stanovených instrukcí, na něž se však neomezuje, a to navzdory tomu, že jeho chování je omezeno cílem, který mu byl stanoven, a dalšími koncepčními rozhodnutími vývojáře a je zaměřeno na splnění tohoto cíle;

2.zdůrazňuje, že bezpečnostní a obranná politika Evropské unie a jejích členských států je založena na zásadách zakotvených v Listině základních práv EU a Chartě OSN, která vyzývá všechny členské státy, aby se ve svých vzájemných vztazích zdržely hrozby silou nebo použití síly, a na zásadách mezinárodního práva, zásadách lidských práv a úctě k lidské důstojnosti a na obecné shodě na univerzálních hodnotách, tj. nedotknutelných a nezadatelných právech lidských bytostí, svobodě, demokracii, rovnosti a právním státu; zdůrazňuje, že veškeré obranné činnosti v rámci Unie musí tyto univerzální hodnoty respektovat a zároveň prosazovat mír, stabilitu, bezpečnost a pokrok v Evropě a ve světě;

Mezinárodní právo veřejné a vojenská uplatnění umělé inteligence

3.domnívá se, že UI používaná ve vojenském a civilním kontextu musí být pod smysluplnou lidskou kontrolou, aby měl člověk vždy prostředky k její nápravě, zastavení nebo vyřazení z provozu v případě nepředvídaného chování, náhodného zásahu, kybernetických útoků či zásahů třetích stran do technologie založené na UI nebo v případě, že tuto technologii získají třetí strany;

4.domnívá se, že dodržování mezinárodního práva veřejného, zejména humanitárního práva, které se vztahuje bez rozdílu na všechny zbraňové systémy a jejich operátory, je zásadním požadavkem, který musí členské státy dodržovat, zejména při ochraně civilního obyvatelstva nebo přijímání preventivních opatření v případě útoku, jako je vojenská agrese nebo kybernetická válka;

5.poukazuje na to, že UI a související technologie se mohou rovněž podílet na neregulérní nebo nekonvenční válce; navrhuje, aby výzkum, vývoj a využívání UI v těchto případech podléhaly stejným podmínkám jako použití v konvenčních konfliktech;

6.zdůrazňuje, že využití UI je příležitostí k posílení bezpečnosti Evropské unie a jejích občanů a že je důležité, aby Unie zaujímala v budoucích diskusích, které se budou konat o tomto tématu na mezinárodní úrovni, jednotný postoj;

7.vyzývá výzkumnou obec zabývající se UI, aby tuto zásadu začlenila do všech výše uvedených systémů založených na UI, které jsou určeny k vojenskému využití; domnívá se, že žádný orgán nemůže udělit výjimku z těchto zásad ani takový systém certifikovat;

8.opakuje, že autonomní rozhodování by nemělo zbavovat lidi odpovědnosti a že konečnou odpovědnost za rozhodovací procesy musí vždy nést člověk, aby bylo možné zjistit totožnost osoby odpovědné za dané rozhodnutí;

9.zdůrazňuje, že při používání UI ve vojenském kontextu musí členské státy, strany konfliktu i jednotlivci vždy dodržovat své povinnosti vyplývající z použitelného mezinárodního práva a nést odpovědnost za důsledky používání těchto systémů; zdůrazňuje, že za všech okolností je třeba mít za to, že za všechny předpokládané, náhodné nebo nežádoucí jednání a důsledky systémů založených na UI nesou odpovědnost členské státy, strany konfliktu a jednotlivci;

10.vítá, že systémy umělé inteligence je možné použít na výcvik a manévry a že jejich potenciál by neměl být podceňován, zejména s ohledem na pořádaná cvičení EU dvojího charakteru, tj. cvičení s civilní i vojenskou složkou;

11.zdůrazňuje, že při navrhování, vývoji, testování, zavádění a využívání systémů na bázi UI je třeba neustále řádně zohledňovat možná rizika, zvláště pokud jde o náhodné civilní oběti a zranění, ztráty na životech a škody na civilní infrastruktuře, ale i rizika spojená s nežádoucím používáním, manipulací, šířením, kybernetickými útoky a se zásahy třetích stran do autonomní technologie založené na UI nebo se získáním takové technologie třetí stranou;

12.připomíná, že podle konzultačního stanoviska Mezinárodního soudního dvora ze dne 8. července 1996 se nelze odvolávat na zásadu novosti pro uplatnění jakékoli výjimky z dodržování platných norem mezinárodního humanitárního práva;

13.domnívá se, že UI nejen podpoří operace, ale bude sloužit i personálu ozbrojených sil, a to díky rozsáhlému zpracování jejich zdravotních údajů a důkladnějšímu sledování zdravotního stavu, určí rizikové faktory vyplývající z jejich prostředí a pracovních podmínek a navrhne vhodnou ochranu, aby se zmírnily dopady na zdraví personálu;

14.znovu zdůrazňuje, že regulační úsilí musí být podpořeno smysluplnými systémy certifikace a dohledu a jasnými mechanismy pro kontrolovatelnost, vysvětlitelnost, zajištění odpovědnosti a zpětnou vysledovatelnost, aby regulační rámec v důsledku technologického pokroku nezastaral;

15.zdůrazňuje význam zapojení Evropské unie v mimořádně propojeném světě do vytváření mezinárodního právního rámce pro využívání umělé inteligence; naléhavě vyzývá EU, aby spolu s Organizací spojených národů a mezinárodním společenstvím převzala vedení a aktivní úlohu v prosazování tohoto globálního regulačního rámce pro použití UI k vojenským a dalším účelům a přitom zajistila, aby toto použití probíhalo i nadále v přísných mezích stanovených mezinárodním právem a mezinárodním humanitárním právem, zejména Ženevskými úmluvami ze dne 12. srpna 1949; zdůrazňuje, že tento rámec nesmí nikdy porušovat obecně platné etické normy a zásady lidskosti uvedené v Martensově doložce ani umožnit jejich porušení a musí být v souladu s bezpečnostními pravidly a požadavky na ochranu spotřebitele; naléhavě žádá EU a členské státy, aby pro vývoj technologií UI, zejména těch, které se používají k vojenským účelům v autoritářských státech, stanovily spolehlivé systémy dohledu a hodnocení;

16.zdůrazňuje, že robotika nejen umožní, aby vojenský personál operoval na dálku, ale poskytne i lepší osobní ochranu, například v operacích v zamořeném prostředí, při hašení požárů, odstraňování pozemních nebo mořských min a při obraně před nálety dronů;

17.zdůrazňuje, že vývoj, zavádění, používání a řízení UI musí respektovat základní práva, hodnoty a svobody zakotvené ve Smlouvách EU, a vyzývá členské státy, aby se zdržely zavádění vysoce rizikových systémů UI, které ohrožují základní práva; bere na vědomí, že Komise zveřejnila bílou knihu o umělé inteligenci, a vybízí k hlubšímu výzkumu možného rizika, které pro základní práva vyplývá z používání UI státními orgány a orgány, institucemi a jinými subjekty Evropské unie;

18.vyzývá Komisi, aby usnadnila výzkum možností využití UI při odstraňování následků katastrof, krizové prevenci a udržování míru, jakož i diskuzi o těchto příležitostech;

19.vítá vytvoření skupiny vládních odborníků OSN pro posílení odpovědného chování státu v kybernetickém prostoru v souvislosti s mezinárodní bezpečností a vyzývá EU, aby se plně zapojila do její práce;

20.vyzývá místopředsedu Komise, vysokého představitele pro zahraniční věci a bezpečnostní politiku, aby připravil prostor pro celosvětová jednání s cílem zavést režim kontroly zbrojení v oblasti UI a aktualizovat všechny stávající smluvní nástroje týkající se kontroly zbraní, odzbrojení a nešíření zbraní, aby zohledňovaly systémy UI používané ve válce; vyzývá k přijetí společného postoje Rady, kterým se stanoví společná pravidla pro řízení kontroly vývozu vojenské technologie a vybavení, aby byly plně zohledněny a zahrnuty zbraňové systémy na bázi UI;

21.opět potvrzuje, že tato pravidla musejí vždy dodržovat zásady, které připomíná Římský statut ze dne 17. července 1998 a které se týkají zločinu genocidy, zločinů proti lidskosti a válečných zločinů;

22.upozorňuje na jednoznačná rizika spojená s rozhodnutími, která činí lidé, pokud při nich vycházejí výhradně ze strojově generovaných dat, profilů a doporučení; upozorňuje na to, že by celková koncepce systémů UI měla zahrnovat i pokyny týkající se kontroly a dohledu, které bude vykonávat lidská bytost; žádá, aby se transparentnost a vysvětlitelnost aplikací UI a nezbytnosti lidského zásahu staly závaznými a aby byla zavedena další opatření, například nezávislé audity a specifické zátěžové zkoušky s cílem usnadnit a vymáhat dodržování předpisů; zdůrazňuje, že tyto audity by měl pravidelně provádět nezávislý orgán, který by měl dohlížet na vysoce rizikové aplikace UI používané státními orgány nebo armádou;

23.zdůrazňuje význam ověřování toho, jakým způsobem se vysoce rizikové technologie umělé inteligence rozhodují; připomíná, že je třeba dodržovat zásady zákazu diskriminace a proporcionality avyjasnit otázky příčinné souvislosti, odpovědnosti, transparentnosti a vysvětlitelnosti, aby bylo možné určit, zda a do jaké míry může stát, jakožto subjekt mezinárodního práva veřejného, ale ijako vykonavatel vlastní moci, jednat za pomoci systémů založených na UI, které mají určitou autonomii, aniž by tím porušoval povinnosti vyplývající zmezinárodního práva, jako je spravedlivé řízení;

24.trvá na tom, že je důležité investovat do lidských dovedností, včetně dovedností digitálních, aby se osoby, které vykonávají regulovaná povolání, včetně činností spojených svýkonem státní moci, jako je výkon spravedlnosti, mohly přizpůsobit vědeckému pokroku zahrnujícímu řešení založená na UI; vyzývá členské státy aKomisi, aby tuto skutečnost řádně zohlednily vrámci provádění směrnice 2005/36/ES(11);

25.trvá na tom, že systémy UI musí vždy dodržovat zásady odpovědnosti, spravedlnosti, řiditelnosti, obezřetnosti, přičitatelnosti, předvídatelnosti, zpětné vysledovatelnosti, spolehlivosti, důvěryhodnosti, transparentnosti a vysvětlitelnosti, musí být schopny odhalit případnou změnu okolností a prostředí operace, rozlišovat, kdo bojuje a kdo ne, a dodržovat zásadu proporcionality; trvá na tom, že poslední z uvedených zásad podmiňuje legalitu vojenské akce dodržením rovnováhy mezi cílem a použitými prostředky a že hodnocení této proporcionality musí vždy provést člověk;

26.zdůrazňuje, že používání systémů UI v oblasti bezpečnosti a obrany vyžaduje, aby měl lidský operátor úplný přehled o situaci, aby byl systém UI předvídatelný, spolehlivý a odolný, aby byl operátor schopen odhalit případné změny okolností a operačního prostředí a do útoku zasáhnout nebo jej zastavit, aby tak bylo zajištěno, že budou v celém řetězci velení a kontroly uplatňovány v plné míře zásady mezinárodního humanitárního práva, zejména zásada rozlišování mezi civilními a vojenskými cíli a zásada proporcionality a obezřetnosti při útoku; zdůrazňuje, že odpovědné osoby musí mít vždy možnost vykonávat smysluplnou kontrolu a převzít za systémy UI a veškeré jejich využití plnou odpovědnost; vyzývá Komisi, aby podporovala dialog, užší spolupráci a součinnost mezi členskými státy, výzkumnými pracovníky, akademickou obcí, subjekty občanské společnosti,soukromým sektorem, zejména vedoucími společnostmi, a armádou scílem zajistit inkluzivní procesy tvorby politik, pokud jde oprávní předpisy týkající se UI voblasti obrany;

27.zdůrazňuje, že Parlament vyzval k vypracování a urychlenému přijetí společného postoje ke smrtícím autonomním zbraňovým systémům (LAWS), který zabrání vývoji, výrobě a využívání systémů LAWS schopných útočit bez smysluplné lidské kontroly, a k zahájení účinných jednání o jejich zákazu; připomíná v této souvislosti své usnesení ze dne 12. září 2018 oautonomních zbraňových systémech; připomíná, že termín „smrtící autonomní zbraňové systémy“ (LAWS) odkazuje na zbraňové systémy nevyužívající smysluplnou kontrolu ze strany člověka nad zásadními funkcemi, jako je zaměření jednotlivých cílů a útok na ně; zdůrazňuje, že rozhodnutí zvolit cíl a vykonat smrtící útok prostřednictvím zbraňových systémů s určitou mírou autonomie musí vždy učinit lidský operátor, který provede smysluplnou kontrolu, dohled a nezbytné posouzení v souladu se zásadami proporcionality a nezbytnosti; zdůrazňuje, že systémy UI nemohou za žádných okolností nahradit lidské rozhodování v této oblasti;

28.konstatuje však, že autonomní zbraňové systémy jako zvláštní kategorie UI ve vojenské oblasti by měly být projednávány a schvalovány na mezinárodní úrovni, zejména na fóru Úmluvy OSN o některých konvenčních zbraních (CCW); upozorňuje na probíhající mezinárodní diskusi o systémech LAWS za účelem regulace vznikajících vojenských technologií, která dosud nedospěla k dohodě; poukazuje na to, že EU teprve nedávno souhlasila s tím, že bude jednat o dopadech vývoje v oblasti UI a digitalizace na odvětví obrany; domnívá se, že EU může sehrát zásadní úlohu, pokud jde o pomoc členským státům při harmonizaci jejich přístupu k vojenské UI, což jí umožní ujmout se vedení mezinárodních jednání;

29.trvá na tom, že je třeba vypracovat strategii EU proti systémům LAWS a zakázat tzv. „smrtící roboty”;

30.zdůrazňuje, že UI používaná ve vojenském kontextu musí splňovat určitá minimální kritéria, konkrétně musí rozlišovat mezi bojujícími, nebojujícími a bojovníky na bojišti, rozpoznat vzdávajícího se bojovníka nebo bojovníka vyřazeného z boje, nesmí fungovat nahodile, nesmí lidem způsobovat zbytečné utrpení, být předpojatá nebo naprogramovaná na základě úmyslně neúplných údajů a musí být v souladu se zásadami mezinárodního humanitárního práva, zásadami přiměřenosti použité síly a obezřetnosti před zásahem;

31.domnívá se, že v souvislosti s používáním smrtících autonomních zbraňových systémů vystávají zásadní etické a právní otázky ohledně schopnosti lidí zachovat si kontrolu nad těmito systémy, a žádá, aby technologie založené na UI nemohly přijímat autonomní rozhodnutí na základě právních zásad rozlišování, proporcionality a obezřetnosti;

32.požaduje, aby byla na mezinárodní úrovni zavedena transparentní a riziko omezující řešení pro vývoj a použití UI k vojenským účelům, zejména pokud jde o zásady zachování územní celistvosti, neintervence a použití síly; zdůrazňuje důležitost toho, aby byly při řešení právních a etických otázek v evropském rámci pro UI zohledněny vojenské aspekty; připomíná svůj postoj k zákazu vývoje, výroby a používání systémů LAWS; lituje toho, že chybí celosvětové úmluvy jednoznačně upravující podmínky pro použití těchto zbraní;

33.konstatuje, že dynamika současných závodů ve zbrojení vyplývající z toho, že národní státy, které jsou vojenskými mocnostmi, vyvíjejí systémy LAWS, předbíhá pokrok a účinné a všeobecné uplatňování a prosazování společných pravidel a právních rámců, neboť informace o vývoji a zavádění těchto systémů jsou důvěrné a národní státy mají vlastní zájem na vytvoření co nejrychlejších a nejefektivnějších obranných schopností, a to bez ohledu na stávající či možné budoucí právní rámce nebo zásady;

34.domnívá se, že systémy LAWS by měly být používány pouze jako nejzazší řešení a jsou legální jedině tehdy, podléhají-li přísné lidské kontrole umožňující konkrétnímu člověku převzít nad nimi v kterémkoli okamžiku kontrolu, neboť v procesu přijímání rozhodnutí s důsledkem smrti má zásadní význam smysluplný lidský zásah a dohled a protože lidé by měli vždy zůstat odpovědní za rozhodnutí o životě a smrti; je přesvědčen, že systémy bez jakékoli lidské kontroly (tzv. „human off the loop“) a lidského dohledu je třeba bez výjimky a za všech okolností zakázat;

35.vyzývá místopředsedu Komise, vysokého představitele Unie pro zahraniční věci a bezpečnostní politiku, členské státy a Evropskou radu, aby bezodkladně vypracovali a přijali společné stanovisko k autonomním zbraňovým systémům s cílem zajistit smysluplnou lidskou kontrolu nad jejich klíčovými funkcemi, a to i během rozmísťování, aby na příslušných fórech mohli jednotně vystupovat a jednat; v této souvislosti vyzývá místopředsedu Komise, vysokého představitele, členské státy a Radu, aby sdíleli osvědčené postupy a shromažďovali připomínky odborníků, akademických pracovníků a občanské společnosti v souladu s postojem k autonomním zbraňovým systémům ze dne 12. září 2018, v němž se uvádí, že útoky by měly být vždy vedeny za významné lidské účasti;

36.vybízí všechny státy, aby provedly posouzení toho, zda a jakým způsobem by autonomní vojenské prostředky přispěly k jejich národní bezpečnosti a jak by mohla jejich národní bezpečnost ze zbraňových systémů UI těžit, zejména z potenciálu těchto technologií podpořit a zlepšit lidské rozhodování v souladu s mezinárodním humanitárním právem a jeho zásadami; připomíná, že jakékoli systémy LAWS nebo zbraně s vysokým stupněm autonomie mohou fungovat nesprávně z důvodu chybně napsaného kódu nebo kybernetického útoku spáchaného nepřátelským státem nebo nestátním subjektem;

37.trvá na tom, že systémy LAWS nesmějí být využívány jindy než v konkrétních případech a na základě schvalovacích postupů, které jsou předem podrobně stanoveny v normách, jež dotčený stát (ať už je stranou Severoatlantické aliance, či nikoli) zpřístupní veřejnosti nebo alespoň svému vnitrostátnímu parlamentu;

38.má za to, že systémy LAWS musejí dodržovat ustanovení Úmluvy ze dne 10. října 1980 o některých konvenčních zbraních, a zejména zákaz zbraní, u nichž se má za to, že „způsobují nadměrné utrpení“;

39.aby se zabránilo jejich nekontrolovanému šíření, navrhuje, aby byly systémy LAWS zapsány na seznam zbraní podléhajících ustanovením Smlouvy ze dne 2. dubna 2013 o obchodu se zbraněmi, konkrétně na seznam uvedený v článku 2 této smlouvy;

40.požaduje zákaz antropomorfizace systémů LAWS, aby se zabránilo nechtěné záměně lidské bytosti za robota;

41.vítá dohodu Rady aParlamentu ovyloučení smrtících autonomních zbraní „bez možnosti smysluplné lidské kontroly nad rozhodnutími ovýběru apoužití při provádění útoků“ zopatření financovaných zEvropského obranného fondu (EDF); připomíná svůj postoj, podle něhož není užívání, vývoj nebo produkce systémů LAWS bez smysluplného lidského dohledu způsobilá pro financování z fondu EDF;

42.vyzývá Komisi, aby podporovala výzkum, vývoj, zavádění a používání UI sloužící k zachování míru a předcházení konfliktům;

43.konstatuje, že odvětví UI celosvětově dominují američtí a čínští digitální giganti, kteří budují domácí kapacity a skupují mnoho slibných společností; pevně proto zastává názor, že nemáme-li zaostávat v technologiích UI, je naprosto nutné lépe vyvážit základní výzkum a průmyslové využití a zároveň vytvořit srovnatelné strategické výhody dalším budováním vlastního potenciálu a vlastních zdrojů;

44.zdůrazňuje, že roboti, kteří spadají do definice strojních zařízení stanovené ve směrnici 2006/42/ES(12), by měli být navrhováni i sestavováni vsouladu snormami abezpečnostními opatřeními, jež tato směrnice stanoví;

45.připomíná, že EU má ambice stát se celosvětovým obhájcem míru, a vyzývá ji, aby se v globálním měřítku více zasazovala také o odzbrojení a nešíření zbraní a svou činností a svými opatřeními usilovala o zachování mezinárodního míru a bezpečnosti, dodržování mezinárodního humanitárního práva a práva v oblasti lidských práv, stejně jako o ochranu civilistů a civilní infrastruktury;

46.zdůrazňuje, že je třeba prozkoumat případný dopad UI jakožto strategického faktoru na společnou bezpečnostní a obrannou politiku (SBOP), zejména na vojenské a civilní mise a operace i na budování kapacit EU;

47.připomíná, že naši spojenci z řad států či v rámci NATO nebo EU se sami nacházejí v procesu začleňování UI do svých vojenských struktur; je přesvědčen o tom, že interoperabilita s našimi spojenci musí být zachována pomocí společných norem, které jsou nezbytné pro vedení operací v rámci koalice; kromě toho připomíná, že spolupráce v oblasti UI by se měla odehrávat v evropském rámci, kterým je jedinou významnou strukturou, v níž mohou vznikat silně synergické vazby, jak se uvádí ve strategii EU pro oblast umělé inteligence;

48.domnívá se, že EU musí pečlivě sledovat a zvažovat důsledky rozvoje UI pro obranu a vedení válek, včetně potenciálně destabilizačního vývoje a zavádění techniky, a vést etický výzkum a koncepci, aby byla zajištěna nedotknutelnost osobních údajů, individuální přístup a kontrola a aby byly zohledněny hospodářské a humanitární otázky;

49.připomíná svůj postoj ze dne 12. září 2018 k autonomním zbraňovým systémům, podle nějž útoky nesmí být vedeny bez smysluplného lidského zásahu; vyzývá místopředsedu Komise, vysokého představitele, členské státy a Evropskou radu, aby přijaly společný postoj k autonomním zbraňovým systémům, který zajistí smysluplnou lidskou kontrolu nad klíčovými funkcemi zbraňových systémů, a to i během jejich zavádění; znovu opakuje svou podporu činnosti skupině vládních odborníků vysokých smluvních stran Úmluvy OSN o některých konvenčních zbraních v souvislosti se systémy LAWS, která zůstává příslušným mezinárodním fórem pro diskuze a jednání o právních výzvách, jež představují autonomní zbraňové systémy; vyzývá k urychlení veškerého stávajícího mnohostranného úsilí, aby normativní a regulační rámce nebyly předstiženy technologickým vývojem a novými metodami vedení válek; vyzývá místopředsedu Komise, vysokého představitele, aby se nadále účastnil probíhajících jednání o mezinárodní regulaci v oblasti systémů LAWS se státy, které jsou smluvními stranami Úmluvy o zákazu nebo omezení použití některých konvenčních zbraní, a bezodkladně přispěl k pokroku v úsilí o vytvoření nového celosvětového normativního rámce a právně závazného nástroje zaměřeného na definice, koncepty a vlastnosti systémů LAWS, etické a právní otázky ohledně lidské kontroly, zejména pokud jde o kritické funkce, jako je výběr a zaměření cíle, zachování lidské odpovědnosti a nezbytná úroveň interakce mezi člověkem a strojem, včetně konceptu lidské kontroly a lidského úsudku; žádá, aby toto úsilí zajistilo soulad s mezinárodním humanitárním právem a právem v oblasti lidských práv v různých fázích životního cyklu zbraně založené na UI s cílem přijmout konkrétní doporučení ohledně vyjasnění, posouzení a rozvoje aspektů normativního rámce pro vznikající technologie v oblasti systémů LAWS;

50.je přesvědčen, že pro celosvětovou bezpečnost je rozhodující, aby existoval účinný mechanismus pro prosazování pravidel o nešíření systémů LAWS a všech budoucích útočných technologií založených na UI;

Státní moc: příklady z civilních oblastí, včetně zdravotnictví a soudnictví

51.trvá na tom, že členské státy musí – bez výrazného narušování trhu – jednat efektivně s cílem omezit svou závislost na zahraničních datech a dohlédnout na to, aby vlastnictví nejlepších technologií mocnými soukromými koncerny nevedlo k tomu, že budou popírat autoritu veřejné moci, a už vůbec ne k tomu, že by ji snad nahradily mocí soukromou, zejména pokud tyto soukromé skupiny vlastní třetí strana mimo Evropskou unii;

52.zdůrazňuje, že použití systémů UI v rozhodovacím procesu veřejných orgánů může vyústit v zaujatá rozhodnutí, která budou mít na občany negativní dopad, a toto jednání by proto mělo podléhat přísným kontrolním kritériím, pokud jde mimo jiné o jejich bezpečnost, transparentnost, odpovědnost, nediskriminační povahu, sociální odpovědnost a odpovědnost vůči životnímu prostředí; naléhavě vyzývá členské státy, aby posoudily rizika související s rozhodnutími řízenými UI v souvislosti s výkonem státní moci a aby poskytly záruky, jako je smysluplný lidský dohled, požadavky na transparentnost a možnost taková rozhodnutí napadnout;

53.naléhavě členské státy žádá, aby předtím, než zautomatizují činnosti spojené s výkonem státní moci, jako je výkon soudní moci, posoudily rizika spojená s technologiemi řízenými UI; vyzývá členské státy, aby zvážily, zda je třeba zavést záruky, jako je dohled kvalifikovaného odborníka a přísná pravidla profesní etiky;

54.poukazuje na to, že je důležité přijmout opatření na evropské úrovni, která by podpořila tolik potřebné investice, datovou infrastrukturu a výzkum, včetně výzkumu týkajícího se využívání UI veřejnými orgány, a společný etický rámec;

55.zdůrazňuje, že Evropská unie musí usilovat o dosažení strategické odolnosti, aby se v případě krize nikdy znovu neocitla nepřipravena, a zdůrazňuje, že to má zásadní význam zejména pro UI a její uplatnění pro vojenské účely; zdůrazňuje, že dodavatelské řetězce pro vojenské systémy UI, které mohou vést k technologické závislosti, by se měly přehodnotit a tato závislost by měla být postupně odstraněna; vyzývá k navýšení investic do evropské UI pro obranu ado kritické infrastruktury, která ji podporuje;

56.vyzývá Komisi, aby posoudila důsledky moratoria na používání systémů pro rozpoznávání obličejů a na základě výsledků tohoto posouzení zvážila zavedení moratoria na používání těchto systémů na veřejnosti veřejnými orgány a ve vnitřních prostorách, které slouží vzdělávání a zdravotní péči, jakož i na využívání těchto systémů za účelem vymáhání práva v prostorách s částečně veřejnou povahou, jako jsou letiště, a to s platností do okamžiku, než bude určeno, že jsou dotyčné technické normy plně v souladu se základními právy, že výsledky použití těchto technologií mají nezaujatou a nediskriminační povahu a že existují přísné záruky proti zneužití, jež zajistí nezbytnost a přiměřenost použití takových technologií;

57.zdůrazňuje význam kybernetické bezpečnosti pro UI v ofenzivních i defenzivních scénářích; v této souvislosti poukazuje na význam mezinárodní spolupráce, stejně jako zveřejňování a sdílení slabých míst a nápravných opatření v oblasti bezpečnosti IT; vyzývá k mezinárodní spolupráci v oblasti kybernetické bezpečnosti za účelem účinného využívání a zavádění UI a k zavedení záruk proti jejímu zneužívání a kybernetickým útokům; kromě toho bere na vědomí dvojí možnost využití systémů IT (tj. použití pro civilní i vojenské účely) a UI a vyzývá k účinné regulaci v tomto směru;

58.je přesvědčen o tom, že členské státy by měly podporovat technologie UI, které slouží k užitku obyvatel, a že osoby, které byly předmětem rozhodnutí orgánu veřejné moci založeného na informacích ze systému UI, by o tom měly být informovány, měly by urychleně obdržet informace uvedené v předchozím bodu a měly by mít možnost takové rozhodnutí napadnout a zvolit si, aby se tento opravný prostředek projednal bez zásahu systému UI; vyzývá členské státy, aby zvážily, zda je třeba zavést záruky stanovené ve směrnici (EU) 2018/958(13), jako je dohled kvalifikovaného odborníka apravidla profesní etiky;

59.zdůrazňuje, že sestavování výhledů na základě sdílení dat, přístupu k nim a jejich používání se musí řídit požadavky na kvalitu, bezúhonnost, transparentnost, bezpečnost, ochranu soukromí a kontrolu; zdůrazňuje důležitost toho, aby byl při rozvoji, zavádění a využívání umělé inteligence, robotiky a souvisejících technologií v plné míře respektován právní rámec EU pro ochranu osobních údajů za účelem posílení bezpečnosti občanů a jejich důvěry v tyto technologie;

60.poukazuje na rychlý vývoj aplikací UI, které rozpoznávají jedinečné charakteristické prvky, například obličejové rysy, pohyby a postoje; upozorňuje na otázky, jako je narušení soukromí, nediskriminace a ochrana osobních údajů, vyvstávající v souvislosti s používáním aplikací automatizovaného rozpoznávání;

61.zdůrazňuje, že jakékoli rozhodnutí týkající se fyzické osoby, které by bylo založeno výhradně na automatizovaném zpracování, včetně profilování, a které by vedlo k nepříznivým právním účinkům ve vztahu k subjektu údajů nebo mělo na dotyčnou osobu zásadní dopad, je podle nařízení GDPR zakázáno, pokud to ovšem neumožňují právní předpisy Unie nebo členského státu, přičemž se na subjekt údajů musí vztahovat opatření vhodná pro ochranu jeho práv a svobod a oprávněných zájmů;

62.žádá, aby při využívání UI veřejnými orgány byla zajištěna algoritmická srozumitelnost, transparentnost a regulační dohled a aby byla provedena posouzení dopadu předtím, než budou státními orgány zavedeny nástroje využívající technologie UI; vyzývá Komisi a Evropský sbor pro ochranu osobních údajů, aby vydaly pokyny, doporučení a osvědčené postupy s cílem dále konkretizovat kritéria a podmínky platné pro vydání rozhodnutí na základě profilování a použití UI veřejnými orgány;

63.konstatuje, že UI pravděpodobně bude hrát čím dál tím významnější úlohu ve zdravotnictví, zejména díky algoritmům na podporu stanovení diagnózy, chirurgii za pomoci robota, inteligentním protézám, personalizovaným léčebným postupům založeným na trojrozměrném modelování těla každého pacienta, sociálním robotům určeným k tomu, aby pomáhali seniorům, digitálním terapiím ke zvýšení autonomie některých duševně nemocných pacientů, predikativnímu lékařství a softwaru pro reakci na epidemie;

64.trvá nicméně na tom, aby se ve všech případech používání UI v oblasti veřejného zdraví dodržovala ochrana osobních údajů pacientů a bránilo se jejich nekontrolovanému šíření;

65.požaduje, aby se při používání UI v oblasti veřejného zdraví dodržovala zásada rovného zacházení s pacienty, pokud jde o přístup k léčbě, zachoval se vztah mezi pacientem a lékařem a za všech okolností se dodržovala Hippokratova přísaha, tak aby měl lékař vždy možnost odchýlit se od řešení, které nabízí UI, a nesl tak za jakékoli rozhodnutí odpovědnost;

66.konstatuje, že využívání UI v boji proti trestné činnosti a kyberkriminalitě by mohlo přinést širokou škálu možností a příležitostí; zároveň potvrzuje, že by měla i nadále převažovat zásada, že to, co je nezákonné off-line, je nezákonné i on-line;

67.konstatuje, že UI je čím dál tím častěji využívána v soudnictví, kde má pomoci při rychlejším přijímání racionálnějších rozhodnutí, která by byla více v souladu s platným právem; s potěšením konstatuje, že používání UI by mělo podle předpokladu urychlit soudní řízení;

68.domnívá se, že je nutné jasně stanovit, zda je vhodné, abychom se při přijímání rozhodnutí v oblasti prosazování práva částečně spoléhali na UI a zároveň si zachovali kontrolu nad konečným rozhodnutím;

69.zdůrazňuje, že využitím UI v soudnictví by mohlo dojít ke zdokonalení analýzy a shromažďování údajů a k posílení ochrany obětí a že by se tímto měla zabývat sféra výzkumu a vývoje, což by mělo být doprovázeno posouzeními dopadu, zejména pokud jde o záruku spravedlivého procesu a opatření proti zaujatosti a diskriminaci za uplatnění zásady předběžné opatrnosti; zdůrazňuje, že toto nemá být náhradou za zapojení lidské bytosti do vynášení rozsudků a přijímání rozhodnutí;

70.připomíná důležitost zásad řádné správy, transparentnosti, nestrannosti, odpovědnosti, spravedlnosti a racionální integrity při využívání UI v trestním soudnictví;

71.naléhavě členské státy žádá, aby posoudily rizika spojená s technologiemi řízenými UI předtím, než zautomatizují činnosti spojené s výkonem státní moci, zejména v oblasti soudnictví; vyzývá členské státy ke zvážení toho, zda je třeba zavést záruky, jako jsou dohled kvalifikovaného odborníka apravidla profesní etiky;

72.konstatuje, že určité technologie UI umožňují automatizaci zpracování informací a přijímání opatření v bezprecedentním měřítku, například hromadné sledování v civilní i vojenské sféře, což představuje riziko pro základní práva a vytváří prostor pro protiprávní zásahy do státní svrchovanosti; žádá, aby se na hromadné sledování vztahoval dohled v rámci mezinárodního práva, mimo jiné i pokud jde o otázky jurisdikce a vymáhání; vyjadřuje hluboké znepokojení nad tím, že byly vyvinuty některé vysoce rušivé aplikace společenského hodnocení, které pro ochranu základních práv představují zásadní nebezpečí; vyzývá k výslovnému zákazu používání hromadného společenského hodnocení ze strany veřejných orgánů coby způsobu, jak omezit práva občanů; vyzývá k posílení odpovědnosti soukromých subjektů podle mezinárodního práva vzhledem k tomu, že některé soukromé subjekty přijímají rozhodnutí o těchto technologiích a kontrolují jejich vývoj z pozice hegemona; vyzývá v této souvislosti Komisi, Radu a členské státy, aby věnovaly zvláštní pozornost vyjednávání, uzavírání a ratifikaci mezinárodních dohod týkajících se přeshraničních rodinných případů, jako jsou mezinárodní únosy dětí, a aby v tomto ohledu zajistily, aby k používání systémů UI docházelo vždy za účinného ověřování ze strany člověka a dodržování řádného postupu jak v rámci EU, tak i v rámci zemí, které tyto dohody podepsaly;

73.požaduje, aby byla veřejnost informována o používání UI v soudnictví a aby používání této technologie nevedlo k diskriminaci vyplývající z jejího nevyváženého naprogramování; zdůrazňuje, že musí být respektováno právo každého jednotlivce na přístup k úřední osobě, jakož i právo odpovědného úředníka osobně přijmout rozhodnutí a odchýlit se od informací získaných od UI, pokud to s ohledem na podrobnosti dané záležitosti považuje za nezbytné; zdůrazňuje právo žalované strany na odvolání proti rozhodnutí v souladu s vnitrostátními právními předpisy, aniž by byla vyloučena konečná odpovědnost soudní moci;

74.žádá proto, aby se veškeré používání UI ve veřejné oblasti a oblasti správy považovalo za informace ve veřejné sféře a aby se zabránilo diskriminaci na základě nevyváženého naprogramování;

75.zdůrazňuje, že je důležité umožnit řádné zavádění a využívání UI; vyzývá členské státy, aby poskytly svým civilním a vojenským pracovníkům odpovídající odbornou přípravu, která jim umožní přesně identifikovat diskriminaci a předpojatost v datových souborech a těmto jevům bránit;

76.je hluboce znepokojen technologiemi typu deep fake, které umožňují vytváření podvržených fotografií, zvukových nahrávek a videí, které jsou čím dál realističtější a mohou být použity k vydírání nebo produkci dezinformačních zpráv a mohou narušit důvěru veřejnosti nebo ovlivnit veřejný diskurz; je přesvědčen, že takové praktiky mohou potenciálně destabilizovat státy, šířit desinformace a ovlivňovat volby; žádá, aby u všech materiálů typu deep fake nebo jiných vytvořených syntetických videí s realistickou podobou byla pro jejich autory stanovena povinnost tyto materiály označit jako nepůvodní, aby byla zavedena přísná omezení, pokud jsou používány pro volební účely, a aby byl nastaven odolný režim vymáhání těchto pravidel; žádá, aby se na tomto poli prováděl dostatečný výzkum s cílem zajistit, aby technologie pro boj proti těmto jevům držely krok s nekalým využíváním UI;

Doprava

77.bere na vědomí významný ekonomický potenciál aplikací UI, včetně optimalizace dlouhodobé výkonnosti, údržby, predikce selhání a plánování výstavby dopravní infrastruktury a budov, jakož i bezpečnosti, energetické účinnosti a nákladů; vyzývá proto Komisi, aby nadále podporovala výzkum v oblasti UI a výměnu osvědčených postupů v oblasti dopravy;

78.zdůrazňuje, že je třeba posílit UI s cílem podpořit multimodalitu, interoperabilitu a energetickou účinnost všech druhů dopravy, zvýšit účinnost při organizaci a řízení přepravy zboží a cestujících, lépe využívat infrastrukturu a zdroje v rámci transevropské dopravní sítě (TEN-T) a řešit překážky bránící vytvoření skutečného jednotného evropského dopravního prostoru;

79.připomíná přínosy evropského systému řízení železničního provozu (ERTMS), který představuje bezproblémový automatický systém zabezpečení vlakové dopravy, a podporuje rozvoj a mezinárodní standardizaci automatizace provozu železnic;

80.vítá činnost v rámci výzkumu uspořádání letového provozu jednotného evropského nebe (SESAR) v oblasti bezpilotních leteckých systémů a systémů řízení letového provozu, a to jak civilních, tak vojenských;

81.připomíná, že autonomní vozidla mají velký potenciál zlepšit mobilitu a bezpečnost a prospět životnímu prostředí, a vyzývá Komisi a členské státy, aby zajistily spolupráci mezi regulačními orgány a všemi zúčastněnými stranami, které jsou důležité pro zavádění automatizovaných silničních vozidel v EU;

82.poukazuje na to, že globální lodní průmysl se díky integraci UI v posledních letech výrazně změnil; připomíná stávající komplexní diskuze v rámci Mezinárodní námořní organizace o účinném začleňování nových a vznikajících technologií, jako jsou například autonomní lodě, do regulačního rámce;

83.zdůrazňuje, že inteligentní dopravní systémy zmírňují dopravní zácpy, zvyšují bezpečnost a přístupnost a přispívají k lepšímu řízení dopravních toků, ke zvyšování účinnosti a k řešením v oblasti mobility; upozorňuje na to, že tradiční dopravní sítě jsou více vystaveny kybernetickým hrozbám; připomíná význam dostatečných zdrojů a dalšího výzkumu v oblasti bezpečnostních rizik při zajišťování bezpečnosti automatizovaných systémů a jejich údajů; vítá záměr Komise zařadit kybernetickou bezpečnost mezi pravidelné body jednání v rámci mezinárodních organizací působících v oblasti dopravy;

84.vítá snahu o zavedení systémů UI do veřejného sektoru a bude podporovat další diskuze o zavádění UI v dopravě; vyzývá Komisi, aby provedla posouzení využívání UI a obdobných technologií v odvětví dopravy a vytvořila demonstrativní seznam rizikových prvků v systémech UI, které nahrazují rozhodování v rámci výsad orgánů veřejné moci v této oblasti;

85.zdůrazňuje, že Evropský obranný fond a stálá strukturovaná spolupráce by měly podporovat spolupráci mezi členskými státy a evropským obranným odvětvím s cílem rozvíjet nové evropské obranné kapacity v oblasti UI, zajišťovat bezpečnost dodávek a brát přitom ohled na etické aspekty; zdůrazňuje, že je třeba zabránit roztříštěnosti propojováním různých aktérů a oblastí aplikace, a to podporou kompatibility a interoperability na všech úrovních a zaměřením se na společnou činnost v oblasti strukturálních a platformových řešení; dále připomíná, že příští Nástroj pro propojení Evropy, který také podporuje inteligentní infrastrukturu, předpokládá vytvoření fondu pro adaptaci a rozvoj civilní nebo vojenské dopravní infastruktury dvojího užití v rámci TEN-T s cílem posílit součinnost mezi civilními a vojenskými potřebami a zlepšit civilní a vojenskou mobilitu v Unii; zdůrazňuje proto potřebu dalších evropských investic, výzkumu a vedení v oblasti technologií, které mají velký dopad na hospodářský růst a zároveň významný potenciál dvojího užití;

86.zdůrazňuje, že mnoho investic do nových technologií v oblasti dopravy a mobility je orientováno tržně, avšak standardní komerční technologie a produkty dvojího užití jsou často využívány inovativním způsobem pro vojenské účely; zdůrazňuje proto, že při tvorbě norem pro používání UI v různých oblastech obchodních a vojenských odvětví je třeba vzít v úvahu potenciál dvojího užití řešení založených na UI; požaduje, aby při vývoji obranných technologií, produktů a provozních zásad byly dodržovány přísné etické normy a postupy;

87.poukazuje na to, že účinná přeprava zboží, střeliva, výzbroje a vojenských jednotek je nezbytnou součástí úspěšných vojenských operací; zdůrazňuje, že se očekává, že UI bude mít v oblasti vojenské logistiky a dopravy klíčovou úlohu a přinese řadu možností; poukazuje na to, že země na celém světě, včetně členských států EU, zařazují do výzbroje zbraně a další systémy založené na UI na pozemních, námořních a leteckých platformách; připomíná, že použití UI v odvětví dopravy by mohlo poskytnout nové dovednosti a umožnit nové formy taktiky, jako je kombinace mnoha systémů, např. dronů a člunů nebo tanků bez posádky, při samostatné a koordinované operaci;

Mezinárodní právo soukromé

88.konstatuje, že rostoucí počet sporů, u nichž se uplatňuje mezinárodní právo soukromé, je způsoben internacionalizací lidských činností (on-line nebo v reálném světě), a UI tedy může pomoci při jejich řešení vytvořením modelů umožňujících nejen určit u každého případu příslušnou jurisdikci a platné právní předpisy, ale také vymezit ty nejsložitější otázky kolize norem a navrhnout pro ně řešení;

89.domnívá se však, že o využívání UI v mezinárodním právu soukromém musí být řádně informována veřejnost a musí se při něm také zabránit diskriminaci způsobené naprogramováním, která by vedla k tomu, že bude systematicky upřednostňováno právo určitého státu na úkor práva státu jiného, a zajistit dodržování práv soudu určeného právními předpisy, povolit možnost odvolání v souladu s platným právem a umožnit soudcům, aby se neřídili řešením, jež nabízí UI;

90.zdůrazňuje, že provoz autonomních vozidel v Evropské unii, který pravděpodobně povede k obzvlášť velkému počtu sporů v rámci mezinárodního práva soukromého, musí být předmětem specifické evropské regulace, jež upřesní právní režim, který se použije na případy přeshraniční škody;

91.zdůrazňuje, že vzhledem k rostoucímu významu výzkumu a vývoje v soukromém sektoru a masivním investicím třetích zemí čelí EU silné konkurenci; vyjadřuje proto podporu tomu, aby EU dále usilovala o rozvoj svých konkurenčních výhod, a je přesvědčen, že by EU měla usilovat oto, aby byla vtomto extrémně propojeném světě tím, kdo určuje normy voblasti UI, ato přijetím účinné strategie ve vztahu ke svým vnějším partnerům avystupňováním svého úsilí ostanovení globálních etických norem pro UI na mezinárodní úrovni vsouladu sbezpečnostními pravidly a požadavky na ochranu spotřebitele, jakož i s evropskými hodnotami aprávy občanů, včetně základních práv; domnívá se, že je to také klíčové pro konkurenceschopnost a udržitelnost evropských podniků; vyzývá Komisi a členské státy, aby posílily spolupráci se třetími zeměmi a mezinárodními organizacemi, jako je OSN, OECD, skupina G7 a skupina G20, a aby se zapojily do širokého dialogu s cílem čelit výzvám způsobeným vývojem této rychle se vyvíjející technologie; domnívá se, že toto úsilí by mělo směřovat zejména k zavedení společných norem a zlepšení interoperability systémů UI; vyzývá Komisi, aby podporovala dialog, užší spolupráci a součinnost mezi členskými státy, výzkumnými pracovníky, akademickou obcí, subjekty občanské společnosti,soukromým sektorem, zejména vedoucími společnostmi, a armádou scílem zajistit inkluzivnost procesů tvorby politik, pokud jde oprávní předpisy týkající se UI voblasti obrany;

Hlavní zásady

92.domnívá se, že technologie a síťové systémy UI by měly usilovat o zajištění právní jistoty pro občany; zdůrazňuje proto, že je nutné i nadále uplatňovat pravila pro případ kolize norem a určování jurisdikce a zároveň přihlížet k zájmům občanů a k nutnosti omezit riziko spekulativního výběru jurisdikce; připomíná, že UI nemůže v soudním řízení nahradit člověka, pokud jde o vynesení rozsudku nebo přijetí jakéhokoli konečného rozhodnutí, neboť taková rozhodnutí musí být vždy přijímána lidskou bytostí a musí být přísně podrobena lidskému ověření a řádnému procesu; trvá na tom, že při využívání důkazů poskytnutých technologiemi podporovanými UI by měly mít soudní orgány povinnost odůvodnit svá rozhodnutí;

93.připomíná, že UI představuje vědecký pokrok, který nesmí vést k oslabení práva, ale naopak musí být vždy právem regulován (v Evropské unii právem, které vytvářejí její orgány a členské státy), a že UI, robotika a s nimi spojené technologie nesmějí odporovat základním právům, demokracii a právnímu státu;

94.zdůrazňuje, že UI používaná pro obranné účely by měla být: odpovědná, spravedlivá, sledovatelná, spolehlivá ařiditelná;

95.domnívá se, že UI by spolu s robotikou a souvisejícími technologiemi, včetně softwaru, algoritmů a dat využívaných či generovaných těmito technologiemi bez ohledu na oblast využití, měla být vyvíjena bezpečným, spolehlivým a technicky důsledným způsobem;

o
oo

96.pověřuje svého předsedu, aby předal toto usnesení Radě aKomisi.

(1) Úř. věst. L 180, 19.7.2000, s. 22.
(2) Úř. věst. L 303, 2.12.2000, s. 16.
(3) Úř. věst. L 119, 4.5.2016, s. 1.
(4) Úř. věst. L 119, 4.5.2016, s. 89.
(5) Úř. věst. L 252, 8.10.2018, s. 1.
(6) Úř. věst. C 252, 18.7.2018, s. 239.
(7) Úř. věst. C 307, 30.8.2018, s. 163.
(8) Úř. věst. C 433, 23.12.2019, s. 86.
(9) Úř. věst. C 433, 23.12.2019, s. 42.
(10) Úř. věst. C 449, 23.12.2020, s. 37.
(11) Směrnice Evropského parlamentu a Rady 2005/36/ES ze dne 7. září 2005 o uznávání odborných kvalifikací (Úř. věst. L 255, 30.9.2005, s. 22).
(12) Směrnice Evropského parlamentu a Rady 2006/42/ES ze dne 17. května 2006 o strojních zařízeních a o změně směrnice 95/16/ES (Úř. věst. L 157, 9.6.2006, s. 24).
(13) Směrnice Evropského parlamentu a Rady (EU) 2018/958 ze dne 28. června 2018 o testu přiměřenosti před přijetím nové právní úpravy povolání (Úř. věst. L 173, 9.7.2018, s. 25).

Poslední aktualizace: 22. dubna 2021Právní upozornění-Ochrana soukromí