20.11.2020
ID: 4958upozornenie pre užívateľov

Nový právny rámec umelej inteligencie: Európsky parlament navrhol maximálnu výšku náhrady škody spôsobenej umelou inteligenciou

b0f96c1082cb54437da45aa5ee50401a/shutterstock_1465940765.jpg
Zdroj: shutterstock.com

Na európskej úrovni nastal opäť posun pri formovaní právneho rámca regulácie umelej inteligencie, jej miesta a postavenia v spoločnosti. Európsky parlament prijal 22. októbra 2020 trojicu uznesení, v ktorých sa venoval etickému aspektu umelej inteligencie, oblasti práva duševného vlastníctva, v ktorej sa zaoberal aj otázkou umelej inteligencie ako autora diela, a v neposlednom rade zodpovednosti za škodu spôsobenú robotom.

Európske regulačné snahy

Súčasná nejednoznačnosť pri zodpovednosti za konanie UI vedie aj na úrovni Európskej únie k snahám o určenie pravidiel narábania s UI. Tieto snahy sa prejavili aj vo vytvorení Expertnej skupiny na umelú inteligenciu na vysokej úrovni v roku 2017, ktorá vypracovala viacero materiálov, ktoré môžu tvoriť základ budúcej regulácie UI.

V tom istom roku boli Európskej komisii doručené odporúčania k normám občianskeho práva v oblasti robotiky, v ktorej sa ako možnosť riešenia postavenia UI črtala aj špeciálna forma právnej subjektivity označená ako elektronická osobnosť.[1]

Snaha dotiahnuť načrtnutú legislatívu do záväzného konca viedla aj výbory a členov Európskeho parlamentu k tomu, aby na schôdzi zo dňa 22. 10. 2020 prijali tri uznesenia, niektoré dokonca legislatívnej povahy, ktoré by mali vytvoriť rámec pre nadchádzajúcu legislatívu v oblasti UI.

Etické mantinely UI

Prvým z trojice uznesení je Rámec pre etické aspekty umelej inteligencie, robotiky a súvisiacich technológií[2], ktorým sa ako základ akejkoľvek ďalšej regulácie UI stáva Charta základných práv Európskej únie. Pri úprave UI sa bude brať do úvahy dôstojnosť človeka, ktorý stojí proti UI, čím sa naráža aj na reguláciu sociálnych platforiem. S uvedeným súvisí aj návrh posudzovať niektoré formy a oblasti využitia UI ako vysokorizikové, a to na základe autonómnosti rozhodovania UI, aj keď by sa takéto posúdenie malo vykonať individuálne. Za jednu z najrizikovejších oblastí spôsobilú privodiť škodu či ujmu považuje Európsky parlament oblasť spracúvania osobných údajov, pri ktorom by využitie UI malo byť podrobené prísnejšej regulácii.

Špeciálny rámec je venovaný aj ochrane spotrebiteľa pri spracúvaní údajov UI, ako aj potenciálnemu ovplyvňovaniu jeho správania algoritmami založenými na báze UI. Z pohľadu spotrebiteľa by stále malo dochádzať k tomu, že algoritmy, ktoré napríklad zoraďujú výsledky jeho vyhľadaní na webových stránkach, by mali byť vysvetliteľné a vysvetlené bežnému spotrebiteľovi tak, aby vedel určiť či takéto výsledky zodpovedajú jeho potrebám a nezavádzajú ho. Navyše bola do uvedeného rámca zahrnutá aj požiadavka integrovania možnosti spotrebiteľa „vypnúť“ personalizáciu, čím by bolo pre predajcov obťažnejšie adresovať konkrétnemu spotrebiteľovi personalizovanú, osobne určenú, reklamu.

V spotrebiteľskej oblasti by mal okrem toho vzniknúť nezávislý orgán, schopný poskytnúť servis pre zariadenia či softvér využívajúci UI v čase po uplynutí bežnej záručnej doby. Špeciálne by takýto orgán mal byť zriadený pre zdravotnícke pomôcky a nástroje využívané v zdravotníctve.

Etický rámec regulácie UI zohľadňuje aj obavy z predpojatosti umelej inteligencie, keďže jej data sety a zoznamy údajov, sú často založené na dátach získaných výrobcami od bežného obyvateľstva. Tieto dáta môžu byť v rôznej miere diskriminačné.[3] Diskriminačné vstupné informácie pre UI by mohli predstavovať závažný problém vo väčšine prípadov, no najmä v tých, v ktorých by UI mala uskutočňovať automatizovanie rozhodnutia, ako v oblasti správnych konaní, výberových procesov do zamestnania, poprípade súdnych rozhodnutí. Podľa Európskeho parlamentu by preto UI rozhodnutia  mali vždy podliehať a posteriori ľudskej kontrole. Dokonca, v prípadoch automatizovaného rozhodovania by daná osoba, o ktorej sa rozhoduje, mala mať právo dožadovať sa oznámenia spôsobu a dôvodov daného rozhodnutia.

Zavedenie vysokorizikovej UI by preto malo podliehať schvaľovaniu vnútroštátnych orgánov, čo môže viesť, vzhľadom na trvanie súčasných administratívnych rozhodovacích procesov, k zdržaniu vývoja minimálne pre oblasť strednej a východnej Európy.

Kto nahradí škodu spôsobenú UI? A v akej výške?

Druhým uznesením schváleným Európskym parlamentom bola správa o Režime občianskoprávnej zodpovednosti za umelú inteligenciu[4]. O budúcom režime veľa napovedá snaha o  aktualizáciu Smernice Európskeho parlamentu a Rady 2001/95/ES o všeobecnej bezpečnosti výrobkov, ktorej súčasťou by malo byť zaradenie vývojárov a výrobcov UI medzi osoby zodpovedajúce za škodu spôsobenú vadným výrobkom. Zodpovednosť výrobcu by mala byť podľa správy limitovaná len na chyby systémov UI, a to už od štádia ich návrhu.

Ďalej by sa mimozmluvná zodpovednosť, a teda aj zodpovednosť za škodu, mala presunúť na prevádzkovateľov UI, keďže práve tí majú najväčší potenciál škode zabrániť. U týchto tzv. frontendových prevádzkovateľov by mala zodpovednosť prichádzať do úvahy len v prípade, ak ich konanie bolo úmyselné. To by však platilo len pre menej rizikové formy UI, ktoré nekonajú v značne autonómnej miere.

V prípade UI označenej ako vysokoriziková UI, v oblastiach, ktorých zoznam by mal byť prijatý na úniovej úrovni, by objektívna zodpovednosť mala spočívať na prevádzkovateľovi UI.

V rámci návrhu nariadenia, ktoré by malo byť prijaté na základe tohto uznesenia, Európsky parlament navrhol aj možnú výšku maximálnej náhrady škody, ktorú by prevádzkovateľ UI bol povinný uhradiť v prípade škody spôsobenej UI. Ak by UI svojím konaním spôsobila smrť alebo ujmu na zdraví fyzickej osoby, výška škody by mohla stúpať maximálne do hodnoty 2 miliónov eur. Na druhej strane, v prípade, ak by UI spôsobila nemajetkovú hospodársku ujmu či majetkovú škodu, maximálna výška náhrady by nemala presiahnuť 1 milión eur.

Problém vzniku nepredvídateľnej škody spôsobenej autonómnym rozhodovaním UI plánuje Európsky parlament vyriešiť povinným poistením vysokorizikových foriem UI. Systém by mal byť obdobný, ako pri povinnom zmluvnom poistení motorového vozidla pre všetkých vlastníkov tohto druhu UI. To, že momentálne takéto poistné produkty nie sú zaradené medzi produktmi komerčných európskych poisťovní je spôsobené práve nepredvídateľnosťou výšky možnej škody. Z tohto dôvodu právny rámec, ktorý nastavilo uznesenie, pomýšľa aj nad hybridom poloverejného poistenia, keďže komerčné poistné produkty by zrejme kvôli výškam poistného neboli masovo využívané.

Otázka autorstva diela vytvoreného UI

Posledným z uznesení Európskeho parlamentu bola správa zverejnená ako Práva duševného vlastníctva v súvislosti s rozvojom technológií umelej inteligencie.[5] Táto správa však ako jediná nebola prijatá ako legislatívny dokument. Napriek tomu vo viacerých bodoch vyzýva na prijatie nariadenia, ktoré by sa venovalo zjednocujúcej ochrane práv duševného vlastníctva v súvislosti s UI.

Prijatiu nariadenia bude predchádzať snaha zaradiť UI a jej ochranu pod existujúce inštitúty práva duševného vlastníctva, a to najmä ochranu databáz a počítačových programov, čo by zrejme v súčasnosti umožňovala aj slovenská legislatíva. Zaujímavejším variantom je poskytnúť UI ochranu podobnú ako nesprístupnenému know-how či obchodným informáciám, teda akú požíva obchodné tajomstvo.

Momentálne je UI, vnímaná v podobe matematických algoritmov, vystavená riziku nepatentovateľnosti, keďže matematické metódy sú z patentovateľnosti vylúčené. Výnimkou sú matematické metódy, ktoré možno označiť ako vynálezy, pod ktoré UI nemusí byť možné zaradiť. Preto sa uvažuje aj o rozšírení právneho rámca patentu a jeho ochrany.

Správa sa venuje aj otázke UI v postavení autora diela. Uvedenú otázku zrejme podnietili aj známe prípady tvorby, v ktorých UI, resp. algoritmy na ktorých je založená, tvorila samostatné a jedinečné maľby na základe tvorby maliara Rembrandta von Rijna[6] v prípade Next Rembrandt, alebo skladali piesne ako aplikácia Eden.[7] Odpoveď na túto otázku bola však jednoznačná. Súčasná európska legislatívna vyžaduje, aby bolo autorské dielo výsledkom tvorivej duševnej činnosti, podľa slovenskej legislatívy autorom môže byť len fyzická osoba, a aj napriek mnohým personifikovaným vlastnostiam, tvorivú duševnú činnosť a zaradenie pod fyzické osoby UI zatiaľ rozhodne pripísať nemôžeme.

Istoty a výzvy

Na základe trojice uznesení možno konštatovať, že snahy o nastavenie mantinelov legislatívnej úpravy umelej inteligencie sa dostávajú do sľubného konca, a to najmä v oblasti zodpovednosti za škodu. Konkrétne možnosti a limity prinesú až nariadenia, ktoré napriek verve rozhodujúcich orgánov na seba nechajú ešte asi chvíľu čakať.

Pomysleným „otloukánkom“ je ochrana osobných údajov a regulácia sociálnych sietí, ktorých komplikovaná právna úprava bude zrejme ťahať za kratší koniec. Vzhľadom na hrozby pre európske aj mimoeurópske demokracie v podobe deepfakes videí a dezinformácií sa im nový právny rámec pre UI však nevyhne. A to  najmä, ak Európska únia ašpiruje na líderskú pozíciu v oblasti UI, minimálnej v jej legislatívnom ukotvení.


Štěpán Štarha
,
partner


Martina Rievajová
,
koncipientka

 

HAVEL & PARTNERS s.r.o., advokátní kancelář
 
 
 
Centrum Zuckermandel
Žižkova 7803/9
811 02  Bratislava
 
Tel.:    +421 232 113 900
Fax:    +421 232 113 901
 

[1] Správa Výboru pre právne veci s odporúčaniami pre Komisiu k normám občianskeho práva v oblasti robotiky. 27.1.2017, Európsky parlament. Navštívené dňa 5.11.2020 na webovom sídle >>> tu.

[2]  Uznesenie Európskeho parlamentu z 20. októbra 2020 s odporúčaniami pre Komisiu k rámcu etických aspektov umelej inteligencie, robotiky a súvisiacich technológií (2020/2012/INL). Európsky parlament. Navštívené dňa 5.11.2020 na webovom sídle >>> tu.

[3] Yang, J.R.: Three Ways AI Can Discriminate in Hiring and Three Ways Forward. Urban Institute. 12.2.2020. Navštívené dňa 5.11.2020 na webovom sídle >>> tu.

[4]  Uznesenie Európskeho parlamentu z 20. októbra 2020 s odporúčaniami pre Komisiu k systému občianskoprávnej zodpovednosti za umelú inteligenciu (2020/2014(INL)). Európsky parlament. Navštívené dňa 5.11.2020 na webovom sídle >>> tu.

[5] Uznesenie Európskeho parlamentu z 20. októbra 2020 o právach duševného vlastníctva v súvislosti s rozvojom technológií umelej inteligencie (2020/2015(INI)). Európsky parlament. Navštívené dňa 5.11.2020 na webovom sídle: https://www.europarl.europa.eu/doceo/document/TA-9-2020-0277_SK.html

[6] Schlackman, S.: Who holds the Copyright in AI Created Art. Astrepreneur art law journal. 29.9.2020. Navštívené dňa 5.11.2020 na webovom sídle >>> tu.

[7] Carlisle,S.: Should Music Created by Artificial Intelligence Be Protected by Copyright?. Nova Southeastern University Florida. 7.6.2019. Navštívené dňa 5.11.2020 na webovom sídle >>> tu.


© EPRAVO.SK – Zbierka zákonov, judikatúra, právo | www.epravo.sk