Neuralink: Nejkontroverznější technologie v dějinách, 5. část – Právo

V předposledním dílu série o kontroverzích neurálních rozhraní se podíváme na některé právní aspekty plynoucí z vývoje této technologie, která má potenciál obrátit civilizaci naruby. V poslední části se pak ještě pokusíme zamyslet nad tím, co je potřeba udělat, aby byla zajištěna bezpečnost neurálních rozhraní a aby byl zmírněn jejich negativní dopad na naši společnost.

Tak jak tvrdí autor článku na webu innovationaus.com, Neuralink Elona Muska je etickým labyrintem a právním minovým polem. Kam šlápnete, tam se ukrývá nějaký etický nebo právní problém, který má skutečně vážné důsledky pro jedince i společnost.

Pokud si snad myslíte, že je ještě brzy se zabývat věcmi jako „odposlech“ myšlenek nebo něco takového považujete za nemožné, tak se velice mýlíte. Už dnes je dokázáno, že pomocí neurálních rozhraní, a to dokonce i těch neinvazivních, je možné například získat PINy uživatelů nebo zjistit, zda je daný člověk věřící či ateista.

Právní aspekty

V předchozích dílech jsme zmiňovali zkomplikovanou situaci takzvané pacientky číslo 6, o které mimo jiné pojednával článek na webu magazínu Nature. Šlo o jednu z osob, které testovaly nový systém elektrokortikografického monitorování mozkové aktivity, jehož úkolem byla detekce epileptických záchvatů. Systém sice fungoval, ale firma která ho vyvíjela, zkrachovala a zařízení muselo být vyjmuto z hlavy všech testovaných jedinců. Pacientka číslo 6 to odmítla a vzdorovala tak dlouho, jak jen se dalo. Nakonec jí ale rozhraní bylo odstraněno, což nesla velmi těžce a tvrdila, že jí byla odňata část její osobnosti.

Ilustrace elektrokortikografické mřížky s elektrodami (Zdroj: Wikipedia, Blausen.com)

Z právního pohledu jde jistě o zajímavou situaci. Majitelem pokusného zařízení sice byla ona firma, ale měla pak právo ho pacientce sebrat, jestliže to pro ni znamenalo až tak velký zásah do jejího života? Jak to bude s vývojem interfejsů Neuralinku nebo jiných firem? Kdo bude majitelem rozhraní? Kdo bude odpovídat za eventuální zdravotní problémy? Jak budou vypadat smluvní podmínky, jestliže si necháte dobrovolně implantovat interfejs jakožto zdravý komerční zákazník?

Vztahy výrobců a uživatelů rozhraní vůbec budou asi dost komplikované. Už teď to vypadá, že dokument ustanovující smluvní podmínky používání rozhraní bude muset mít nějakých pár set stran a bude se s vývojem interfejsu a přidáváním nových funkcí stále rozrůstat. Bude v něm potřeba řešit věci jako:

  • kdo je majitelem rozhraní?
  • co když se porouchá?
  • co když způsobí zdravotní potíže?
  • co když způsobí psychické potíže?
  • kdo je majitelem dat, která jsou zaznamenávána?
  • kde jsou data ukládána?
  • jak jsou data zabezpečena?
  • můžou mít k datům přístup třetí osoby?

Odpovědnost výrobců za jejich produkt bude v případě neurálních rozhraní skutečně velkým tématem. Jde o vývoj zařízení, které bude mít obrovský dopad na jednotlivce i celou společnost, čili je nezbytné, aby jeho vývoj probíhal velmi zodpovědně. Pokud se jednou tato technologie přerodí až do úspěšného komerčního spotřebního produktu tak jako dnes mobilní telefony nebo jiná chytrá zařízení, povstane zřejmě bezpočet nových výrobců, kteří budou nabízet levnější produkty. Ti pak mohou pocházet také ze zemí, kde nebude potřebná regulace a kvalita a bezpečnost jejich produktů bude mnohem nižší. Proto budou potřebná přísná celosvětová regulační opatření pro vývoj, výrobu, prodej a provozování produktů, jako jsou neurální rozhraní.

Pokud však tato opatření nebudou dobře nastavena a jejich vymáhání nebude dobře zorganizováno, může vzniknou i černý trh neurálních interfejsů, což by byla asi nejhorší možná situace. Lidé, kteří si, třeba z důvodu získání lepší práce, nechají implantovat pochybná zařízení do hlavy by se zřejmě našli a výrobci a prodejci takových přístrojů nejspíš taky.

Zdroj: Avast

Každopádně je jasné, že bezpečnost rozhraní ve všech ohledech musí být jednou z hlavních priorit vývoje. Speciální důraz musí být kladen na bezpečnost kybernetickou. Podobná zařízení totiž umožní mnoho zcela nových forem kriminality:

  • brain-hacking – pokusy o různé útoky na zařízení ve vaší hlavě
  • brain-spamming – vysílání nevyžádaných informací do vašeho interfejsu
  • brain-malware – různé druhy škodlivého softwaru
  • manipulace s pamětí – smazání či změny paměti nebo dokonce smazání nebo dodání dovedností
  • krádeže myšlenek / informací – odposlech dat nebo přímo i myšlenek z vašeho rozhraní (problém zejména pro politiky, agenty bezpečnostních služeb, vojáky, šéfy firem, ale obecně asi pro každého)
  • krádež identity / ovládání mysli na dálku
  • unikátní vzorce mozkové činnosti mohou být využívány jako přístupové klíče (něco jako otisky prstů), pomocí odposlechu rozhraní pak můžou být tyto klíče ukradeny
  • fyzické poškození mozku útokem
  • vražda na dálku – převzetí kontroly nad něčím tělem

Právně problematickou funkcí rozhraní bude záznam toho, co uživatel prožívá. Bude teoreticky možné nahrávat vše, co vidí, slyší nebo i cítí. Problémem ale je, co na to zbytek lidí? Nemusí přece souhlasit s tím, aby je někdo natáčel. Jde-li rovněž o člověka s rozhraním, může dostat informaci, že je nahráván a může k tomu někde odkliknout nebo neodkliknout souhlas. Co ale s lidmi bez rozhraní? Bude muset uživatel rozhraní informovat každého, koho potká, že má čip a ptát se ho, co on na to? Nebo budou uživatelé muset být nějak označeni?

U nahrávání nejde jen o to. Už výše jsme kladli otázky jako, kde budou ukládána data z interfejsu, kdo bude jejich majitelem a kdo k nim bude mít přístup. Bude muset uživatel interfejsu zpřístupnit data policii nebo jiným orgánům, jestliže si to vyžádají? Bude moci výrobce/operátor rozhraní zpřístupnit data, která budou uložena v jeho cloudu, policii pro účely vyšetřování? Bude mít uživatel nebo operátor právo neposkytnout tato data policii/armádě/tajným službám?

Tématu vyšetřování pomocí neurálního rozhraní se zajímavým způsobem věnuje seriál Black Mirror (díl s názvem Crocodile ve čtvrté sérii). Uživatele rozhraní v něm agentka pojišťovny nutí k poskytnutí prožitků z jejich paměti stylem „Proč byste pojišťovně neposkytl záznam? Nemáte přece co skrývat.“

K tomu ještě musíme doplnit to, že budete-li mít pokročilé neurální rozhraní, nebudete nikdy sami. Bude vám pomáhat vaše všudypřítomná umělá inteligence. Co to však bude znamenat z hlediska práva? Kdo bude zodpovědný za vaše jednání a kdo za jednání vašeho agenta? Budete bráni jako jedna osoba nebo dvě? Jak dokážete, kdo byl v daný moment odpovědný za to, co jste dělali, pokud to bude potřeba?

Z jedné strany jsou rozhraní příležitostí ke vzniku nových forem kriminality, ale ze strany druhé by se dala využít také pro nápravné účely – místo zavírání trestaných do vězení by byli potrestáni povinnou implantací rozhraní a vynucenou změnou osobnosti. O takových úpravách osobnostních rysů už byla řeč v díle o psychologii. Je teoreticky možné použít pokročilého rozhraní k podobným zásahům do psychiky jejich uživatele. Odsouzený trestanec by pak měl na výběr – buď si odsedí trest, nebo mu bude implantováno rozhraní a změněny povahové rysy.

Pro nápravné účely by bylo možné využít také agenta umělé inteligence, který bude součástí rozhraní. Mohl by fungovat jako jakýsi policista v hlavě trestance a kontrolovat vše, co jeho nositel dělá. Pokud by chtěl provést něco nezákonného, agent by mu to jednoduše nedovolil (nebo by to mohl minimálně nahlásit úřadům či policii).

Z pohledu práva, justice a vůbec celé společnosti by asi nejhorším důsledkem komercializace a širokého využívání pokročilých neurálních rozhraní mohl být dokonce i určitý konec spravedlnosti, neboli faktické znemožnění komukoliv cokoliv dokázat při vyšetřování nebo u soudu. Jestliže bude pomocí interfejsu možné ošálit kterýkoliv z lidských smyslů nebo i zasahovat do paměti – měnit, mazat nebo přidávat vzpomínky, nedá se už nikomu nic věřit. Každý zážitek mohl být zmanipulován. Čili jakýkoliv svědek nějaké události je k ničemu. Co by něco takového mohlo znamenat pro policii, soudy a celou společnost, si netroufám ani odhadovat.

Předchozí díly seriálu Nejkontroverznější technologie v dějinách:




Mohlo by se vám líbit...

Odebírat komentáře
Nastavit upozorňování na
guest
9 Komentáře
nejstarší
nejnovější nejlepší
Inline Feedbacks
Zobrazit všechny komentáře
Ricardo

1) Zajímavé s tou pacientkou č.6. Nevím jestli je možné donutit pacienta jít na operaci mozku kvůli vytažení implantátů zkrachovalé firmy. To je docela strašidelné, ale realisticky šlo asi o nebezpečí degradace implantátu a poškození zdraví v dlouhodobém horizontu.
.
.
2) Policista v hlavě trestance 🙂 JJ, a taky šéf v hlavě zaměstnance nebo babiš v hlavě celému národu…. Podle toho je Orwell úplnej žabař. A hackeři nebudou vytvářet botnety z PC ale z reálných lidí. Nádhera.

PetrV

Ricardo, ty rozumíš i mozku?…
Jak se ti líbí starbase?

Meh

Kde zmizel Prochazka ? Bez nej ty mistni diskuse nemaji zadnou stavu 🙁

elton radek john

Člověk si sem přišel přečíst hezkej článek a poučit se v diskusi a místo toho se nechal nasrat Procházkou. Vlastně je tady bez něho líp. Ačkoli tu úspěšně aspirují jiní kandidáti.

Meh

Vzpominame. Myslim si, ze tady plati hezke rceni, ze co se skadliva, to se rado miva. Myslim si, ze vam ten Prochazka vlastne chybi taky, jen si to jeste nechcete priznat 🙂 Pravda, mistra je tezke prekonat.

Ricardo

Procházka sem chodil jenom prudit a jeho přínos byl čistě záporný.

To já jsem přišel s návrhem na českou raketu Jan Hus. Můj přínos je tudíž čistě pozitivní jako málokoho tady 😀

Meh

Vyborne. Kdybychom postavili VD Ceska prehrada (viz https://www.ceskaprehrada.cz/ ), mohli bychom startovat z kosmodromu na mysu Rakovnik a jakykoli abort mise by byl v pohode az nekde vychodne od Prahy 🙂

Ricardo

To je vynikající projekt! ČR by byla baterií Evropy, tedy velmi bohatá země a jako bonus bysme se zbavili pražáků a měli bychom vlastní “moře”.

Konečně bysme mohli mít vlatní flotilu lodí včetně ponorek. A taky plovoucí raketové rampy jako právě buduje Musk.

Kde můžu podepsat petici za realizaci?

Ricardo

Starbase dobrý. Akorát jsme dávno mohli mít vlastní starbase ve vojenském prostoru Libavá. Ale zase brzy dostaneme koblihu zdarma, no neber to 😀