Realita bude pro uživatele Neuralinku jen nepříjemným odtržením od života ve virtuálním světě, říká spisovatel Rafał Kosik v exkluzivním rozhovoru

Rafał Kosik (Zdroj: Rafał Kosik, autor fotografie: Mikołaj Starzyński)

Rafał Kosik je populární polský spisovatel žánru science fiction. Jeho vize budoucnosti je poněkud temná. Tvrdí třeba, že realita jednou může být brána jen jako nechtěná nepříjemnost. Na druhou stranu ale píše také dobrodružné vědeckofantastické knížky pro děti, tak snad ty jeho představy nebudou až tak ponuré. V exkluzivním rozhovoru pro ElonX vyjádřil svůj názor na Elona Muska a jeho společnost Neuralink a také se zamyslel nad dopady neurálních rozhraní na budoucnost lidstva.

Pokud se ptáte, proč dělám rozhovor o neurálních rozhraních právě s tímto autorem vědeckofantastické literatury, pak vězte, že Rafał Kosik psal o podobných technologiích už v době, kdy pravděpodobně nikdo z nás neměl ponětí o tom, že jsou ve vývoji. Snad neprozradím příliš, když zde uvedu, že už ve svém románu Mars z roku 2003 Kosik představuje přístroj zvaný komplant, což je pokročilý neurální interfejs s umělou inteligencí, jaký se snaží vyvinout Neuralink.

Pro mě samotného má jeho tvorba dost specifický význam, protože právě díky románu Mars jsem se začal zajímat o neurální rozhraní a později i psát články pro ElonX. Svým způsobem se tak tímto rozhovorem pro mě uzavírá určitý kruh.

Kosik se narodil v roce 1971 ve Varšavě. Studoval architekturu na tamní polytechnice, ale studium předčasně ukončil, aby společně se svou ženou založil reklamní agenturu Powergraph. Ta se postupně změnila v nakladatelství a Kosik v něm dodnes působí jako grafik a šéf kreativního oddělení. Jinak se ale sám označuje za spisovatele na plný úvazek. Jeho motto zní: „Dobrá literatura má být přítelem, nikoliv břemenem.“ Za své knihy získal v Polsku mnohá ocenění.

Je autorem čtyř románů pro dospělé – Mars, Vertikal, Chameleon a Růženec. Napsal dvě sci-fi série pro děti – Felix, Net a Nika, která má už patnáct dílů –, a Amálka a Kuba, což je cyklus pro nejmenší čtenáře. V češtině zatím vyšla dvě jeho díla – Vertikal a první část Felixe, Neta a Niky.

Obálky románu Vertikal a prvního dílu série Felix, Net a Nika (Zdroje: Laser-books, Albatros)


Na čem poslední dobou pracujete? Zdá se, že období pandemie by mohlo spisovateli docela vyhovovat – čtenáři sedí doma a čtou, Vy můžete v klidu psát…

Momentálně píšu vědeckofantastický román pro dospělé, který se odehrává v nedaleké budoucnosti. Zatím nechci prozrazovat více. Pro spisovatele pandemie a lockdown mnoho nemění. Psaní je prací o samotě. Chybějí mi ale kavárny, ve kterých jsem občas při psaní sedával.

Věděl byste, které Vaše knížky vyšly v češtině?

Vertical, čili můj druhý román science-fiction pro dospělé a první díl série Felix, Net a Nika, který je nyní v Polsku na seznamu povinné četby na základních školách.

Náš web informuje o dění kolem projektů Elona Muska. Co si o něm myslíte?

Fandím mu. Vizionáři jako on jsou schopni vymyslet věci, které se normálním smrtelníkům zdají nepředstavitelné a potom je dokonce i zrealizovat.

Napsal jste román o kolonizaci a terraformování Marsu. Sledujete postup SpaceX, který se snaží o to samé ve skutečnosti?

Sleduji, ale vím, že na pilotovaný let na Mars si budeme muset ještě nějaký čas počkat a prvních pokusů o jeho terraformování se nedožijí ani naše vnoučata.

Obálka románu Mars (Zdroj: Rafał Kosik)

Myslíte, že to dokážou? Doletět s lidmi na Mars, vybudovat tam základnu a rozšířit ji natolik, aby byla soběstačná?

Dopravit lidi na Mars a vybudovat na něm malou základnu bychom zvládli už dnes. To je otázka nákladů a rizika. Pokud ale jde o vybudování soběstačné základny, vypadá to už méně optimisticky. Experimenty, které probíhaly na Zemi v uzavřeném prostředí, skončily fiaskem.

V poslední části svého románu Mars z roku 2003 představujete čtenáři svět, ve kterém velká část populace používá velmi pokročilý neurální interfejs vybavený rovněž umělou inteligencí. Technologie rozhraní, které v knížce nazýváte „komplantem”, je velmi podrobně popsána – všechny její funkce, ale i nebezpečí, jaká přináší svým uživatelům. Kde jste v té době, kdy asi málokdo tušil, co je to neurální rozhraní, sbíral informace o podobných technologiích?

Neopíral jsem se o žádný průzkum. Jednoduše jsem vymyslel, jak by taková technologie měla fungovat. Dnes, po téměř dvaceti letech, bych to popsal velmi podobně.

Je Mars jediným dílem, ve kterém jste použil neurální rozhraní nebo podobné technologie?

Ne, rozhraní se objevila také v mých dřívějších povídkách, v mém posledním románu „Růženec” a také v sérii „Felix, Net a Nika”.

V poslední době se zdá, že vývoj v oboru neurotechnologie a neurálních rozhraní zrychluje. Objevují se velcí dobře financovaní komerční hráči jako Facebook, Kernel, Paradromics nebo Synchron. Zajímá Vás vývoj těchto technologií?

Zajímá, ale zároveň se obávám negativních důsledků, které jsou s tím spojeny. Popsal jsem je, mimo jiné, ve zmíněném románu Mars.

Sledujete postupy Neuralinku? Je to pro Vás zajímavý projekt?

Momentálně je v tom asi více marketingu a odvážných nápadů než skutečných efektů. Ale fandím jim, ostatně tak jako všem projektům Elona Muska.

Před Neuralinkem je určitě ještě dlouhá cesta, ale čekal jste příchod této technologie už teď?

Zdá se, že je to přirozený krok na cestě, kterou jsme si vybrali, tedy cestě k technologické civilizaci. Ať už to chceme, nebo ne, čím dál více se noříme do virtuálních světů a rozšířené reality a permanentní přístup k Internetu je už dávno nezbytností.

Označil byste se tedy za transhumanistu? Je podle Vás symbióza člověka s technologií nejpravděpodobnějším scénářem vývoje naší civilizace?

Říci o sobě, že jsem transhumanista, by asi bylo trochu příliš, protože by to sugerovalo určitou aktivní činnost nebo podporu kruhů, které se občas nebezpečně otírají o jakousi formu náboženství. Nicméně mám za to, že hranice mezi člověkem a stroji se bude zmenšovat a v určitém momentu možná úplně zanikne. Už dnes jsou přece přístroje vylepšením našich smyslů nebo paměti. Dá se říci, že část našeho bytí uskutečňujeme zvnějšku.

Je už lidstvo technologicky na dostatečné úrovni, abychom mohli v nejbližších letech nebo dekádách stvořit pokročilý neurální interfejs s umělou inteligencí, o jakém jste psal ve svém Marsu?

Pokud technologický pokrok půjde kupředu současným tempem, tak podobná technologie vyvstane spíše za několik desítek let. Mars jsem napsal před dvaceti lety a vize neurálního rozhraní je dnes stejně nejasná, jako byla tehdy.

Jde Neuralink správnou cestou? Nebylo by lepší použít nanotechnologie podobně jako třeba Neural Dust?

Podobnou technologii jsem použil v románu Růženec (2017). Zdá se mi, že od stvoření pokročilých nanotechnologií nás dělí podobná nebo ještě delší doba než od stvoření pokročilého neurálního rozhraní.

Obálka románu Růženec (Zdroj: Rafał Kosik)

Jaký dopad na společnost bude mít neurální rozhraní?

Půjde o dopad na mnoha úrovních a v mnoha aspektech života. První využití určitě tato technologie bude mít v medicíně a v armádách. Krátce nato pak v byznysu a s určitostí rovněž v zábavním průmyslu. Stane se z ní velmi návyková forma zábavy.

Jaký vliv bude mít Neuralink na své uživatele?

Spousta lidí využije interfejs k eskapismu, čili budou chtít žít ve virtuálním světě, který budou opouštět, jen aby uspokojili fyzické potřeby svého organismu. Zdá se tedy, že paralelně s technologií rozhraní se budou rozvíjet technologie podobné těm, kterých se dnes využívá v medicíně pro udržování lidí při životě.

Jaké hrozby může tato technologie přinést naší civilizaci?

Velkou hrozbou může pravděpodobně být něco podobného, co dnes vidíme u závislých hráčů počítačových her, ovšem ve značně větším rozsahu. Odcizení, zánik mezilidských vztahů. Realita pro uživatele Neuralinku bude jen nepříjemným odtržením od života ve virtuálním světě.

Myslím, že pokročilý neurální interfejs s umělou inteligencí může svým způsobem znamenat konec reality – uživatel takového zařízení nebude schopen rozeznat, co je realita a co fikce. Co si o tom myslíte?

Jedním z nebezpečí budou rovněž systémy podobné spamu a také všechny typy útoků, které známe z dnešního Internetu, avšak v mnohem sofistikovanější podobě. V určitém momentu se může ukázat, že lidé bez interfejsu nebudou moci normálně fungovat ve společnosti. Potom už rozlišování fikce od skutečnosti nebude mít žádný význam. Důležitý bude efekt. Když dnes vidím to, co lidé jsou schopni psát na Twitteru nebo Facebooku, zdá se mi že už dnes, bez rozhraní, nerozlišují fikci od reality. A vůbec jim to nevadí.

Napadá Vás nějaký způsob, jak rozeznat, co je reálné a co ne, máte-li v hlavě pokročilé neurální rozhraní, kterým teoreticky mohou být oklamány všechny Vaše smysly i paměť?

V určité fázi vývoje rozhraní už to bude velmi těžké, ne-li nemožné. Přece i bez této technologie často nejsme schopni rozlišit opravdové a falešné vzpomínky a v klamání smyslů se specializujeme už od nepaměti. Sledujeme-li film, nemyslíme o tom, že hledíme na miliony malinkých svítících pixelů, vědomě se necháváme ošálit, aby to pro nás bylo příjemné.

Nevystavujeme se pak něčemu podobnému, co jsme měli možnost vidět ve filmu Matrix?

Samozřejmě že ano. Ale pravděpodobně už s tím nic nenaděláme. Používání technologie rozhraní bude znamenat ohromnou převahu nad konkurencí, a to jak na úrovni států, tak i firem nebo lidí na trhu práce.

Může neurální rozhraní a to, že díky němu budou jeho uživatelé neustále připojeni k Internetu a propojeni s jinými uživateli, znamenat konec soukromí?

Ve značné míře ano. Rozsah našeho soukromí se během posledních deseti nebo dvaceti let podstatně zmenšil a zdá se, že tento proces bude pokračovat až zanikne hranice mezi tím, co je privátní a co veřejné.

Může pak závislost na interfejsu a odtržení od reality vést k zániku fyzického kontaktu mezi lidmi?

Zdá se, že člověk potřebuje blízkost druhých a fyzický kontakt s nimi, ale může se ukázat, že dokonalá simulace ten kontakt bude moci nahradit. Určité příklady toho, jak se společnost může vyvíjet, nacházíme v Japonsku. Existuje tam třeba početná skupina lidí (až 1 % populace) zvaných Hikikomori (což znamená „odtrhnutí se“), jejíž příslušníci vůbec nenavazují kontakty s jinými lidmi nebo dokonce celá léta neopouštějí svůj dům či byt. Pokud se pak podíváme na stav západní civilizace, která je rozdělena na jakási internetová uskupení, z nichž každé je uzavřeno ve své informační bublině, dá se soudit, že se lidé velmi ochotně přesunou do světů vytvořených jim na míru podle jejich individuálních potřeb, kde budou izolováni od pro ně nepříjemných informací a názorů.

Neznamená příchod pokročilého neurálního rozhraní také konec spravedlnosti? Jestliže můžete ošálit všechny smysly i paměť, jak můžete komukoliv cokoliv dokázat?

Pokrok ve schopnostech zločinců byl vždy o něco rychlejší než v případě možností orgánů trestního stíhání a justice. I dnes má policie velké problémy s vyšetřováním a bojem s kybernetickou kriminalitou.

Podle Elona Muska je cílem Neuralinku symbióza člověka s umělou inteligencí, což má zajistit to, že lidstvo bude schopné se ubránit a udržet krok s eventuální znepřátelenou umělou inteligencí. Není úplně snadné této koncepci porozumět – máme si pustit do hlavy umělou inteligenci, abychom se před ní ochránili. Dává to smysl? Jak to chápete Vy?

Každá technologie může být využita na dobré nebo špatné cíle. Pokud je dostupná a z jejího použití můžeme mít konkrétní užitek, určitě bude použita a rozvíjena. Dobrým příkladem jsou zde některé technologie vojenské. Jejich jediným využitím je obrana před podobnou technologií nepřítele.

Musk rovněž často mluví o tom, že musíme překonat takzvaný „Velký filtr“ čili předejít sebezničení civilizace. Jde o teorii, která je jedním z možných vysvětlení Fermiho paradoxu a tvrdí, že důvodem toho, že kolem sebe ve vesmíru nevidíme žádné jiné civilizace, může být to, že neprošly Velkým filtrem a z nějakého důvodu zničily samy sebe. Musk tvrdí, že časové okno, které umožní filtrem projít, může být dost krátké a může se zanedlouho uzavřít, čili musíme jednat rychle, abychom to stihli. To podle něj znamená například kolonizování jiných planet nebo právě vývoj obrany proti potenciálním velkým nebezpečím, jako je například nepřátelská umělá inteligence. Souhlasíte s tím?

Souhlasím, ale na druhou stranu Fermiho paradox v tomto kontextu nevysvětluje, proč nevidíme ani stopy těch mimozemských umělých inteligencí, které zničily své tvůrce. Možná je jen neumíme detekovat. Podobným problémem se zabývá Liou Cch’-sin ve své trilogii „Problém tří těles“, kde tvrdí, že nejrozumnější je potichu sedět, protože když už by se nám s někým podařilo navázat kontakt, může to skončit tragicky.

Zvládneme to? Nepřerostou nás všechny ty technologie?

Zdá se, že pokud vývoj dál půjde tou cestou, o které se zde bavíme, nejpravděpodobnější budou dvě stezky. Na té první se nám podaří udržet kontrolu nad umělou inteligencí nebo s ní vytvoříme určitou formu partnerství. Na té druhé myslící stroje, převyšující nás inteligencí o mnoho řádů, přestanou na nás brát ohled, protože porozumění natolik odlišných bytostí jednoduše nebude možné. V určitém momentu můžou stroje uznat, že jsme pro ně vlastně jen škůdci, kterých je potřeba se zbavit anebo nás taky můžou zničit úplně nechtíc, aniž by si toho vůbec všimly. Proto je potřeba už teď brát ohrožení ze strany umělé inteligence velmi vážně.




Mohlo by se vám líbit...

Odebírat komentáře
Nastavit upozorňování na
guest
3 Komentáře
nejstarší
nejnovější nejlepší
Inline Feedbacks
Zobrazit všechny komentáře