Neuralink: Nejkontroverznější technologie v dějinách, 4. část – Filozofie

V minulých dílech série o kontroverzních důsledcích technologie Neuralinku jsme se zamýšleli nad možnými psychologickými, sociologickými a etickými dopady neurálních rozhraní. Dnes se podíváme na filozofickou stránku věci. Tématicky pak seriál uzavřeme dílem o právních aspektech a po něm se ještě pokusíme zamyslet, co s tím vším dělat.

Jsou lidé, kteří tvrdí, že svět stojí na lžích. Reklamy, prodejci, politici, právníci a zástupci mnoha jiných profesí používají lež jako nástroj pro dosažení toho, o co usilují. K tomu asi každý z nás v sobě schovává nějaká tajemství. Co jestli to vše díky neurálním rozhraním přestane být možné? Co jestli padne i poslední hranice soukromí a už ani myšlenky v naší hlavě nebudou jen naše?

Filozofické otázky

Slavoj Žižek

Jedním z populárních současných filozofů, kteří se opakovaně vyjadřovali k tématu Neuralinku, je Slavoj Žižek, což je, jak píše Wikipedie, „slovinský filozof a kulturní teoretik čerpající z filozofických tradic Marxe a Hegela a také z psychoanalytické teorie Jacquese Lacana. Vystudoval filozofii a psychoanalýzu. Je známý pro své přednášky po celém světě, kde se vyjadřuje k aktuálním sociálním a politickým problémům.“

Slavoj Žižek (Zdroj: Mariusz Kubik, Wikipedia)

Na YouTube můžeme najít přinejmenším dvě velmi zajímavá videa, ve kterých Žižek mluví o Neuralinku:

  • Rozhovor pro televizní stanici RT (dříve Russia Today) z roku 2017
  • Přednáška na Univerzitě ve Winnipegu z dubna 2019

Rozhovor pro televizi RT:

V obou vystoupeních Žižek prezentuje své obavy vůči Neuralinku z pohledu filozofa a psychoanalytika. Některé z jeho nejzajímavějších poznámek si zde uvedeme. V rozhovoru pro RT Žižek říká (ve volném překladu):

„Přímé propojení našich mozků s počítači a digitálním světem může být velmi nebezpečnou operací. Z jedné strany jsou zde ekonomické, empirické a psychologické problémy způsobené tím, že člověk získává jakési božské superschopnosti – pouhými myšlenkami může měnit realitu. Ale ze strany druhé se objevuje problém toho, že myšlenky lidí můžou být pomocí tohoto zařízení kontrolovány. Je zde tedy velká otázka, kdo bude tento systém kontrolovat?

Znamená to také, že svým způsobem už nebudeme lidmi, protože být člověkem vyžaduje existenci určité hranice oddělující mě a mojí mysl od reality na druhé straně. Kdo ví, co se stane jestliže tato hranice padne? Nyní sami sebe vnímáme jako bytosti existující v našich myšlenkách, v naší hlavě. Realita je venku za touto schránkou. Nejsme s ní bezprostředně spjatí. Neuralink to změní. Realita, zastoupená digitálním světem, bude díky interfejsu přímo v nás samých. A znovu se vracíme k politické „megaotázce“, kdo bude tento systém kontrolovat?

Zde musím dodat, že nevěřím snílkům, jako je Ray Kurzweil, kteří tvrdí, že všichni budeme součástí jakéhosi kolektivního vědomí. Je třeba se ptát, zda s takovou technologií budeme ještě svobodnými lidmi, nebo budeme nějakým způsobem ovládáni někým zvenčí bez toho, abychom si vůbec byli vědomi, že nás někdo ovládá. Odstrašujícím příkladem zde může být experiment, který provedli vědci v USA. Byli schopni se nějakým způsobem napojit na neurony testovaných jedinců tak, že mohli ovládat některá jejich rozhodnutí. Když se potom ptali testovaných subjektů, jak se při experimentu cítili, ti tvrdili, že se cítili svobodní, tak jako by to byla jejich vlastní rozhodnutí. Neměli ani ponětí, že byli nějakým způsobem ovlivněni nebo kontrolováni.“

Zde musím uvést svoji důraznou poznámku: V tomto s Žižkem jednoznačně nesouhlasím. Věnuji se tématu neurálních rozhraní již několik let a nikdy jsem na podobnou studii nenarazil. Odvážím se tvrdit, že momentálně neexistuje technologie, která by něco podobného na lidech dokázala. Jinak je tomu ovšem se zvířaty, konkrétně s krysami. Zde skutečně proběhly pokusy, kdy vědci pomocí různých neurotechnologických postupů byli schopni ovládat jejich pohyb. Můžete si o tom přečíst například zde nebo zde. To má ovšem velmi daleko k ovládání rozhodování lidí, o kterém mluví Žižek.

Žižek dále pokračuje:

„Shrneme-li to, musíme si uvědomit dvě věci: Za prvé to, že stojíme před branami radikální změny toho, co to znamená být člověkem. Podstata lidství se významně změní. Jedinec se bude muset vypořádat s tím, že je současně všemohoucí i nemohoucí. Všemohoucí proto, že bude moci bezprostředně myšlenkami ovládat realitu. Nemohoucí proto, že je neustále vystaven možným manipulacím z digitálního světa. Za druhé vidím nebezpečí v tom, že tyto potenciální nové formy kontroly nás můžou ovlivňovat takovým způsobem, že si dále myslíme, že jsme svobodní.“

Přednáška na Univerzitě ve Winnipegu:

Hned v úvodu záznamu přednášky na Univerzitě ve Winnipegu se dozvídáme, že Žižek k tématu neurálních rozhraní píše celou knihu. Ta vyšla v angličtině v roce 2020 pod názvem „Hegel in A Wired Brain“.

Poté Žižek vyslovuje, jednu po druhé, několik svých obav týkajících se rozhraní:

Tvrdí, že neurální rozhraní se může stát prostředkem k ještě většímu prohloubení toho, co nazývá špionážním kapitalismem (angl. surveillance capitalism) a může být nástrojem pro nové formy dominance a kontroly. Jde mu pravděpodobně o to, co zmiňoval v rozhovoru pro televizi RT, čili kdo mít kontrolu nad systémy neurálních rozhraní?

Druhou věc, o které mluví, nazývá pozitivním aspektem nedokonalosti. Cituje zde přímo Elona Muska, který se nejednou vyjádřil v tom smyslu, že díky neurálním rozhraním bude lidstvu umožněno překonat „bariéru“ řeči při komunikaci. Podle Muska řeč svým způsobem omezuje rychlost a efektivitu komunikace a rozhraní umožní jakýsi bezprostřední multimediální myšlenkový přenos mezi dvěma uživateli. Žižek tvrdí, že je to holý nesmysl, protože neexistuje myšlení bez řeči. Bez jazyka nemáme jak své myšlenky zformulovat. Právě jazyk jim dává smysl. Je tedy jakýmsi omezením, nedokonalostí, bez které se ale neobejdeme. Co více, podle Žižka je to právě tato nedokonalost, která nám umožňuje odhalit smysluplnost a dokonalost samotného myšlení. Ona nedokonalost je zde tedy pozitivním aspektem, ze kterého nelze zrezignovat.

Dalším problémem pro Žižka je to, že přímá neurální komunikace by podle něj díky Neuralinku ztratila individuálnost. Vysvětluje, že momentální vývoj v komunikaci jde směrem k většímu odcizení v tom smyslu, že přibývá nových vrstev mezi jejími aktéry, kteří nikdy nekomunikují přímo. Jde o jazyk, písmo, Internet a tak dále. Co se stane pokud, díky Neuralinku, tyto vrstvy zaniknou? Žižek k tomu uvádí několik trefných příkladů, mezi nimi zábavnou historku z filmu Čtyři svatby a jeden pohřeb, kdy herec Hugh Grant svým typickým způsobem lehce pomateného anglického nešiky vyznává lásku kolegyni Andie McDowell. Je to právě ten klopýtavý způsob jeho vyjádření, který postavu Andie ve filmu uhrane a díky němuž ona pochopí, že on ji skutečně miluje. Jen a pouze díky jeho nemotornému vyjadřování je Hugh schopen vyjádřit svou autentickou lásku k ní. Jak by podobná scéna vypadala v situaci, kdy by přenos této informace měl být zajištěn Neuralinkem, tedy šlo by o jakési dokonalé vyjádření bez oněch chyb a hloupostí, které říká Hugh Grant? Skončila by situace happyendem?

Jinak řečeno, podle Slavoje Žižka právě ony bariéry, nepřesnosti a individuálnosti v našem jednání a vyjadřování nás dělají lidmi. Tvrdí, že každá naše osobní komunikace je svým způsobem chybná, nedokonalá a právě díky tomu je autentická a lidská. Co se stane, pokud budeme schopni tyto nedostatky odstranit a komunikovat přímo a bez individuálních nedokonalostí?

Žižek jde však ve svém výčtu dále. Jeho následující poznámka se týká sexuality a naráží v ní znovu na konkrétní výrok Elona Muska, který někde uvedl, že díky Neuralinku budete moci sdílet své sexuální prožitky s jinými lidmi, kteří díky rozhraní budou moci prožít vaše sexuální zážitky přesně tak jako vy. Podle Žižka pak může sama sexualita ztratit svůj smysl, protože důležitými, možná nejdůležitějšími, součástmi celého sexuálního života jsou věci jako překonávání překážek při námluvách, dobývání partnerky nebo pocit, že se snažím o něco nemožného nebo zakázaného. Právě tyto překážky jsou zdrojem erotického vzrušení. Co se pak stane, jestliže díky Neuralinku z procesu odpadnou a s nimi i erotika jimi daná? „Co zůstane z naší sexuality?“ ptá se Žižek.

Poté zmiňuje jinou, dost zásadní věc, když tvrdí, že díky neurálnímu rozhraní ztratí jeho uživatelé svobodu myšlení, tedy naši nejzákladnější formu svobody. Každý člověk, ať už žije v jakémkoliv politickém systému a má jakékoliv sociální vztahy s okolím, je svobodný, pokud jde o jeho myšlenky. Každého jedince odděluje od reality a celého okolí určitá mezera. Já jsem tady u sebe, chcete-li, ve své hlavě. Můžu si myslet, co chci. Vše ostatní je venku, odděleno onou mezerou. Pokud ale jste bezprostředně spjatí s realitou díky Neuralinku, čili ovládáte ji přímo svými myšlenkami nebo komunikujete telepaticky s jinými jedinci, mezera zaniká. To může mít podle Žižka fatální následky. Zastánci transhumanismu a singularity (Žižek singularitou rozumí kolektivní vědomí, soubor zkušeností a vědomostí všech jedinců připojených díky neurálním rozhraním do společné domény či cloudu) podle Žižka tvrdí, že díky pozbytí se této svobody myšlení získáme jisté vykoupení z naší konečnosti a smrtelnosti, protože budeme mít možnost být součástí nesmrtelného kolektivu. Co více, jestliže se tímto způsobem vzdáme své subjektivní individuality a staneme se součástí oné singularity, čili nesmrtelného, nekonečného kolektivního bytí, staneme se v tomto smyslu součástí objektivní reality a tudíž se, podle oněch zastánců transhumanismu a singularity, o kterých Žizek mluví, staneme jakýmisi božskými bytostmi.

Žižek pak obšírně zakončuje svou přednášku a snaží se představit svůj pohled na to, jak bude vypadat pozice jednotlivce v kolektivu pomyslné singularity. Podle něj singularita bude určitou apokalypsou v tom smyslu, že zakončí jednu epochu a plně odhalí pravdu o té předchozí. „Jaká to ale bude apokalypsa?“ ptá se Žižek. Konečná apokalypsa, která bude znamenat „pouhou“ katastrofu, čili zánik lidí v jejich dnešní podobě (tak, jak tvrdí pesimisté singularity), nebo taková apokalypsa, která umožní povstání „vyšší verze pravdy“ pro lidstvo (jak tvrdí optimisté v čele s Rayem Kurzweilem)? Žižek říká, že se zde považuje spíše za optimistu a to z jediného důvodu. Soudí totiž, že jedinci v singularitě budou schopni zachovat určitý minimální odstup a zůstane jim zbytek individuality, díky tomu, co Sigmund Freud nazývá „nevědomím“ a Žižek popisuje jako určitý „virtuální soubor toho všeho, čím nejsem“. Tedy ta část naší osobnosti, kterou podle Žižka počítač není schopen žádným způsobem uchopit.

Další filozofické otázky

Přednáška Slavoje Žižka z Winnipegu je určitě vynikající a doporučuji ji zhlédnout. Nemohla však v padesáti minutách obsáhnout všechny filozofické otázky, které se v souvislosti s neurálními rozhraními nabízejí. Zkusme se tedy ještě zamyslet nad některými z nich.

V části, která byla věnována psychologii už jsme zmínili problém autenticity jednání, který se týká už rozhraní vyvíjených v současnosti. Ukazuje se totiž, že například robotické končetiny ovládané díky rozhraní fungují mnohem lépe, použijeme-li pro jejich ovládání strojového učení (machine learning). Zařízení pak funguje podobně jako napovídání textu v mobilních telefonech – předvídá pohyby svého uživatele. To pak ale znamená, že daný uživatel není tak úplně autorem toho, co dělá, čili se zde objevuje určitý problém se svobodnou vůlí.

Problém s autenticitou jednání se pak ještě prohloubí, pokud se dostaneme do fáze, kdy součástí rozhraní bude pokročilá umělá inteligence. Tedy jakási Alexa nebo Siri jako „kamarádka“ ve vaší hlavě, která má přístup ke všemu, co děláte a myslíte nebo dokonce může ovládat vaše tělo. Pěkně je to prezentováno třeba ve filmu Upgrade. Polský spisovatel Rafał Kosik, ve svém románu Mars prezentoval následující situaci: Jdete do práce, kterou buď nemáte rádi, anebo přímo váš zaměstnanec vyžaduje, abyste ji nevykonávali vy, ale vaše Alexa, protože ona ji vykoná mnohem lépe nebo rychleji. Přijdete tedy do práce, předáte Alexe kontrolu nad svým tělem, ona dělá, co je potřeba a vy si zatím, ve virtuálním světě ve vaší hlavě, děláte, co chcete – třeba ležíte někde na pláži nebo si užíváte s virtuálními společnicemi. To samozřejmě plodí celou řadu otázek o tom, kdo je pak odpovědný za vaše jednání, nebo jak někomu dokážete, kdo byl v nějakém rozhodujícím momentu u „kormidla“ vašeho těla.

Zajímavou záležitostí určitě bude také to, jak vlastně bude vypadat ona symbióza s umělou inteligencí, o které mluví Musk. Půjde o schizofrenní vztah dvou bytostí v jednom těle nebo spíše splynutí v jednu biologicko-digitální entitu? Nebo ona umělá inteligence bude přítomna jen někde na pozadí, čili si ji uživatel ani nebude uvědomovat?

Závěrem ještě zmiňme to, o čem byla řeč již v části o psychologii – konec reality pro uživatele pokročilého neurálního rozhraní. Považuji to za největší problém Neuralinku a jiných rozhraní, která se dostanou až na takovou úroveň, že budou moci dokonale ovládat všechny smysly i paměť svého uživatele. Díky rozhraní lidé ztratí možnost rozeznat, co je a co není reálné. Nebudou si moci žádným způsobem ověřit, zda to, co vidí, slyší nebo co si pamatují, je reálné nebo ne.

Asi posledním stadiem toho, kam až může dojít vývoj neurálních rozhraní, je digitalizace vědomí, o níž jsme se zmínili také už v první části této série článků. Jak by bylo možné se do tohoto stádia dostat, vysvětluje Joe Scott na YouTube. Jak pojmout tyto teorie z filozofického hlediska? Nemám ponětí… Představme si ale několik záležitostí, které by mohly být důsledkem něčeho tak radikálního, jako je digitalizace lidské osobnosti:

  • zánik biologické podstaty lidí, čili konec rozmnožování pohlavní cestou, zánik pohlaví, sexuální orientace a sexu vůbec
  • uzamčení do digitálního světa (výpočetního cloudu) anebo záměna biologických těl za robotická
  • eliminování smrti

Předchozí díly seriálu Nejkontroverznější technologie v dějinách:




Mohlo by se vám líbit...

Odebírat komentáře
Nastavit upozorňování na
guest
10 Komentáře
nejstarší
nejnovější nejlepší
Inline Feedbacks
Zobrazit všechny komentáře
Acetylcholinský

Tvrzení, že “nemůže existovat myšlení bez řeči” je nesmysl, kterým trpěli už mí pedagogové na střední.

Když řeším jakýkoli problém, tak si neříam “teď zatluču hřebík sem a tady to přiříznu” nebo “načtu matici do pole a transponuju ji”. Obrazy a ideje samy létají okolo.

Adam Ř

Řeči není myšleno mluvení (nahlas), ale používání slov a vět (v duchu)

Jiří

Souhlasím. Jazyk je jenom hrubým popisem myšlenek a rozhodně není nutný k myšlení.
Přirovnal bych to k programování. Jazyk je rozhraní vyššího programovacího jazyka – soubor metod, které má však každý implementovány odlišně. Zatímco myšlení je strojový kód.
Přenos myšlenek (řeči, vnitřního hlasu) neuralinkem byl samozřejmě super např. pro hluchoněmé, ale pokud má dle Muska “překonat „bariéru“ řeči při komunikaci”, tak toho nedocílíme vyšší kadencí slov přenášených do mozku, ale opravdu jen přenosem myšlení. Limitem přijímání informací (alespoň u mě) rozhodně není to, jak rychle druhý mluví a pokud by se přednáška na vysoké škole ze 100 minut zkrátila (zrychlila) na 10 minut a narvala by se mi přímo do hlavy, tak bych si z ní neodnesl nic a už vůbec ne vyšší efektivitu.
Vyšší efektivity řeči docílíme jenom seskupováním metod rozhraní do vyšších celků (=učením), ale nikdy nepřekonáme individuální implementaci, což u “zatluč hřebík” moc nevadí, u 99 % lidí to bude fungovat, někdo ho zatluče levou rukou, někdo se u toho zraní, ale půjde to. Zatímco u “vyšších metod” jako třeba zoptimalizuj palivový přívod do motoru Raptor bude fungovat možná tak mezi Elonem Muskem a Thomasem Muellerem a právě v tomto případě by pomohl přenos myšlenek – strojového kódu.

3,14ranha

To není tak úplně pravda. Protože abstraktní myšlení je strukturované a jazyk je strukturovaný přepis myšlenek. U většiny lidí lze také celkem dobře poznat jaký je jeho mateřský jazyk – že jeho myšlení je celkem pevně svázané se slovy daného (mateřského) jazyka.

Člověk není počítač. Koneckonců jestliže u něčeho složitého “nenacházíme příhodná slova” tak tím spíš se to vůbec nepovede přeložit do řeči počítačů – do dvojkové soustavy.

On totiž ani pouhý mozek není jako počítač. Mozek je organizovaný vysoce paralelně a mnoho signálů v mozku je analogových (dokonce už na mikroskopické úrovni jednotlivých buněk).

Žádný univerzální “strojový kód” lidského myšlení neexistuje. Každý člověk je do značné míry originál. Někdo má poruchu barvocitu, někdo vyrostl jen do výšky 150 cm, někdo je 2 metrový obr a “senzory i výkonné periferie” každého člověka jsou trochu odlišné. Každý se učil jinému mateřskému jazyku.

Existují poruchy autistického spektra kdy takoví jedinci “vidí hudbu” nebo “slyší barvy”. Někteří od narození slepí lidé se celkem dobře orientují sluchem a dokonce zhruba odhadnou rozměry místnosti, nebo vzdálenost překážky.

Naposledy upraveno před 1 měsícem uživatelem 3,14ranha
Krys

Osobně mi připadá, že nejpravděpodobnější cesta u digitalizace vědomí, půjde směrem robotických těl…tedy alespoň v rámci objevování a kolonizaci vesmíru. Vzhledem k limitacím, která naše biologická těla mají mimo naší rodnou planetu, bude asi jednodušší cestovat v těle robotickém 😉

Jirka K.

Pokud připustím, že člověk jednou nebude schopen rozpoznat realitu, tak by se také mohlo stát, že já jako čtenář jsem jenom výplod umělé inteligence v mozku autora který už 327let žije v cloudu.

A pokud lidstvo jednou nebude schopno rozpoznat realitu, pravděpodobně to povede k jeho vyhynutí, protože nebude vědět v které realitě dolít naftu do centrály od serveru 😀

Goodman

ROFL jak si pan Slavoj Žižek nevidí do huby. Hlavně, ze ma strach ze špionážního kapitalismu a vůbec z te zlé komerce, která jde jenom po penězích. Ale sám neváhá ani minutu a hned píše knihy a pořádá přednášky pro peníze o problémů, který nenastane dříve než za tisíc let nebo vůbec. Hlavní je, ze se humanisticky napakuje na vědecké práci druhých. To je stejne, jako když v řadách BLM protestovali proti údajné policejní brutalitě členové gangů Bloods a Crips. Gangy, jímž se připisuje kromě distribuce drog i cca 2000 vražd a zabití ročně.

Mečiar

Žižka sleduju asi patnáct let a přijde mi, že je něco jako Halík. Hlavně se k čemukoli vyjádřit.

Goodman

Jj, není nad pokrytecke prospechare. Je to stále stejný scénář dokola. NASA věnuje nezměrné úsilí a pristane na Měsíci a hned se objeví vejlupci, kteří vydělají milióny na radoby vedecke konspiraci o podvodu. Geneticti inženýři stojí u zrodu nových prulomovych objevů a hle, máme tu hned hollywood a humanisticke intelektuály bojující proti stvoření nadcloveka. No a Neuralink je něco podobného. Je hodně ambiciózní az balancujici na hraně scifi, přesto se snaží něco nového dokázat. A byl by v tom čert, aby nějaký parazit se nepriritil s katastrofální předpovědí.
Je to ubohé a je mi z toho doslova nabliti, kam az lůza dokáže zajít, aby si přišla k penězům bez zásluh. O to horší, ze svým bezpaternim jednání ohrožují práci druhých. Viz kauza umělé černé díry v CERNu, která měla údajně pozřít Svět. Tenkrát musela policie vědce chránit, protože je méně bystri jedinci (záměrně se vyhýbám slovu idioti) zblbnuti kravinama napadali.

Jiří Lacina

Thomas Alva Edison kdysi mimo jiné prohlásil: “5% lidí myslí , 10% lidí myslí , že myslí , zbylých 85% by raději zemřelo , než aby myslelo.”
Já se však domnívám , že nejhorší jsou ti co myslí že myslí – ti nadělají nejvíce škody (a mezi ně samozřejmě patří i Žižek).