Elon Musk v novém rozhovoru prozradil, že navrhl nadzvukový elektrický letoun a Neuralink brzy oznámí průlom

Elon Musk a Joe Rogan během rozhovoru (Zdroj: YouTube)

Elon Musk před pár týdny slíbil, že až bude mít trochu času, navštíví Joea Rogana, který provozuje podcast The Joe Rogan Experience. Nyní jsme se konečně dočkali a Elon poskytl více než 2hodinový rozhovor, během kterého přišla řeč na většinu jeho oblíbených témat. Rozhovor se hodně věnoval hrozbě umělé inteligence, ale také došlo na Elonovy osobní názory, Neuralink, Boring Company, Teslu, Muskův koncept elektrického nadzvukového letounu a v neposlední řadě také kouření marihuany.

Rozhovor byl pro mě docela zklamáním. Rogan nebyl moc dobře informovaný, takže pokládal spíše vágní otázky na obecná témata a celá debata byla poněkud “ukecaná” a vedla odnikud nikam. Zkrátka, i když se hodně mluvilo, vlastně jsme se skoro nic nedozvěděli. Sepsal jsem tedy alespoň pár stručných poznámek o těch věcech, které mě zaujaly nebo pobavily.

Musk s ne-plamenometem The Boring Company před začátkem rozhovoru (Foto: Joe Rogan)

  • Muskovi se nelíbí, že je na Wikipedii označen jako podnikatelský magnát, radši by prý byl podnikatelský magnet.
  • Elon řekl, že je mimozemšťan.
  • Musk už poněkolikáté upřesnil, že 80 % svého času věnuje inženýrství.
  • Létající auta jsou podle Muska moc hlučná, nepraktická a nebezpečná. Tunely jsou prý lepším řešením dopravních problémů, protože jsou na rozdíl od silniční infrastruktury 3D. Tunely lze vrstvit třeba i do hloubky 3 kilometrů.
  • Elon si stále myslí, že neregulovaný vývoj umělé inteligence může mít katastrofické následky. O této potenciální hrozbě mluvil, s kým jen mohl, včetně bývalého amerického prezidenta Obamy nebo s guvernéry všech států. Byl by rád, kdyby vznikla nějaká komise, která by nejdříve sledovala vývoj na poli umělé inteligence a až by se s problematikou dostatečně obeznámila, navrhla by nějaká pravidla pro bezpečný vývoj těchto technologií. Bohužel mu přijde, že jeho snahy upozornit na tento problém nikam nevedly.
  • Pokročilá umělá inteligence podle něj nemusí být nutně zlá, ale nebude možné ji ovládat a problém také bude, že lidi ji téměř určitě použijí proti ostatním lidem.
  • Podle Elona nemají lidé kopat do robotů, neboť mají dobrou paměť.
  • Všichni jsme už dnes kyborgové, protože mobil je v podstatě digitálním rozšířením našeho já a díky internetu dokážeme během okamžiku cokoli vypočítat, zjistit nějakou informaci nebo okamžitě komunikovat s kýmkoli na světě.
  • Muskova společnost Neuralink pracuje na propojení lidského mozku s počítači. Je to mimo jiné jeden ze způsobů, jak se vypořádat s hrozbou umělé inteligence (“Když ji nedokážeme porazit, můžeme se k ní přidat”). Elon také řekl, že firma by mohla během pár měsíců oznámit nějakou novinku, která podle něj bude o řád lepší než cokoli, co na tomto poli existuje dnes.
  • Elon znovu prohlásil, že je dost velká šance, že žijeme v něčí počítačové simulaci. Této teorii podle něj nahrává to, že díky technologickým pokrokům budou už brzy počítačové hry a virtuální realita neodlišitelné od skutečnosti.
  • Šimpanzi jsou zlí.
  • Elon možná naznačil, že Tesla chystá nějaký produkt související s domácí klimatizací/vytápěním.
  • Elon vypracoval návrh na elektrický nadzvukový letoun schopný vertikálního startu a přistání. Elektrická auta, solární systémy a bateriová úložiště jsou však podle něj důležitější, a jelikož má málo času, letadlo bude muset počkat.
  • Jediná dvě auta se spalovacím motorem, která Musk vlastní, jsou kabriolet Jaguar E-Type a stařičký Ford Model T (ten dostal darem).
  • Musk zmínil málo známou funkci Tesly Model X, kterou lze přepnout do režimu připomínajícího balet:
  • Musk vyprávěl o tom, jak jeden řidič Tesly ještě v době před Autopilotem usnul za volantem a zabil cyklistu. To prý Muska motivovalo k tomu, aby Autopilot uvedl do provozu co nejdříve, neboť ten by takové nehodě dokázal zabránit. Zmíněný řidič pak Teslu žaloval, protože prý usnul kvůli tomu, jak jeho nová Tesla voněla. Soudce však žalobu smetl ze stolu.
  • Soudci jsou podle Muska v drtivé většině případů chytří, poctiví a spravedliví. To samé podle něj platí o policistech a kvůli pár špatným jedincům bychom neměli zatracovat celou skupinu.
  • Původní Tesla Roadster vycházel z šasi Lotusu Elise a měl využívat technologie od firmy AC Propulsion, jelikož to mělo ušetřit čas a peníze ve srovnání s návrhem auta od nuly. To podle Muska byla chyba, neboť se ve výsledku stejně muselo všechno udělat znovu. Roadster nakonec s Lotusem sdílí jen asi 7 % součástek.
  • Tesla je ze všech jeho firem nejnáročnější, protože udržet automobilkou naživu je velmi těžké.
  • Elon chce, aby lidstvo žilo na více planetách. Chce terraformovat Mars.
  • Musk nenosí hodinky, protože mobil ukazuje čas.
  • Elon popsal dění ve své hlavě jako nikdy nekončící explozi nápadů. Už ve věku 5 let si uvědomil, že ostatní lidé to tak nemají.
  • V průběhu večera tekla whisky proudem a v závěru si Musk dokonce zakouřil nabídnutou marihuanu. Elon prý marihuanu skoro nikdy nekouří, jelikož snižuje jeho produktivitu. Podle něj je to takový opak kávy.
  • Elon se snaží dělat užitečné věci, díky kterým bude budoucnost o něco lepší a více vzrušující.
  • Musk za závěr vzkázal lidem, aby k sobě byli hodnější. Láska je podle něj odpovědí na všechno.

Záznam celého rozhovoru:




  • Mohlo by se vám líbit...

    45
    Diskuze

    avatar

    This site uses Akismet to reduce spam. Learn how your comment data is processed.

      Odebírat  
    nejnovější nejstarší nejlepší
    Nastavit upozorňování na
    Martin
    Host
    Martin

    Škoda, jsem doufal že se dozvíme něco nového o BFR třeba

    Zdeněk
    Host
    Zdeněk

    Mám to stejně.

    Jiří
    Host
    Jiří

    Myslím, že si všechno schovává na IAC2018 (1. října).

    Martin
    Host
    Martin

    pekne 🙂 jj, bolo to také 😀 …my sčítanejší v Tesle a SpaceX sme počas toho rozhovoru len čakali kedy sa konečne začnú baviť o veciach čo nás zaujímajú, nadskočili sme kedykoľvek sa téma zvrtla konečne správnym smerom len aby sme zistili, že v skutočnosti nikam nesmeruje a len tak kĺže po povrchu a kde tu o niečo zakopne 😀 …ale čo už – aj takéto rozhovory treba…. človeka už omrzí počúvať stále tie isté tlačové vyjadrenia dookola 😀 …takto sa preriekol možno viac ako by sa bol, keby ho bol moderátor tlačil do otázok, ktoré zatiaľ neboli verejne zodpovedané 🙂

    Jiří
    Host
    Jiří

    Moc děkuji, přesně tenhle přehled jsem všude hledal :).

    Jiří Hadač
    Přispěvatel

    Moc hezký přehled a shrnutí Petře, místy jsem se docela i zasmál. 🙂

    Poipop
    Host
    Poipop

    Nadzvukový elektrický letoun? To ukradl Tonymu Starkovi.

    Bohumil Boruvka
    Host
    Bohumil Boruvka

    Ne ne- On mu ho nabidnul v Ironmanovi 2 😉

    Poipop
    Host
    Poipop

    Pravda, moje chyba….. Měl bych si to zopakovat, mezery v základním vzdělání.

    Goodman
    Host
    Goodman

    Kdybych měl ohodnotit Elona:
    Plusové body
    – podnikání by mělo směřovat k zlepšení života a nadějnější budoucnosti (tj. ne casina, sázkové společnosti, produkce tabáku atd.)
    – lidstvo by mělo obývat více než jednu planetu
    – slušně a s respektem se vyjadřuje o policistech (v dnešní americe docela vzácnost. U celebrit teďka frčí hate speech vůči strážcům zákona a naopak je strašně IN se zastávat kdejakého grázla (např. jak předvádí Kim Kardashian))
    – létající nejsou praktická (ještě aby se člověk bál, že mu spadnou na hlavu)
    – nenosí hodinky (naprosto ze stejného důvodu jako já 😀 )
    Mínusové body
    – fakt nejsme v ničí simulaci. Doufám, že to myslel jako fór.
    – umělá intelegence je v dnešní době (a dalších nejmíň sto let) spíše neinteligence. Vzbouření robotů je takové trapné holywoodské klišé.
    – terraformace, to je no comment
    – nadzvukový elektrický letoun s vertikálním vzletem? Teď mi začíná připomínat Nikolu Teslu a jeho tvrzení o vynalezení zbraně na zničení Země.
    – veřejně pít tvrdý alkohol a kouřit trávu by nemusel. Myslím si, že je idolem mnoha lidí (mě nevyjímaje), čili neúmyslná propagace návykovým látkám je zbytečná. Měl to odmítnout. Ostatně redaktora měli vyrazit, chlastat a užívat drogy na pracovišti v pracovní době je zákázáno (tedy je zakázáno ve slušných firmách)

    Bystroushaak
    Host
    Bystroushaak

    Ten letoun není problém už dlouho. Problém je, aby taky někam doletěl. Kdybys chtěl nadzvukový elektrický letoun s kolmým startem a přistáním, který ovšem vydrží ve vzduchu jen deset minut, tak si myslím, že by nebyl problém ho vyrobit už před deseti lety :]

    Martin
    Host
    Martin

    Keby nesnívame, neposúvame sa dopredu 🙂 Zmietnuť fantázie ako teraformáciu, SAI, či už dokonca nadzvukové elektrické lietadlo zo stola len preto, že to dnes nie je potvrdený fakt, nedochádzalo by vo svete k žiadnemu pokroku. Wrightovci by si nevysnívali lietajúci stroj, ktorý je dnes rovnako možný a bežný ako Fordov spaľovací motor, Edisonov jednosmerný a Teslov striedavý prúd či Muskove propulzne pristávajúce Falcony 9….

    O týchto veciach musíme najskôr snívať (hoci len v čiste teoretickej rovine), tak niekto príde s prevratnou myšlienkou, vynálezom či aplikáciu existujúcich technológií, ktoré z nemožného urobia teoreticky a neskôr aj prakticky možné, tak niekto príde s nápadom ako nehorázne nákladný proces mnohonásobne zjednodušiť či inak v konečnom dôsledku zlacnieť do bodu kedy sa prakticky možné veci stanú rentabilnými a voila – nový životný štandard je na svete 😉

    BTW – keď sa bavili o rešpekte pred AI, vždy tým mysleli SAI – umelú superinteligenciu – to je niečo ako keď neurónovú sieť naprogramuješ aby sa chovala ako človek (napríklad pre potreby robotického asistenta ľuďom s postihnutím), aby sa vedela učiť hocičo sa jej povie, aby bola iniciatívna a učila sa sama podľa indícií, ktoré sama uzná za dôležité. Tvoje zadanie nebude “nauč sa bezpečne a plynulo riadiť auto na takomto povrchu v takom prostredí s takou dopravnou legislatívou” ale skôr niečo abstraktné ako Asimovove 3 zákony (a všetci dobre vieme ako skončil film “Ja robot”)…

    Dnešná AI nie je omnoho viac nebezpečná ako človek ktorý jej dal do rúk možnosti a zadanie (aj AI na odpal jadrových striel môže byť hlúpa, ale ak sa pokazí, Boh nám pomáhaj 😉 ), no až dospejeme do bodu že AI postačí abstraktné zadanie a bude mať správne možnosti (napr. prístup k internetu, kde by si potenciálne vedela hacknúť a podmaniť všetky počítače online na zvýšenie kapacity svojej neurónovej siete), je takmer isté že nad ňou stratíme kontrolu a stane sa nezávislou entitou, ak nie inteligentnejšou (aspoň spočiatku) tak určite rýchlejšou a mocnejšou než ktorýkoľvek jedinec na planéte a bude už len mocnieť a múdrieť… to je dilema ktorá trápi Muska – tomuto bodu sa nevyhneme (jedine ak by sme globálne odmietli vývoj a pokroky v AI, čo sa zhodneme že nehrozí) a tak špekuluje ako sa postarať aby až k tomu dôjde buď SAI nepredstavovala riziko pre náš druh, alebo aby sme s ňou nejakým spôsobom boli schopní držať krok (misia Neuralinku)

    Goodman
    Host
    Goodman

    Naprostý souhlas, snít se musí. Nicméně snění by nemělo ovlivňovat naše krátkodobé cíle a kritické vidění. Sen je třeba vesmírný výtah. Nicméně nemá smysl zastavit vývoj BFR a začít plánovat výtah, který je v nedohlednu, zatímco BFR můžeme mít v horizontu roků. A už vůbec nemá smysl plánovat a snít o výtahu až na Měsíc, protože je to fyzicky neproveditelný nesmysl dnes i za milion let.
    Nadzvukové elekrtické letadlo? Proč ne. Jenom jsem se pozastavil na Muskově prohlášení, že ho navrhl, akorát ho nemá čas nechat postavit. Navrhnout podzvukové konveční letadlo je oříšek pro celý tým leteckých konstruktérů. I přes nespornou vysokou inteligenci Muska, tak on sám není schopen navrhnout fungující model nadzuvkévo elekrtického letadla. To je prostě jenom chvástání, nic víc. Mám obavu, aby z našeho Elona se nestal neomylný a vševědoucí megaloman typu Kim Čong-ila. Ten taky prý navrhoval revoluční letadla.
    Největší nebezpečí pro lidstvo je sám člověk. Jeho chování je to co mi nejvíce dělá starost. Kvůli naší lidské nespohlivosti je hloupost brzdit výzkum. Je to takový alibismus dnešní doby, všechno házet na technologie. Máme dopravní nehody? Můžou za to auta. Budeme regulovat automobilky. Jedním dechem, ale snížíme tresty za řízení pod vlivem alkoholu a legalizujeme trávu. Nevím, jestli je tohle správná cesta. Raději než technologie, bych reguloval pomocí zákonů, předpisů s trestů lidské chování.

    Štěpán
    Host
    Štěpán

    No, s umělou inteligencí bych souhlasil, je třeba se jí bát, minimálně z ní mít respekt (strach nám moc nepomůže…)
    Pití je naprosto normální ve společnosti a ještě k tomu řekl, že je to taky droga 😀 a to že si jednou natáhl…sám pak řekl že to bylo skoro poprvé…
    Je to pracoviště toho redaktora, proč by sám sobě něco zakazoval?
    Viděl jste to vůbec?

    Goodman
    Host
    Goodman

    Zkuste si položit otázku, co je to ta umělá inteligence. Dojdete nepochyně k závěru, že se jedná o algoritmus, který dělá to, k čemu je naprogramován. Žádný software nedělá nic ze své vůle, ani ten nejiteligentnější (a to se nezmění po hodně dlouhou dobu). Pokud někdo naprogramuje dron, aby autonomě hledal a zabíjel lidi, tak tomu dronu je to jedno. Nedělá to, že by chtěl nebo z toho něco měl. Čili není problém v umělé inteligenci, ale ve využití/zneužití technologií. Udělat dálkově řízenou bombu lze i pomocí “hloupého” telefonu. Čili nebezpečí nečíhá pouze v sofistikovaných zařízení. Tedy kampaň za omezování AI je populistické a zcestné. Pokud se to podaří, tak akorát vznikne mraky nové byrokracie, nařízení a kontrol, které budou bránit prospěšnému vývoji ála stopka vývoji kmenových buněk (kdežto zneužití stejně nezabrání). V tomto bodě si může naběhnout i sám Elon, neboť jeho elektromobily využívají AI, stejně tak i v budoucnu Neuralink. Nakonec, aby pak sám nebojoval proti omezování.
    Pracoviště redaktora, to je pravda. Původně jsem si myslel, že je to pod nějakým studiem. Tak či onak, Joe Rogan tím prokazuje svoji nevalnou úroveň. Krom toho, svým chováním zbytečně potápí svoje hosty, je to ubožák.

    Honza
    Host
    Honza

    Machine learning is a field of computer science that uses statistical techniques to give computer systems the ability to “learn” (e.g., progressively improve performance on a specific task) with data, without being explicitly programmed. (wiki)
    Právě, že se to programuje do určité míry samo, u neuronových sítí se strojovým učením vlastně nikdo nedokáže jasně říct, proč jsou výstupy přesně takové, jaké jsou. Zatím něco nebezpečného nejspíš není na pořadu dne (byť malware s prvky strojového učení by mohl být nepříjemný, co jsem tak četl), ale vývoj v téhle oblasti se zdá být dost rychlý. Rozhodně je lepší být připraven o sto let v předstihu, než aby bylo o rok pozdě. Je fajn o tom přinejmenším mluvit a rozebírat varianty. A třeba softwaru, co se naučí programovat, se mi nezdá nijak zvlášť zcestná, zato při špatném nastavení jeho “motivací” (zrovna mě nenapadá lepší slovo) zní potenciálně velmi nepříjemně.
    Jinak možnost, že jsme něčí simulací, je zcela normální hypotéza. Jako zásadní argument pro se říká, že pokud by bylo ve vesmíru možné nasimulovat jiný vesmír, nejspíš to půjde udělat v jednom vesmíru vícekrát/mnohokrát/nekonečněkrát. Čistě na počty by tedy simulované vesmíry měly značně převyšovat množství skutečných vesmírů (o simulaci v rámci simulace nemluvě) a tedy je statisticky nepravděpodobné, že zrovna my jsme v reálném vesmíru. Ale je to jen hypotéza bez jasných důkazů pro kteroukoliv stranu (nebo aspoň já o žádných důkazech nevím). Ale zcestně to nezní a má to zábavné interakce s teologií.

    Goodman
    Host
    Goodman

    Ale to, že neznáte dopředu výsledek (nebo je těžké jej určit) NENÍ důkazem o umělé inteligenci. To byste se musel bát třeba generátoru náhodných čísel. Krom toho ono to funguje jinak než pospiujete. Selflearning program opět pracuje tak, jak jej navrhl programátor. “Učí se” podle nějakého klíče. Vytváří logické vazby (předem naprogramovaný algoritmus) a na jejich základě určí výstup. Asi nejdokonalejší AI má IBM a jeho Watson. Například v lékařství (zatím tedy nemá valné úspěchy, ale to se snad brzo změní) určuje diagnózu. Snaží se ji určit stejným způsobem, jakým by ji určil lidský mozek. Vstupem jsou pro něj zkušenosti lékařů, seznamy chorob, jejich indikace a průběh a v neposlední řadě možné léčebné postupy a medikamenty. Logickou vazbou propojuje souvislosti. Pokud je diagnźa chybná, tak se Watson dokáže “sám poučit”. Čili výstup je trochu překvapením i pro samotné IBM, protože logické vazby jsou tak složité, že je těžké je predikovat. To je příklad dnešní AI. Je nutné se bát? Není. Protože chybná diagnóza není úmyslem Watsonu vás poškodit. Dokonce Watson vás ani nechce vyléčit. On nechce nic, protože nemá “já”. Ikdyž může vypadat chytře, jedná se o pouhý matematický úkon. V podstatě inteligence (ve smyslu vlastní vůle) stejný jako kalkulačka. Opravdu nehrozí, že by se Watson zbláznil a chtěl ovládnout svět a vyhubit lidstvo. On vůbec software se težko může zbláznit (dokoce si myslím, že je to nemožné). Může se zacyklovat, může se zaseknout, může dávat chybný výstup na základě chybného algoritmu nebo vstupních dat. Algoritmus to je soubor pouhých čísel a znaků. Nic víc.
    Celý humbuk a strach z AI je stejně paranoidní, jako byla obava z LHC CERNu, že vytvoří umělou černou díru, která spolkne svět. Nebo snahy ukončit výkum genetického inženýrství, protože vytvoří supermonstrum. Jsou to naprosté blbosti, které brzdí seriózní výzkum a pokrok lidstva.
    Co se týče “něčí simulace vesmíru”, tak to není normální hypotéza. Nýbrž jedná se o filozofickou hříčku společenského relativismu, který tvrdí že všechno je možné. Všechno možné není. Stejná hříčka jako “žijeme v něčí simulaci vesmíru – kterých ještě může být nekonečně mnoho” je na stejné úrovni, jako paradox Achilles a želva. Filozofické úvahy (rádoby logické) a racinální kritické úvahy jsou dvě naprosto rozdílné věci. Zabývat se jimi jinak než v zábavném duchu je plýtvání časem a energií. Na filozofických úvahách a společenském relativismu stojí veškerá nábožeství, léčitelství, konspirační teorie apod. Snaží se zdánlivě logicky podložit fungování nesmyslu.

    Honza
    Host
    Honza

    Ale vždyť já neříkám, že se bojím současných umělých inteligencí, naopak jasně píšu, že v současné době nejspíš žádný v tomto směru skutečně nebezpečný software není. Neuronové síti je na začátku potřeba nastavit nějaké parametry, podle nichž pozná, jestli je výsledek žádoucí, a podle toho upraví své chování (to, co jsem předtím popsal slovem “motivace”). No a když tohle nastavíte špatně nebo záměrně nebezpečně, tak samozřejmě, že se podle toho bude chovat. Pokud bude neuronová síť nastavená na to, aby Vás zabila, tak samozřejmě, že se o to bude snažit, pokud k tomu bude mít prostředky. A hlavně se v tom bude zlepšovat, dokud bude stačit hardware. Navíc bych rád viděl nějaký argument pro Vaše tvrzení, že se dostatečně komplexní program nemůže začít chovat nepředvídatelně a třeba i v rozporu s původním úmyslem programátorů. Jakožto zábavnou ilustraci doporučuji Vesmírnou odyseu. A pokud vím, tak Musk má silný odpor hlavně k obecné umělé inteligenci (https://en.wikipedia.org/wiki/Artificial_general_intelligence), pro kterou ta “motivace” už vůbec nemusí být jasná a na jejím nastavení záleží naprosto zásadně.
    Jinak všimněte si, že v předchozím příspěvku jsem ani jednou nenapsal “umělá inteligence”. Bylo to zcela záměrné, protože to je termín, který si vůbec netroufnu definovat. Přijde mi to jako podobně abstraktní a neuchopitelný pojem, jako vědomí. Věříte na vědomí? A na svobodnou vůli? Já moc ne. Ostatně pokud si dobře vzpomínám, četl jsem o výzkumu, který dokázal sledováním vzruchů v mozku určit finální rozhodnutí dříve, než o něm věděl subjekt (byť už si nevzpomínám, jak to měřili). Osobně si myslím, že náš mozek je jen velice komplexní analogový počítač a vědomí je iluze, stejně jako svobodná vůle. Podle mě by vesmír byl úplně deterministický, kdyby nebylo nahodilosti kvantových jevů. No a tímhle pohledem je veškerý lidský intelekt jen složitější analogií samoučících programů. A víme, čeho jsou schopní lidé, takže mi přijde jako dobrý nápad včas ošetřit, aby naše programy byly lepší, než my, lidé, až jednou budou dostatečně komplexní.
    Jak byste definoval hypotézu? Podle mě si myšlenka, kterou se zabývají i fyzici, přičemž přinášejí testovatelné předpovědi pro jednodušší verze simulací, takové pojmenování zaslouží. http://www.osel.cz/6610-ijeme-uvnitr-pocitacove-simulace.html , https://arxiv.org/abs/1703.00058 Navíc v téhle myšlence nevidím zjevné logické chyby, na rozdíl od Achillea a želvy, kde nikoho nenapadlo, že nekonečná řada může mít konečný součet. Nicméně i tehdy bylo jasné, že ta hypotéza ve skutečnosti neplatí a tedy je něco špatně, což o simulační hypotéze rozhodně říct nejde. Pokud píšete, že je logická jen zdánlivě, tak prosím poukažte na chybu v té logice. Je dokonce možné, že by se Vám takovou chybu podařilo opublikovat. Mě to původní trilemma (“The fraction of human-level civilizations that reach a posthuman stage (that is, one capable of running high-fidelity ancestor simulations) is very close to zero”, or “The fraction of posthuman civilizations that are interested in running ancestor-simulations is very close to zero”, or “The fraction of all people with our kind of experiences that are living in a simulation is very close to one”) přijde logicky v pořádku.

    Goodman
    Host
    Goodman

    Prosím, pokud chcete argumentovat, tak neodkazujte na holywoodskou fikci typu “vesmírná odysea”. Stejně jako jiná sci-fi, třeba Start Trek, má za cíl bavit publikum, ne vzdělávat. Jsem obrovský fanda výše uvedených filmů, ale s realitou nemají absolutně nic společného. Jako zdroj seriózní debaty neobstojí.

    Vaše citace :
    “Navíc bych rád viděl nějaký argument pro Vaše tvrzení, že se dostatečně komplexní program nemůže začít chovat nepředvídatelně a třeba i v rozporu s původním úmyslem programátorů”

    Budete se divit, ale výše popsané ještě nikdy nenastalo. Problém je v pochopení, co je ta nepředvídatelná situace. To, že program selže se stává. Dělá chyby to se stává. Ale nikdy neudělá nic jiného, než k čemu byl program určen. Abych lépe vysvětlil, něco z mojí praxe s čím jsem se setkal. ABB dodává svařovací roboty firmám, něco jako v té, které roky pracuji. Ačkoliv jsou na vysoké úrovni, tak zejména při instalaci nefungujíoptimálně. Respektive jejich svary jsou nedokonalé. Často proved svar, kde vůbec neměl být. To je ta chyba SW, která může nastat v rozporu s očekáváním programátora. Ale nikdy nenastana to, že by robot místo svařování začal kreslit obraz. A úplně stejné je to ve všech odvětvých AI. Vždy se bude jeho schopnost pohybovat v mantilech algoritmu programátora. A to i v případě samorozhodujícího stroje. AI nemá ambice nemá vlastní cíl (vždy bude mít stejné ambice a cíl jako jeho stvořitel – programátor). A to se nezmění po hodně dlouhou dobu (desítky, možná stovky let), protože je to velmi velmi těžké.

    Co se týče chápání lidského mozku, je to zajímavé co píšte a něco na tom rozhodně bude. Také nevěřím “v duši” (teologického výkladu). Čili je to dost pravděpodobné, že tomu tak skutečně je.

    Simulace vesmíru oparvdu je na úrovni Achillea a želvy. Jelikož Vy obhajujete hypotézu, tak Vy musíte přinést důkaz, že je pravdivá. Argument, že je všechno možné je slepá ulice. Mohu tvrdit, že třeba včera ke mě domů přiletěli mimozemšťani. A teď, když je všechno možné, dejte mi naprosto spolehlivý důkaz, že lžu. Bohužel nemůžete. Stejně tak mohu tvrdit, že ve středu Marsu žije civilizace vyspělých permoníků. Dejte mi spolehlivý a nevyratitelný důkaz, že kecám.
    Pokud si vážně myslíte, že žijete v Matrixu, tak budiž. Je to Váš názor.

    Honza
    Host
    Honza

    Neodkazuji ha hollywoodskou sci-fi, která je samostatně přinejlepším obtížně pochopitelná, odkazuji na knižní sérii napsanou člověkem, který přišel s nápadem na šíření signálu z geostacionárních družic. A schválně jsem nepsal 2001, protože mám pocit, že důvod, proč HAL zabil posádku, je až v 2010. Pro ty, kdo to nečetli, ve stručnosti šlo o to, že hlavní instrukce pro HALa byla udržet cíl cesty (mimozemský monolit) v tajnosti i před posádkou, dokud se nedostanou na místo. A nejjednodušší způsob byl posádku zabít. Pak se to skutečně dozvědět nemůžou. Logice není co vytknout, je to elegantní řešení zcela v rámci zadání, které programátora nenapadlo a tak ho neošetřil. Jistě, je to umělá hypotetická situace, ale jako ilustrace je to velmi na místě. Těžko mi můžete vyčítat absenci konkrétních případů něčeho, co, jak sám píšete, se nikdy nestalo, jak píšu i já, je v tuhle chvíli pravděpodobně mimo naše možnosti, a navíc se celá diskuze vede proto, aby se to nikdy nestalo a nastavila se pravidla pro to, aby se to stát nemohlo.
    Co se týče nepředvídaného chování, pár příkladů:
    Samoučící chatbot náckem – https://www.technologyreview.com/s/601111/why-microsoft-accidentally-unleashed-a-neo-nazi-sexbot/ , https://www.theverge.com/2016/3/24/11297050/tay-microsoft-chatbot-racist Jistě je to v mantinelech algoritmu programátora, a stejně jistě je to v rozporu s původním úmyslem programátorů (důkaz pro tohle je i to, že toho chatbota po 16 hodinách stáhli), zde zatím ve zcela nevinném provedení.
    Google translate věští – https://www.dailymail.co.uk/sciencetech/article-5983225/Google-Translates-AI-transforming-gibberish-translations-hilarious-doomsday-prophecies.html Opět nevinná zábava pramenící z nesmyslných vstupů a nedostatku učebních textů v malých jazycích. Ale zcela jistě nepředvídané chování, nesmyslný vstup by měl dán nesmyslný výstup, jinak to v extrémním případě může někdo brát jako překlad (z některých jazyků lze přeložit i lorem ipsum, nebo šlo, když jsem to naposled zkoušel, a to už si někdo se špatnými informacemi může splést s jazykem, narozdíl od opakování slova “dog”)
    Robot opakovaně utíká, navdory přeprogramování – https://www.washingtonpost.com/news/morning-mix/wp/2016/06/23/after-escaping-its-creators-a-second-time-russian-robots-final-destination-may-be-scrap-heap/?utm_term=.70a909ed0bce , https://www.sciencealert.com/the-same-robot-keeps-trying-to-escape-a-lab-in-russia-even-after-reprogramming Může jít o reklamu, případně využití omylu (nezavřených dveří) k reklamě. Nebo se skutečně opakovaně snaží jít k východu, aniž by jeho programátoři věděli proč, jak tvrdí. Nepodařilo se mi rychle ověřit, jestli na ten TechCrunch dorazili, nebo ne. Pokud ne, tak to skutečně mohl být problém.
    Robot chce vyvraždit lidstvo – https://www.youtube.com/watch?v=W0_DPi0PmF0 Jasně, jsou to jen slova. Ale říká je bez pobízení (spíš navzdory pobízení, ať řekne ne). Otázka je, jak těžké by bylo přesvědčit AI bez dostatečných pojistek a se schopnostmi skutečně nějak ovlivnit okolí. A že budou schopné ovlivnit okolí, je jasné. Jeden oblíbený problém z blízké budoucnosti, na který zcela jistě dojde: jak budou samořídící auta řešit tramvajové dilemma?
    Všechny problémy by samozřejmě měly být řešitelné správným nastavením mantinelů algoritmu programátora. Ovšem ty mantinely musí být dokonalé, úplné a neprostupné, zcela vylučující alternativní, potenciálně nebezpečné řešení, které nikoho nenapadlo (a jsme zpátky u HALova řešení “Když všechny zabiju, nemůžou odhalit tajemství”). Pokud se tohle dodrží, je to v pořádku. A o to prostě jde, nastavit absolutní mantinely, zkusit vymyslet nečekaná řešení a vyřešit jejich dopady, než se stanou. Jinak řečeno to všechno včas zregulovat, než nastane velký problém. Tedy to, co chce Musk. Navíc obecná umělá inteligence nutně musí mít poměrně volnou ruku, aby mohla fungovat pro obecné řešení problémů. Pak samozřejmě záleží i na problémech, které se jí předloží k řešení. Pokud jí někdo předloží zadání “zabij všechny lidi”, nesmí ho poslechnout, což je třeba ošetřit. A ne všechna potenciálně problematická zadání budou takhle přímočará, a některá neproblematická zadání mohou mít problematická řešení.
    Jinak celkem jednoduchý způsob, jak zařídit poměrně značný problém, jsem nastínil v prvním příspěvku. Naučte samoučící program programovat (tedy jeho cílem je psát programy), což by nemuselo být těžké, a vypusťte ho na internet. Pokud navíc bude mít za úkol psát programy, co samy umí programovat, psaní programů se stane obdobou množení, a najednou máme co do činění s evolucí. Pár tisíc iterací a budeme mít na krku takový malware, až nám budou oči přecházet.

    Jsou dva typy hypotéz. 1) existuje to a to 2) všechno se chová tak a tak. První z principu nejde vyvrátit, druhá z principu nejde potvrdit. První lze pouze potvrdit (najít to a to), druhá lze pouze vyvrátit (najít něco, co se nechová tak a tak). Vaši permoníci na Marsu jsou hypotéza toho prvního typu. Nejdou vyvrátit, byť lze snižovat pravděpodobnost toho, že je to pravda, v tomto případě prohledáním středu Marsu, což se ovšem v současnosti v praxi nedá provést. Mimochodem opakujete starý argument, mj. z diskuze o Bohu https://en.wikipedia.org/wiki/Russell%27s_teapot Simulační hypotéza je spíš toho druhého druhu. Dostatečně dobrou simulaci nemůžete vyloučit. Pokud nebude dokonalá, můžete prokázat, že v simulaci jsme, ti fyzici, co jsem odkazoval minule, se snaží navrhnout, jak na to. Jinak vědecká metoda funguje tak, že uděláte nulovou hypotézu v opačném smyslu (tady “Nežijeme v simulaci”) a tu vyvracíte.
    Jinak já nevěřím, že žiju v Matrixu. Ani nevěřím, že v něm nežiju. Vzhledem k tomu, že nemám důkaz ani o jednom, se nekloním ani na jednu stranu, dokud ten důkaz mít nebudu. Jsem si vědom, že ta možnost existuje, a že pokud jsou výchozí předpoklady správné (trilemma na konci minulého příspěvku), je pravděpodobné, že jsme simulace. Pokud ne, těžko říct. Logickou chybu tom trilemmatu nevidím, musím ho tedy považovat za pravděpodobně správné. Ve výsledku nevím, jak to nakonec je. To je asi náš hlavní problém. Vy nemůžete vědět, že nejsme simulace, a přesto to tvrdíte. Pokud byste autoritativně tvrdil, že simulace jsme, budu se s vámi hádat, že možná nejsme. Ovšem, jak už jsem řekl, pokud platí to trilemma, tak pravděpodobnost stojí na straně toho, že simulace jsme. Ale ani pokud platí, ještě to neznamená, že zrovna my nejsme v tom (v extrémním případě i) jediném skutečném vesmíru, jakkoliv je to nepravděpodobné. (Ano, naznačuju, že může být více vesmírů. Ne, neříkám, že to tak je. Jen, že to být může. Analogická situace.) Absolutní tvrzení jste pronesl vy (“fakt nejsme v ničí simulaci. Doufám, že to myslel jako fór.”), důkaz je na vás.

    Goodman
    Host
    Goodman

    Neustále sklouzáváte z vědy do filozofie. Věda prodělala revoluci díky kritickému myšlení. Čili když něco tvrdíte, tak důkaz musíte přinést Vy. Když bych znova použil můj příklad s permoníky v jádru Marsu, tak sice je to nesmysl, ale definitně ho vyvrátit je těžké.Krom toho bych mohl přijít s další hypotézou, že třeba ty permoníci nežijí na Marsu, ale na Jupiteru. Takhle bych mohl pokračovat do nekonečna a Vy byste jenom hledal a složitě bádal, jak vyvracet nesmysle, které bych mohl plodit v obroském množtví za krátký časový interval. Čili je to lepší otočit. OK, tak tvrdíš že permoníci žijí na ve středu Marsu a jaký máš pro to důkaz? Já odpovím, že žádný, ale že by to tak mohlo být. A tím to končí. Že by něco mohlo být, neznaméná, že to tak je. Proto akceptovat něco za fakt bez důakzů je krokem zpět. Proto tvdím, že je Vaše představa, o simulaci vesmíru vědecky nepotvzená – tedy mylná.

    Vaše citace : Pokud byste autoritativně tvrdil, že simulace jsme, budu se s vámi hádat, že možná nejsme.

    Takže jinými slovy, vlastně jste vždycky v opozici. Z Vašich předchozích komentářů na jednu stranu tvrdíte, že všecho je možné, ale zároveň chcete mít 100% jistotu pravosti tvrzení. To se vzájemně vylučuje. Pak není možné dospět k závěru.

    Já jsem technik, čili pro mě jsou klíčová fakta a důkazy. O filozofii si tedy se mnou moc nepokecáte.

    Honza
    Host
    Honza

    A jsme u jádra věci. Něco tvrdíte Vy. Já tvrdím, že něco je pravděpodobnější, než něco jiného, což neznamená, že to tak skutečně je. Podle Vaší analogie, vy jste neřekl, že by tam ti permoníci mohli být, ale že tam určitě jsou (tedy konkrétně s naprostou jistotou, že nejsme simulace). Kdybyste řekl, že si MYSLÍTE, že nejsme simulace, a ideálně proč Vám to přijde nepravděpodobné, neřeknu ani slovo. Vy jste se projevoval, jako byste měl nezvratný důkaz, což jsem považoval za krajně nepravděpodobné. To, že je něco vědecky nepotvrzené, neznamená, že je to mylné. Jen to, že to (zatím) nejde rozhodnout. Podle Vaší logiky, já nemám důkaz, že jste muž. Tím pádem nemůžete být muž. Což je očividně špatný postup. Správný je, že když nemám důkaz, tak nemůžu rozhodnout. Mám jen něco, co podporuje hypotézu, že muž jste (píšete v mužském rodě, o kosmonautiku se zajímají spíše muži a podobně). Takže je pravděpodobné, že jste muž, ale nemůžu to říct s jistotou. V opozici proti Vám jsem proto, že pronášíte tvrzení s absolutní platností, místo abyste řekl, že to tak nejspíš bude, možná bude, může být s velkou (nebo třeba malou) pravděpodobností nebo něco podobného. Pokud něco pronášíte s absolutní jistotou, jak to Vy děláte, musíte pro to mít absolutní důkaz. Já to nedělám, i v normálním hovoru se tomu intenzivně snažím vyhýbat a uvádět míru jistoty toho, co říkám. A například se třeba taky snažím “počítat ruce” (tohle vím z první ruky, z druhé ruky, z třetí ruky,…).
    Jinak to, co jsem popisoval jsou naprosté základy metodologie vědy. Což teda asi technicky vzato spadá do filozofie, ovšem s takovým přesahem do vědy, že to prostě nejde odmávat prohlášením, že Vás zajímá věda a ne filozofie. Bez tohohle by se věda nerozvinula tam, kde dnes je.
    Já jsem vědec. Pro mě jsou taky důležitá fakta a důkazy. Ovšem naprosto zásadně důležité pro mě je vědět, že skoro nic není jisté, a jakou váhu mají alternativní vysvětlení. Přehlížet možnosti nebo je odepsat na první pohled je pro mě cesta k chybným závěrům a stahování článků.

    Martin B
    Host
    Martin B

    Nabídli mu Whisky, tak si dal skleničku. A potáhl si z cigaretz s trochou marihuany. Jednou. A v Kalifornii to je legální.

    Goodman
    Host
    Goodman

    Legální ano, morální ne. Už Elon plní média, na Bloombergu spekulují o jeho schopnosti dál vést Teslu. Možná je to jedno potažení, ale otevřeně a na veřejnosti se to opravdu nehodí. Naopak, mohl zabodovat tím, že by ten hnus odmítl. Je to stejně nešťastné jako jeho “pedofil”. Je to škoda, kazit si blbostma dobré jméno. Zejména v době, kdy má Tesla značné finanční problémy. Kdyby padla, tak nejenom, že by svět přišel o nejlepší automobilku (můj názor, elektromobily jsou cool), ale mohlo by to negativně poznamenat i Space X (a to bychom všichni neradi).

    Jiří Kouřil
    Host
    Jiří Kouřil

    Myslím, že ti, kteří ho napadají, v životě nic nedokázali, jsou to nuly s IQ tykve. Bohužel, je to velká část lidské rasy, které byly dány do rukou prostředky jako internet a smatphone a mají tak možnost vyjadřovat se k věcem, o kterých vůbec nic nevi, ani je nechápou, ani jim nerozumí. Ale jak říkal Voskovec a Werich, boj s lidskou blbostí se nedá vyhrát, ale musí se stále vést.

    qmox
    Host
    qmox

    Celkom fajn videt Elona v trosku dlshom formate ale mal som taky pocit ze mu to uplne nesedelo hlavne ked sa niekedy to skor vyzeralo ze viacej rozprava Joe Rogan ako Elon .
    Kazdopadne to fajcenie travy ci whisky bolo trochu odveci , ale tak toto bol podcast Joa Rogana a ten si vo vlastnom studiu moze robit co chce. Konieckoncov sam to produkuje , neni to Risk Factor alebo komentovanie UFC ze by sa potreboval niekomu zodpovedat.
    Dobra diskusia o AI , Boring company len skoda len ze nezabrdli do spacex ale tak asi ani Elon tam nesiel s tym ze bude robit nejake velke odhalenia. Snad si aspon oddychne v tom sense deprivation tanku ktory mu Joe ponukal , rozhodne podla toho ako odpovedal na niektore otazky to potrebuje.

    Goodman
    Host
    Goodman

    Jsem rád, že více lidem vadí kouření trávy a pití alkoholu ve sdělovacích prostředcích. Problém je, že lidé se prostě opičí v tom co vidí. Obrovské procento populace řeší problémy nebo jako relax od stresu v chlastu, nikotinu nebo trávě. Přitom alkohol a drogy jsou pouze velmi krátkodobým potlačitelem stresu. Naopak jsou násobitelem stresu. Řešit stres návykovou látkou je stejné, jako řešit nedostatek peněz hraním na výherním automatu. Proto je pro mě těžko stravitelné a naprosto nepochopitelné pozitivní vnímání společnosti např.marihuany. Ať si o islámských státech myslíme ladacos, tak v nulové toleranci všech drog mají naprostou pravdu.

    jbrezmorf
    Host
    jbrezmorf

    “nebude možné ji ovládat a problém také bude, že lidi ji téměř určitě použijí proti ostatním lidem.”
    … trochu protimluv, ne?