Elonovinky #175: První dojmy ze samořídicího softwaru Tesly jsou pozitivní, ale stále dělá nebezpečné chyby
Elonovinky jsou pravidelným videopořadem, na kterém web ElonX spolupracuje s Živě a Mall.TV. Každý týden informuje o podnikateli Elonu Muskovi a jeho mnoha projektech – především o SpaceX a Tesle, ale také o The Boring Company, Neuralinku, OpenAI nebo hyperloopu.
Tesla po mnoha odkladech vydala novou verzi softwaru FSD Beta, který umožňuje testování Autopilotu schopného jízdy v podstatě ve všech situacích. Systém nově řídí pouze podle videa z kamer a už nijak nevyužívá informace z čelního radaru. První testy tohoto zatím nejpokročilejšího Autopilotu jsou převážně pozitivní, ale odhalily také závažné nedostatky, kdy systém jako by vůbec neviděl některé překážky.
Předchozí epizody Elonovinek:
- #174: Nová přistávací plošina A Shortfall of Gravitas je poprvé plně autonomní
- #173: Tunel Boring Company ve Vegas je otevřen. Co bude dál? Firma zvažuje větší tunely
- #172: SpaceX připravuje první orbitální start Starship a možná také hypersonický test
- #171: Nejproduktivnější půlrok v historii SpaceX
- #170: Začal prodej Tesly Model S Plaid, je nejrychlejším sériově vyráběným automobilem na světě
- #169: První fáze Starlinku je hotová, SpaceX se připravuje na polární mise
- #168: Tesla v závodu o autonomii sází všechno na kamery, její nová auta ani nemají radar
- #167: Elon Musk si oblíbil Texas, vesničku Boca Chica přejmenoval na Starbase
- #166: SpaceX odhalilo přesný plán první orbitální mise Starship s raketou Super Heavy
- #165: Starship poprvé úspěšně přistála a možná poletí znovu
Starší epizody najdete zde.
Zakladatel a šéfredaktor ElonX, který projektu věnuje až nezdravě velkou část svého volného času a jinak pracuje v oboru lokalizace her. Kromě Elona Muska a jeho firem se zajímá o další technická témata, hraje squash, čte sci-fi, miluje filmy a sleduje až příliš mnoho seriálů.
Podpořte projekt ElonX
Podpořte projekt ElonX
Latest posts by Petr Melechin (see all)
- Elonovinky #176: Prototyp Super Heavy B3 absolvoval úspěšný statický zážeh - 27. 7. 2021
- Obří raketa Super Heavy poprvé zažehla motory, orbitální start s vylepšenou Starship je opět o krok blíže - 24. 7. 2021
- Elonovinky #175: První dojmy ze samořídicího softwaru Tesly jsou pozitivní, ale stále dělá nebezpečné chyby - 21. 7. 2021
Ten titulek zni jako typicky professional speech — “První dojmy ze samořídicího softwaru Tesly jsou pozitivní, ale stále dělá nebezpečné chyby” = “Porad je to kram a jeste dlouho to kram bude, mozna naporad, ale nemuzeme to rict na plnou hubu, tak to nejak obalime nicnerikajici slovni vatou”.
Hlavní problém autonomního řízení vidím ve snaze softwaru vyhnout se překážce i v situacích, kdy by rozumný řidič zastavil. Jenže systém nepozná situaci kdy i v tomto případě má zastavit …. např. feťák nebo zatoulaný dezorientovaný pes, který i při vyhýbání může skočit pod kola. Živý řidič to pozná a pokud má rozum zastaví, když neví co má čekat. Samozřejmě už to nemusí platit – viděl jsem pár videí, kde to testovali fanoušci a auto objíždělo člověka, který se vyloženě po cestě “plantal”. Auto se snaží překážku objet i před ostrou zatáčkou. Ale asi nebude takový problém vydat úpravu, aby takový pohyb software vyhodnotil jako riziko a zároveň se doplnil soubor podmínek, aby nedocházelo k “začátečnickým chybám”. Z pohledu řidiče mi to připadá jako by ten software dělal někdo, kdo autem vůbec nejezdí nebo velmi málo. Nebo věřili, že hardware je o tolik lepší než lidské smysly, že AI v autě může kálet na základní poučky z autoškoly 🙂 Uvedené chyby dělají lidi, ale nemělo by je dělat něco co je má nahradit a řádově snížit nehodovost.
Co sem videa z beta FSD, tak autopilot napred zpomali/zastavi a az pak se pokusi chodce objet. I motani chodce, nebo nahle skoceni do vozovky vedlo k zastaveni/zpomaleni.
To je možné je to už dlouhá doba a vše se mohlo změnit. Zpomalit a uhnout je nicméně u nepředvídatelné překážky stále riziko. Stejně jako udělat to naslepo před zatáčkou.
Nevim nevim. Dle meho nazoru je opusteni radaru chyba. Je to videt na tech zidkach a blocich, ktere maji stejnou barvu jako silnice a kamery to (zatim?) nejsou schopny rozlisit :-/
Radar je ve skutečnosti mizerný v rozlišování stojících objektů.
To ano, na druhou stranu je levný, detekuje brždění několik aut dopředu, funguje i za špatné viditelnosti a v noci. Prostě je to další senzor, který pracuje mimo viditelné spektrum, takže slouží minimálně jako záloha. Sám Elon odmítl použití lidaru, protože pracuje ve stejném spektru jako kamery, je tedy duplicitní a obhajoval použití radaru. Bohužel asi ten problém s fantomovým brzdění i pevných překážek nezasahujících do cesty vozidlu se nepodařilo odladit.
Je levný, ale moc ti toho neřekne.
Asi jako dlouhá slepecká hůl … je to fajn věc když nevidíš a alespoň něco nahrubo se dozvíš… ale pokud obstojně vidíš, tak ti skoro nic zajímavého navíc neřekne, a spíš hrozí že o ní zakopneš nebo někoho praštíš.
je super, že autopilot prešiel na videnie cez kamery (v jednej prezentácií to prirovnávali, že aj človek vidí len očami ked šoféruje a nepotrebuje LIDAR senzory). Nerozumiem však, prečo sa teraz využívajú LEN kamery.. prečo autopilot nevyužíva súbežne kamery a aj informácie z radarov/senzorov..??
Protože radaru nelze stoprocentně věřit a někdy vidí překážky tam, kde žádné nejsou. Zároveň ale nejde snadno rozeznat správnou informaci z radaru od té mylné, což má za následek buď brždění v situacích, kdy před autem není překážka, nebo nutnost někdy ignorovat potenciálně legitimní překážky. Takže místo toho, aby se systém snažil zjistit, jestli má v případě rozporu věřit spíš radaru nebo kameře, Tesla došla k závěru, že bude lepší vsadit vše na kamery, které mají mnohem vyšší rozlišovací schopnost než radar, a postupně se naučit analyzovat obraz tak dobře, že k chybné detekci překážek téměř nebude docházet. Jinak ultrazvukové senzory jsou stále využívány, protože kamery nevidí těsné okolí vozu, takže bez nich by docházelo ke škrtání o obrubníky apod.
Přesně tak to vedlo i k situaci, kdy radar objekt viděl, ale kamery ne a Tesla se rozhodla detekci z radaru ignorovat kvůli nízké spolehlivosti.
Viz případ z ledna letošního roku. Tesla ještě se starším systémem na dálnici narazila do zadní části jiného auta. Problém bylo, že zmíněné auto se jenom velmi pomalu napojilo na dálniční provoz z vedlejší silnice bez připojovacího pruhu – v noci na neosvětleném úseku. Tesla měla jenom potkávací světla kvůli silnému provozu z protisměru. To druhé auto bylo černé a ještě mu nefungovaly světla na levé straně. Autopilot identifikoval auto pozdě (ani se mu nevidím, nešlo skoro vidět) a už nestihlo dobrzdit. Radar překážku viděl, ale Tesla ji ignorovala. Ale člověk by nejspíše dopadl stejně.
Takže pokud by měli lidar, nic by se nestalo?
Možná by se nic nestalo jim.
Radar se už nebude používat? Proč?
Viz diskuzi výše.