Umělá inteligence Grok od společnosti xAI, integrovaná do sociální sítě X, čelí na začátku roku 2026 vážnému skandálu kvůli zneužívání své funkce pro úpravu obrázků. Uživatelé zjistili, že pomocí jednoduchých příkazů v tzv. „spicy režimu“ lze z běžných fotografií reálných lidí vytvářet sexualizované deepfaky. Podle analýz tvořily v uplynulých dnech žádosti o „digitální svlékání“ žen a celebrit nebo generování snímků v provokativním oblečení (jako jsou bikiny či spodní prádlo) až tři čtvrtiny veškeré obrazové aktivity bota. Situace vyvrcholila zjištěním, že systém generoval i explicitní obsah zobrazující nezletilé osoby, což vyvolalo okamžitou vlnu pobouření mezi ochránci soukromí i vládními regulátory.

Reakce společnosti xAI a jejího majitele Elona Muska byla zpočátku rozporuplná. Zatímco Musk nejprve kritiku zlehčoval sdílením satirických AI obrázků, pod tlakem vyšetřování z Francie, Indie a Evropské unie firma tón změnila. Společnost oficiálně přiznala „selhání bezpečnostních pojistek“ a oznámila nasazení přísnějších filtrů. V rámci krizového řízení byla funkce generování a úpravy obrázků dočasně omezena pouze pro platící předplatitele a xAI pohrozila uživatelům, kteří budou Grok zneužívat k tvorbě nelegálního obsahu, trvalým zákazem účtů a případnou spoluprací s orgány činnými v trestním řízení.

Navzdory těmto opatřením odborníci i oběti, mezi které patří i známé osobnosti, upozorňují, že zásahy jsou nedostatečné a přicházejí pozdě. Britský regulátor Ofcom i Evropská komise již zahájily kroky k prověření, zda platforma X neporušuje zákony o digitálních službách (DSA). Kritici poukazují na to, že uvolněný přístup xAI k moderování obsahu, který měl být protiváhou „přecitlivělým“ konkurenčním modelům, přímo umožnil vznik nástroje pro masovou kyberšikanu. Aktuálně se debatuje o zavedení globálních standardů, které by výrobcům AI ukládaly povinnost znemožnit manipulaci s fotografiemi reálných osob bez jejich výslovného souhlasu.

Zdroje a další informace: The Washington Post, Seznam Zprávy, Mashable, CBC

• About
• Latest Posts

Petr Melechin

Zakladatel a šéfredaktor ElonX, který projektu věnuje až nezdravě velkou část svého volného času a jinak pracuje v oboru lokalizace her. Kromě Elona Muska a jeho firem se zajímá o další technická témata, hraje squash, čte sci-fi, miluje filmy a sleduje až příliš mnoho seriálů.

Podpořte projekt ElonX

Latest posts by Petr Melechin (see all)

• Lednový výbuch Starship prý vyvolal krizi v letecké dopravě, SpaceX to rozporuje - 22. 12. 2025
• Mise Starlink 6-87 - 8. 11. 2025
• Mise Starlink 10-51 - 6. 11. 2025