Organizace OpenAI, kterou Elon Musk před rokem opustil, vyvinula efektivní nástroj pro tvorbu fake news

Elon Musk v roce 2015 spoluzaložil výzkumnou organizaci OpenAI, která si dává za cíl vyvinout bezpečnou a všeobecně prospěšnou umělou inteligenci. Loni v únoru však Musk organizaci opustil, přičemž uvedeným důvodem byl potenciální budoucí konflikt zájmů s jeho společností Tesla, která se také věnuje vývoji umělé inteligence pro systém Autopilot. Musk nyní vysvětlil, že to nebyla celá pravda. Důvodem totiž bylo také to, že Musk se musel loni soustředit především na obtížné problémy s výrobou Modelu 3 v Tesle. Dalším problémem pak bylo, že Tesla a OpenAI neustále soupeřily o stejné potenciální zaměstnance a Musk prý navíc nesouhlasil s některými věcmi, které tým v OpenAI chtěl dělat. „Ve výsledku tedy bylo lepší se rozejít v dobrém,“ shrnul na Twitteru Musk.

Elon Musk v roce 2016 se šéfem společnosti Nvidia, která OpenAI dodala speciální superpočítač pro umělou inteligenci (Foto: Nvidia)

O OpenAI se také aktuálně mluvilo kvůli jejich poslední vyvinuté technologii, jejíž potenciál organizaci tak znepokojil, že pro jistotu zatím zveřejnila jen část souvisejícího výzkumu. Ve zkratce jde o to, že OpenAI vytvořilo jazykový model GPT-2 s 1,5 miliardami parametrů, který byl následně vycvičen na 8 milionech webových stránek (40 GB textu). Výsledný model díky tomu nyní dokáže vygenerovat smysluplný text na základě krátkého vstupního textového řetězce.

Příkladem je třeba člověkem vložená věta „V Cincinnati byl dnes ukraden vagón s nukleárním materiálem. Neví se, kam se poděl.“ Na základě tohoto vstupu pak GPT-2 dokáže vygenerovat souvislý krátký novinový článek na toto téma, přičemž informace a citace v něm obsažené jsou zcela smyšlené, ale přitom výsledek lze jen velmi těžko rozeznat od textu vytvořeného člověkem.

Ukázka vygenerovaného textu modelem GPT-2 (Zdroj: OpenAI)

Podle OpenAI by tato technologie mohla najít uplatnění v překladech mezi jazyky, systémech rozpoznávání řeči nebo diktovacích asistentech poháněných umělou inteligencí. Jenže na druhou stranu si OpenAI také uvědomuje, že technologie je velice snadno zneužitelná pro vytváření lživých novinových článků nebo automatizaci tvorby spamu či falešného obsahu na sociálních sítích. Mimo jiné by takový nástroj značně zjednodušil a zlevnil vytváření politicky motivovaných dezinformačních kampaní (například s cílem ovlivnit výsledky voleb). Z toho důvodu OpenAI zatím zveřejnilo jen část výzkumu a dat týkajících se GPT-2 a za 6 měsíců situaci znovu přehodnotí.

Zdroj: OpenAI




  • Mohlo by se vám líbit...

    8
    Diskuze

    avatar
      Odebírat komentáře  
    nejnovější nejstarší nejlepší
    Nastavit upozorňování na
    Pepa
    Host
    Pepa

    A novinari nebudou mit co zrat 😔

    Kotlopou
    Host
    Kotlopou

    Upřímně, četl jsem to, co ta inteligence napsala o recyklování, a sice to gramaticky dávalo smysl, ale byl to jenom dlouhý blábol. Když pak někdo na Twitteru psal, že si teď není recyklováním jistý, spíš to vypovídalo o stupiditě lidské rasy než o hrozbě umělé inteligence.

    Tom
    Host
    Tom

    A co za 5,10,50 let?

    bohyn
    Host
    bohyn

    Tak u fake news jde o zahlcení informacemi, reálné informace pak snadno uniknou.

    otaznick
    Host
    otaznick

    Zrovna mi u toho hrála od Daft Punk skladba Rectifier (usměrňovač). Doporučuji.
    https://www.youtube.com/watch?v=SgkxlQyw03A

    Pokud klasická novinařina umožňovala kontrolovat mocné, tak ti nyní dostávají do rukou mocný nástroj k odvádění pozornosti. Kéž by si lidé přehlcení (dez)informacemi uvědomili uzamknutí v informační bublině a raději se angažovali v reálných problémech.

    Miro
    Host
    Miro

    Mě by zajímala spíše nějaká novinka o neuralinku, poslední dobou se o tom nikdo nezminuje.

    Aleš Beran
    Host
    Aleš Beran

    V jednom z letošních interview se Elon o Neuralinku zmínil, že se chystá nějaké průlomové oznámení. Víc o tom bylo v tomhle článku, zde na ElonX:
    https://www.elonx.cz/elon-musk-v-novem-rozhovoru-prozradil-ze-navrhl-nadzvukovy-elektricky-letoun-a-neuralink-brzy-oznami-prulom
    v komentářích pak byl odkaz na studii:
    https://www.reddit.com/r/Neuralink/comments/adc4ft/new_paper_w_neuralink_authors_vanessa_tolosa/?sort=confidence
    z které vyplývá, že dost možná vynalezli novou, šetrnější a odolnější metodu čtení mozkových vln, která by údajně neměla být tak invazivní jako je doposud používaná metoda. Uvidíme, co a kdy nakonec oznámí, zatím to jsou jen spekulace podložené tou studii.
    Jinak, pokud vás to hodně zajímá, doporučuji přečíst výživný článek o Neuralinku od Tima Urbana z waitbutwhy:
    https://waitbutwhy.com/2017/04/neuralink.html

    Snipsley
    Host
    Snipsley

    Clanky na Wait But Why pro me byly uvodem do sveta Elonovych spolecnosti, s lehkosti debunkuji polopravdy a uvadeji skutecnosti na pravou miru. Povinna cetba!