Organizace OpenAI, kterou Elon Musk před rokem opustil, vyvinula efektivní nástroj pro tvorbu fake news

Elon Musk v roce 2015 spoluzaložil výzkumnou organizaci OpenAI, která si dává za cíl vyvinout bezpečnou a všeobecně prospěšnou umělou inteligenci. Loni v únoru však Musk organizaci opustil, přičemž uvedeným důvodem byl potenciální budoucí konflikt zájmů s jeho společností Tesla, která se také věnuje vývoji umělé inteligence pro systém Autopilot. Musk nyní vysvětlil, že to nebyla celá pravda. Důvodem totiž bylo také to, že Musk se musel loni soustředit především na obtížné problémy s výrobou Modelu 3 v Tesle. Dalším problémem pak bylo, že Tesla a OpenAI neustále soupeřily o stejné potenciální zaměstnance a Musk prý navíc nesouhlasil s některými věcmi, které tým v OpenAI chtěl dělat. „Ve výsledku tedy bylo lepší se rozejít v dobrém,“ shrnul na Twitteru Musk.

Elon Musk v roce 2016 se šéfem společnosti Nvidia, která OpenAI dodala speciální superpočítač pro umělou inteligenci (Foto: Nvidia)

O OpenAI se také aktuálně mluvilo kvůli jejich poslední vyvinuté technologii, jejíž potenciál organizaci tak znepokojil, že pro jistotu zatím zveřejnila jen část souvisejícího výzkumu. Ve zkratce jde o to, že OpenAI vytvořilo jazykový model GPT-2 s 1,5 miliardami parametrů, který byl následně vycvičen na 8 milionech webových stránek (40 GB textu). Výsledný model díky tomu nyní dokáže vygenerovat smysluplný text na základě krátkého vstupního textového řetězce.

Příkladem je třeba člověkem vložená věta „V Cincinnati byl dnes ukraden vagón s nukleárním materiálem. Neví se, kam se poděl.“ Na základě tohoto vstupu pak GPT-2 dokáže vygenerovat souvislý krátký novinový článek na toto téma, přičemž informace a citace v něm obsažené jsou zcela smyšlené, ale přitom výsledek lze jen velmi těžko rozeznat od textu vytvořeného člověkem.

Ukázka vygenerovaného textu modelem GPT-2 (Zdroj: OpenAI)

Podle OpenAI by tato technologie mohla najít uplatnění v překladech mezi jazyky, systémech rozpoznávání řeči nebo diktovacích asistentech poháněných umělou inteligencí. Jenže na druhou stranu si OpenAI také uvědomuje, že technologie je velice snadno zneužitelná pro vytváření lživých novinových článků nebo automatizaci tvorby spamu či falešného obsahu na sociálních sítích. Mimo jiné by takový nástroj značně zjednodušil a zlevnil vytváření politicky motivovaných dezinformačních kampaní (například s cílem ovlivnit výsledky voleb). Z toho důvodu OpenAI zatím zveřejnilo jen část výzkumu a dat týkajících se GPT-2 a za 6 měsíců situaci znovu přehodnotí.

Zdroj: OpenAI

Petr Melechin

Zakladatel a šéfredaktor ElonX, který jinak pracuje v oboru lokalizace her a ElonX věnuje až nezdravě velkou část svého volného času. Kromě Elona Muska a jeho firem se zajímá o další technická témata, hraje squash, čte sci-fi, miluje filmy a sleduje až příliš mnoho seriálů.

Podpořte projekt ElonX



Mohlo by se vám líbit...

8
Diskuze

avatar
  Odebírat komentáře  
nejnovější nejstarší nejlepší
Nastavit upozorňování na
Pepa
Host
Pepa

A novinari nebudou mit co zrat 😔

Kotlopou
Host
Kotlopou

Upřímně, četl jsem to, co ta inteligence napsala o recyklování, a sice to gramaticky dávalo smysl, ale byl to jenom dlouhý blábol. Když pak někdo na Twitteru psal, že si teď není recyklováním jistý, spíš to vypovídalo o stupiditě lidské rasy než o hrozbě umělé inteligence.

Tom
Host
Tom

A co za 5,10,50 let?

bohyn
Host
bohyn

Tak u fake news jde o zahlcení informacemi, reálné informace pak snadno uniknou.

otaznick
Host
otaznick

Zrovna mi u toho hrála od Daft Punk skladba Rectifier (usměrňovač). Doporučuji.
https://www.youtube.com/watch?v=SgkxlQyw03A

Pokud klasická novinařina umožňovala kontrolovat mocné, tak ti nyní dostávají do rukou mocný nástroj k odvádění pozornosti. Kéž by si lidé přehlcení (dez)informacemi uvědomili uzamknutí v informační bublině a raději se angažovali v reálných problémech.

Miro
Host
Miro

Mě by zajímala spíše nějaká novinka o neuralinku, poslední dobou se o tom nikdo nezminuje.

Aleš Beran
Host
Aleš Beran

V jednom z letošních interview se Elon o Neuralinku zmínil, že se chystá nějaké průlomové oznámení. Víc o tom bylo v tomhle článku, zde na ElonX:
https://www.elonx.cz/elon-musk-v-novem-rozhovoru-prozradil-ze-navrhl-nadzvukovy-elektricky-letoun-a-neuralink-brzy-oznami-prulom
v komentářích pak byl odkaz na studii:
https://www.reddit.com/r/Neuralink/comments/adc4ft/new_paper_w_neuralink_authors_vanessa_tolosa/?sort=confidence
z které vyplývá, že dost možná vynalezli novou, šetrnější a odolnější metodu čtení mozkových vln, která by údajně neměla být tak invazivní jako je doposud používaná metoda. Uvidíme, co a kdy nakonec oznámí, zatím to jsou jen spekulace podložené tou studii.
Jinak, pokud vás to hodně zajímá, doporučuji přečíst výživný článek o Neuralinku od Tima Urbana z waitbutwhy:
https://waitbutwhy.com/2017/04/neuralink.html

Snipsley
Host
Snipsley

Clanky na Wait But Why pro me byly uvodem do sveta Elonovych spolecnosti, s lehkosti debunkuji polopravdy a uvadeji skutecnosti na pravou miru. Povinna cetba!