YouTube zrušil síť, kde placení herci četli AI scénáře před kamerou

Značky platí influencerům za dosah v přesvědčení, že za profilem stojí skutečný, dohledatelný člověk. Reálná tvář má fungovat jako záruka autenticity, kterou samotná AI zatím neumí předstírat. Případ z YouTube tenhle předpoklad obrací. Reálná tvář se tam stala mezerou v obraně platformy.

YouTube zrušil 20 kanálů, třináct jmenovaných v reportáži a sedm souvisejících, které vydávaly politický obsah útočící na demokratické politiky. Kanály vypadaly jako nezávislí tvůrci zpravodajského komentáře. Ve skutečnosti šlo o síť takzvaných ghost creators, kde persony hrály placení herci a scénáře psala AI.

Reálná tvář před AI pipeline

Odhalení popsal 2. září server Semafor, kde reportáž napsal Max Tani s Graphem Massarou. Nezávislou analýzu sítě dělala výzkumná firma Riddance AI. Operace používala AI scénáře, miniatury, headshoty i weby, ale na kameru dávala reálné placené herce.

Tenhle hybridní postup obešel detektory syntetického obsahu. Platformy hledají generované video, ne skutečného člověka čtoucího scénář. Riddance to v reportu shrnuje na místě, kde plná automatizace naráží. „The weakest link is often the AI-generated videos themselves. Compelling direct-to-camera delivery is still difficult for AI video generation models,“ uvádí analýza. Lidská tvář zaplňuje přesně tu mezeru, kterou AI video zatím neutáhne.

Gig herci před kamerou, AI scénáře na pozadí

Herci dostávali 26 dolarů za jedno video přes gig platformy Backstage a Fiverr, s 24hodinovou lhůtou na natočení. Jeden inzerát na Backstage hledal „long-term African American male hosts to record news commentary scripts“. Za produkcí stála firma Virelox. Herec Frank George řekl Semaforu, že byl placen přes brokera jménem „Casgains“ a zdroj financování neznal.

Podle reportu Riddance síť do poloviny srpna nasbírala přes 45 milionů zhlédnutí a přes 90 000 komentářů. Jednotlivé persony přitom táhly stovky tisíc diváků na video. Podle Semaforu mělo jedno video persony „William“ 474 000 zhlédnutí, videa person „Omar“ a „Julian“ po 250 000. Riddance vedle toho eviduje další miliony zhlédnutí na TikToku.

Spam, ne nepravda

YouTube kanály zrušil až poté, co Semafor a Riddance zveřejnili zjištění. Ve vyjádření pro Semafor platforma uvedla, že má „strict policies against spam and deceptive practices“, a kanály zrušila za spam a klamavé praktiky. Nešlo o postih za nepravdivost obsahu. Vymáhalo se pravidlo o objemu a autenticitě účtu, ne o přesnosti sdělení.

Riddance míří na hlubší příčinu. „If an ideologically agnostic YouTube automation hustler decides that the best way to make money on YouTube is by pushing inflammatory content about a single political party, that points to something structurally wrong with YouTube's engagement algorithm,“ píše firma v reportu. Financování mířilo na jednu politickou stranu, ale samotný model odměňuje cokoli, co drží pozornost.

Detekce AI videa na hybridní obsah nestačí

Případ posouvá otázku autenticity o úroveň výš. Dosud platilo, že uměle vytvořený obsah se pozná podle vygenerovaného obličeje nebo hlasu. Reálný herec před kamerou tuhle zkratku ruší. Detekce generovaného videa nestačí, když je tvář skutečná a scénář strojový.

Pro trh, který nakupuje influencer dosah, to není jen americká politická epizoda. Evropský inzerent, který si objednává tvůrce podle zhlédnutí a komentářů, řeší stejnou vrstvu důvěry. Číslo zhlédnutí nevypovídá o tom, kdo obsah zadal ani proč vznikl. A regulace míří jinam, než kam ukázal tenhle případ. Evropský AI Act v Article 50 zavádí povinnost označovat syntetický obsah, jenže operace s reálným hercem před kamerou spadá mimo definici umělého výstupu. Zásah YouTube přišel přes pravidla o spamu. Nástroj, který na tuhle hybridní formu obsahu míří přímo, zatím chybí.