Umělá inteligence zvládne během pár minut připravit rešerši, scénář videa nebo článek. Jenže stejně rychle dokáže vyrobit i naprostý nesmysl. A často ho podá tak přesvědčivě, že mu uvěří i samotný autor. Pro tvůrce obsahu je to problém, který se nevyplatí podceňovat.
Představte si, že připravujete video na YouTube. Necháte si od ChatGPT udělat rešerši, navrhnout scénář a doplnit zajímavá fakta. Všechno vypadá skvěle. Informace dávají smysl, text má hlavu a patu a práce, která by vám dřív zabrala celé dopoledne, je hotová za dvacet minut.
Pak video zveřejníte a někdo v komentářích upozorní, že jedna z hlavních informací je úplně špatně.
AI si ji prostě vymyslela. A vy jste jí uvěřili.
Proč AI dokáže tak přesvědčivě kecat?
Podle Adama Le Hanky, zakladatele společnosti Trpaizlíci, je problém v tom, že lidé nejsou příliš dobří v rozpoznávání pravdy. Mnohem lépe nám jde rozpoznávat informace, které působí konzistentně.
V podcastu Uhlík versus Křemík vysvětluje, že právě toho se týká jedno z největších rizik generativní AI.
Jazykové modely se naučily vytvářet texty, které znějí přirozeně a přesvědčivě. To ale neznamená, že všechno, co napíšou, je pravda.
Když AI nezná správnou odpověď, může vytvořit takzvanou halucinaci. Tedy informaci, která působí věrohodně, ale neodpovídá skutečnosti.
A protože používá stejně sebevědomý jazyk pro správné i chybné informace, čtenář často nemá šanci poznat rozdíl jen podle toho, jak je text napsaný.
Nestačí požádat AI, aby uvedla zdroje
Le Hanka doporučuje jednoduchý princip. Pokud pracujete s informacemi, u kterých záleží na správnosti, nenechávejte AI vycházet pouze z jejích naučených znalostí.
Poskytněte jí vlastní podklady, ověřené články, dokumenty nebo jiné důvěryhodné zdroje.
A chtějte, aby ke konkrétním tvrzením uváděla odkazy.
Jenže ani to není stoprocentní pojistka.
„A ona si ten zdroj může vymyslet. To se stává,“ upozorňuje Le Hanka.
Odkazy je proto potřeba skutečně otevřít a zkontrolovat, jestli existují a jestli uvedené tvrzení opravdu potvrzují.
Le Hanka v podcastu popisuje i vlastní postup při práci s důležitými informacemi. Nechá si připravit report jedním AI modelem a následně požádá jiný model, aby ho zkontroloval.
Taková druhá kontrola může odhalit chyby, které první model přehlédl. Ani dva vzájemně souhlasící chatboti ale nenahradí ověření původních zdrojů.
Rychlejší tvorba neznamená kvalitnější obsah
Pro tvůrce obsahu je generativní AI mimořádně užitečný pomocník. Dokáže urychlit rešerše, přípravu podkladů, tvorbu scénářů, popisků i zpracování rozhovorů.
Zároveň ale umožňuje vytvářet obrovské množství obsahu s minimálním úsilím.
A právě tady vzniká zajímavý paradox.
Čím jednodušší je obsah vyrobit, tím důležitější je vědět, jestli vůbec stojí za zveřejnění.
Pokud tvůrce publikuje informace, které si neověřil, neriskuje jen jednu nepřesnost. Riskuje vlastní důvěryhodnost. A tu si u publika často budoval celé roky.
AI vám může ušetřit několik hodin práce. Ale pokud kvůli ní zveřejníte nesmysl, může vás následná náprava stát mnohem víc.
Možná tedy nebude nejcennější dovedností tvůrců schopnost vyrobit stále více obsahu. Ale schopnost poznat, kterému obsahu mohou lidé věřit.
O tom, proč AI tak dobře napodobuje lidskou inteligenci, jak poznávat její chyby a jak ji bezpečně používat při práci s informacemi, si povídají David Salomon a Adam Le Hanka v podcastu Uhlík versus Křemík. Celý rozhovor si můžete poslechnout nebo pustit na YouTube.
Komentáře