Jak ověřovat odpovědi od AI bez zbytečné námahy

Llama píše plynulé a sebejisté odpovědi bez ohledu na to, zda má pravdu, nebo ne. Většinou je celkový obrázek v pořádku; problém se skrývá v detailech: datum posunuté o rok, citát, který nikdo nikdy neřekl, změněný předpis nebo kniha, jež vůbec neexistuje. Nemusíte ověřovat všechno. Potřebujete rychlý způsob, jak se rozhodnout, co zkontrolovat a jak na to. Tady je.

Zjistěte, kde se chyby objevují nejčastěji

Některé typy obsahu selhávají mnohem častěji než jiné. K těmto přistupujte s pravidlem „před použitím ověřit“:

• Přesná čísla: statistiky, ceny, rozměry, procenta.
• Data a chronologie událostí.
• Citáty připisované skutečným lidem.
• Citace a zdroje: knihy, odborné práce, články, čísla stránek, odkazy. Modely si často vymýšlejí reference, které vypadají naprosto věrohodně.
• Cokoli aktuálního. Podle oficiální dokumentace Meta končí trénovací data modelu Llama 4 v srpnu 2024 a modelů Llama 3.x v prosinci 2023. Náš chat neumí procházet web, takže novější události, ceny, zákony ani verze softwaru nezná.
• Méně známá fakta: malá města, méně slavné osobnosti, lokální vyhlášky.
• Specifika v oblasti zdraví, práva a financí, kde chyba nadělá největší škody.

Obecná vysvětlení dobře zdokumentovaných témat, jako je fungování fotosyntézy nebo podstata hypotéky, bývají spolehlivější, i když ani zde není záruka stoprocentní.

Pětistupňový postup

1. Zvažte, o co jde. Báseň k narozeninám kontrolu nepotřebuje. Číslo do oficiální zprávy, dotaz na léky nebo právní lhůta ano. Věnujte ověřování úsilí úměrné důležitosti.
2. Vytáhněte jednotlivá tvrzení. Požádejte Llama, aby vám je vypsala (prompt níže). Seznam se ověřuje mnohem snáze než souvislý odstavec.
3. Porovnejte každé tvrzení s primárním zdrojem: oficiálním webem, původní studií, samotným zněním zákona, dokumentací firmy. Odpověď od jiné AI není zdroj.
4. Zkontrolujte datum. Je váš zdroj aktuální? Mohlo se něco změnit po datu uzávěrky trénovacích dat modelu?
5. Opravte, nebo smažte. Co je špatně, opravte. Pokud tvrzení nemůžete potvrdit, odstraňte ho nebo označte jako neověřené.

Projdi svou poslední odpověď. Vytáhni z ní každé faktické tvrzení
(jména, data, čísla, citáty, pravidla) a vlož je do tabulky o třech
sloupcích: samotné tvrzení, jak moc si jím jsi jistý (jistý / poměrně
jistý / odhad) a kde si to mohu ověřit. Nepřidávej nic nového.

Vlastní odhad jistoty ze strany modelu berte jen jako vodítko – mýlit se totiž dokáže i s naprostým sebevědomím. Pomůže vám však určit, kde začít. Otevřete prompt pro tabulku faktů v chatu po jakékoli odpovědi, kterou potřebujete ověřit.

Ptejte se způsobem, který usnadňuje kontrolu

Slabé:
Jaká jsou pravidla pro krátkodobý pronájem bytu?

Silné:
Uveď obecný přehled oblastí, kterých se pravidla pro krátkodobé
pronájmy obvykle týkají (registrace, daně, domovní řád, pojištění).
Neuváděj konkrétní zákony ani částky pro mé město; místo toho mi napiš,
které oficiální úřady nebo dokumenty bych si měl prověřit a na co se jich
zeptat. Bydlím v [stát / město].

Silná verze využívá přesně to, v čem Llama vyniká (struktura, vysvětlení, přehledy), a u detailů, které se liší místo od místa a rok od roku, vás odkáže na autoritativní zdroje.

Další užitečné návyky:

• Dodejte zdroj sami. Vložte do chatu článek, smlouvu nebo dokumentaci a napište: „Odpovídej pouze z tohoto textu a ocituj větu, ze které vycházíš.“ Pak stačí každou citaci porovnat s originálem.
• Vyzvěte k přiznání nejistoty. Pokyn „Pokud to nevíš, řekni to“ zvyšuje šanci na upřímné „Tímto si nejsem jistý“.
• Oddělte fakta od názorů. „Označ, které části jsou ověřená fakta a které jsou interpretace.“

Jak ověřovat citace a citáty

Pokud odpověď zmiňuje knihu, studii nebo článek, vyhledejte ji podle přesného názvu v knihovním katalogu, odborném vyhledávači nebo na webu vydavatele. Pokud titul nenajdete, předpokládejte, že neexistuje. Pokud existuje, otevřete jej a ujistěte se, že skutečně tvrdí to, co AI uvádí – i reálnou studii totiž model může popsat nepřesně. U citátů dohledejte původní projev, rozhovor nebo text; internetové sbírky citátů jsou rovněž plné mylných přisouzení.

Při psaní školních prací nebo jakéhokoli publikovaného textu nikdy necitujte zdroj, který jste sami nečetli.

Lepší přístup k práci se zdroji přes Llama je opačný: najděte si zdroje sami, zkopírujte relevantní pasáže a požádejte Llama o jejich porovnání, vysvětlení nebo shrnutí.

Níže jsou dvě pasáže z různých zpráv na stejné téma. V čem se shodují, v čem se rozcházejí a která tvrzení v každé z nich bych měl dále ověřit? Cituj přesné věty. Pasáž A: [vložit] Pasáž B: [vložit]

Jelikož každé tvrzení v odpovědi vychází z vámi dodaného textu, ověření zabere pár minut místo celého odpoledne.

Kontrola toho, co Llama vyčte z obrázků

Llama 4 Maverick a Llama 4 Scout umí číst fotografie a snímky obrazovky, ale drobné písmo, rukopis, špatné osvětlení a nepřehledné grafy nahrávají chybám. Když model z obrázku vytahuje čísla nebo text, porovnejte několik hodnot s předlohou na vlastní oči. Požádejte jej: „Všechno, čím si nejsi jistý, označ symbolem (?)“, aby pochybné údaje hned vystoupily na povrch.

Varovné signály v odpovědi

• Až příliš přesná čísla bez uvedeného zdroje.
• Citát, který zní pro danou osobnost až podezřele uhlazeně.
• Konkrétní čísla paragrafů, lhůty nebo částky ze zákonů vaší země.
• Reference s dokonalými detaily, které však nelze nikde dohledat.
• Tvrzení o „nejnovější“ verzi, ceně nebo události. Pojem „nejnovější“ je pro model zmrazený k datu jeho trénovací uzávěrky.
• Fakta, která se mění při přegenerování. U důležitých otázek vygenerujte odpověď znovu; pokud se detaily mezi verzemi liší, považujte všechny za neověřené.

Kde ověřovat

Náš nástroj pro shrnutí textu vám pomůže projít dlouhé podklady rychleji: nechte si oficiální dokument shrnout a v originále si pak přečtěte jen podstatné pasáže. Abyste lépe pochopili, proč chyby vůbec vznikají, přečtěte si, jak fungují velké jazykové modely. Zásady bezpečného zacházení s citlivými tématy najdete v článku soukromí a bezpečnost při práci s AI.

Často kladené otázky

Jak často se Llama mýlí?

Jednoznačné číslo neexistuje. Záleží na tématu, zvoleném modelu, formulaci dotazu a na tom, zda dodáte vlastní podklady. Dokud si konkrétní fakt neověříte, raději předpokládejte, že může být nepřesný.

Je větší model přesnější?

Větší modely obvykle znají více faktů, chyby však dělá každý z nich a žádný neví o událostech po své trénovací uzávěrce. Ověřování je nutné u všech čtyř modelů v našem chatu. Porovnání odpovědí z modelů Llama 4 Maverick a Llama 3.3 70B vám může napovědět, na co se zaměřit, ale ani vzájemná shoda není důkazem správnosti.

Dokáže Llama zkontrolovat webovou stránku za mě?

Ne. Odkazy otevírat neumí. Zkopírujte příslušný text do chatu a ptejte se přímo na něj.

Musím ověřovat i odpovědi týkající se obrázků?

Ano. Když Llama 4 popisuje fotku nebo čte text ze snímku obrazovky, může přehlédnout drobné detaily nebo neostrá místa pouze odhadnout. Než se na výstup spolehnete, porovnejte klíčové hodnoty s obrázkem sami.

Proč se model omluvil a změnil správnou odpověď?

Chatovací modely jsou laděny tak, aby vycházely uživateli vstříc. Jakékoli zpochybnění je tak může přimět ustoupit, i když měly původně pravdu. Skutečným testem správnosti jsou proto vždy externí zdroje, nikoli to, jak model hodnotí sám sebe.