Ověřování a halucinace

Občas ti Claude s naprostou jistotou popíše funkci, která neexistuje. Nebo příkaz, který se jmenuje skoro správně. Nebo nastavení, které platilo před rokem.

Říká se tomu halucinace a je to vlastnost, ne porucha. Stojí za to rozumět tomu, kdy se objevuje.

Proč to vzniká

Model nevyhledává fakta v databázi. Odhaduje, co je nejpravděpodobnější pokračování textu. U věcí, které se v podkladech vyskytovaly tisíckrát, je odhad prakticky vždycky správný. U okrajových věcí je odhad pořád pravděpodobný, jen ne nutně pravdivý.

Tři situace s nejvyšším rizikem

1. Konkrétní jména a čísla

   Názvy funkcí, přesné parametry příkazů, čísla verzí, jména konfiguračních klíčů. Tohle je nejrizikovější kategorie vůbec.

2. Nedávné změny

   Cokoliv, co se změnilo nedávno. Model má znalosti k určitému datu a svět se pohnul dál. U rychle se měnících nástrojů – včetně samotného Claude Code – to platí dvojnásob.

3. Málo používané kombinace

   „Jak nastavit tuhle konkrétní knihovnu, aby fungovala s touhle konkrétní službou na tomhle konkrétním hostingu.“ Čím vzácnější kombinace, tím větší prostor pro odhad.

Jak to poznáš

Praktické signály, které fungují, i když tématu nerozumíš:

• Odpověď je podezřele hladká na něco, co jsi našel na internetu jen těžko.
• Claude uvádí přesný název, ale nedá se najít ve vyhledávači.
• Postup na první pokus nefunguje a chybová hláška říká „neznámý parametr“ nebo „nenalezeno“.
• Odpověď se liší při druhém zeptání v nové konverzaci.

To poslední je nejjednodušší test. Zeptej se stejně v novém vlákně. Když dostaneš jinou odpověď, aspoň jedna z nich je vymyšlená.

Co s tím dělat

1. Nech ho podívat se do dokumentace

   Claude Code umí číst webové stránky. Když jde o produkt nebo knihovnu, řekni mu, ať to ověří v oficiální dokumentaci, a dej mu odkaz.

2. Nech ho to spustit

   U příkazů a kódu je nejlepší kontrola prostě zkusit to. Když Claude Code může příkaz spustit, ať ho spustí. Realita je spolehlivější recenzent než jakákoliv úvaha.

3. Zeptej se na míru jistoty

   „U kterých částí téhle odpovědi si nejsi jistý a proč?“ Model dokáže docela slušně označit místa, kde odhadoval.

4. Ověř jméno, ne princip

   Vysvětlení principu bývá spolehlivé. Konkrétní název funkce spolehlivý není. Když ti Claude vysvětlí, jak funguje přesměrování, věř tomu. Když ti řekne přesný název parametru, ověř to.

Než mi odpovíš, podívej se do oficiální dokumentace na [ODKAZ]
a odpověz jen na základě toho, co tam skutečně je.

Když tam odpověď nenajdeš, napiš, že tam není. Nedomýšlej si to.
U každého konkrétního názvu nebo parametru mi napiš, kde přesně jsi
ho v dokumentaci našel.