Az LLM működése

Hogyan olvasd?

1. A mondatfa (jobbra, telefonon alul): balról jobbra olvasd. Minden oszlop egy következő szó; az ág magassága azt mutatja, milyen gyakran választotta a modell azt a folytatást. Vidd fölé a mutatót, vagy koppints egy szóra.
2. A szemantikus tér (balra, telefonon felül): a hasonló jelentésű mondatrészek egymás közelébe kerülnek. Húzd a forgatáshoz, csippents vagy görgess a nagyításhoz. A kiválasztott ág itt is kiemelkedik.
3. Más kezdőmondat: a ? gombbal nyílik a súgó, ott választhatsz másik kezdést (például „Az ERP” vagy „A ChatGPT”), és válthatsz magyar és angol nyelv között.

Mit tanulsz belőle agentépítéshez?

Ugyanarra a kérdésre a modell nem mindig ugyanazt válaszolja: a folytatás valószínűségi. Ezért kell az agentnek guardrail, mérés és emberi kontrollpont ott, ahol a válasz következménnyel jár — és ezért elég determinisztikus szabály ott, ahol nincs szükség értelmezésre.