Large language model (LLM)

Hoe een LLM werkt, in het kort

Een LLM wordt getraind op grote hoeveelheden tekst om het meest waarschijnlijke volgende stuk tekst te voorspellen op basis van wat eraan voorafging. Door die training pikt het grammatica, feiten en redeneerpatronen op. Moderne modellen worden daarna instructie-getuned zodat ze verzoeken opvolgen in plaats van alleen tekst voort te zetten. Bekende families zijn Anthropic Claude, OpenAI GPT en Mistral.

Wat het wel en niet kan

• Wel: taal begrijpen en genereren, samenvatten, vertalen, over een verzoek redeneren, en, met tool-aanroepen, beslissen welke acties het neemt.
• Niet betrouwbaar: een database van exacte, actuele feiten zijn. Het kan zelfverzekerd maar fout antwoord geven (een hallucinatie), daarom verankeren bedrijfssystemen het in een kennisbank en gevalideerde tools.

LLM's in klantcontact

In klantcontact leest een LLM het bericht van de klant, haalt het juiste antwoord uit de kennisbank van het bedrijf, en kan tools aanroepen om iets op te zoeken of een taak af te ronden. Die verankering maakt van een algemeen model een accurate agent voor een specifiek bedrijf.