KontextfönsterContext Window
Allt en agent 'ser' vid ett givet tillfälle (instruktioner, fråga, verktyg, historik) måste rymmas i kontextfönstret. Det är arbetsytan, och den har en hård gräns.
Kontextfönstret är allt modellen ser vid ett givet tillfälle: systeminstruktioner, din fråga, verktygens beskrivningar, konversationshistorik, och inlästa filer. Allt packas ihop till en enda tokensekvens som skickas till modellen.
Storleken
Moderna modeller har stora fönster: Claude har 200 000 tokens (ca 150 000 ord). Men stort fönster betyder inte att man kan lasta in allt. Ju mer irrelevant information, desto svårare för modellen att hitta det viktiga.
Varför det är den viktigaste begränsningen
Kontextfönstret avgör:
- Hur mycket bakgrund agenten kan ha med sig
- Hur lång en arbetsession kan vara innan historiken måste sammanfattas
- Hur många verktyg som kan vara aktiva samtidigt
- Hur mycket av en fil som kan läsas in
Prompt enrichment
Det som skiljer en bra agent från en dålig är ofta hur effektivt kontextfönstret utnyttjas. Prompt enrichment innebär att harnessen automatiskt fyller fönstret med relevant kontext (projektinstruktioner, miljödata, verktygsdefinitioner) innan din fråga når modellen. 15 tokens input kan bli 20 000+ tokens kontext.
Kontextkompaktering
I långa sessioner fylls fönstret. Då aktiveras kompaktering: harnessen sammanfattar äldre delar av konversationen för att frigöra plats. Det sker automatiskt och är oftast omärkligt för användaren.
Fördjupning
- harness-design-principer — Harnessen hanterar kontextfönstret: kompaktering, prompt enrichment
- ai-agenternas-byggmaterial — Kontextfönstret som ett av sex byggmaterial