TemperaturTemperature
Parametern som styr hur förutsägbar eller kreativ modellen är: låg temperatur ger konsistenta svar, hög temperatur ger variation.
Temperatur är en parameter som styr hur modellen väljer nästa token. Låg temperatur (nära 0) gör att modellen nästan alltid väljer det mest sannolika alternativet. Hög temperatur (nära 1) ökar variationen.
I praktiken
- Temperatur 0. Närmast deterministiskt. Bra för fakta, beräkningar, kodgenerering.
- Temperatur 0.5–0.7. Balans. Varierat språk men pålitlig logik.
- Temperatur 1.0. Mer kreativt, mer oförutsägbart. Bra för brainstorming.
Varför det spelar roll för agenter
Agenter som utför precisa uppgifter (beräkningar, datakontroll, filgenerering) körs typiskt med låg temperatur. Du vill ha samma svar varje gång.
Agenter som producerar text (sammanfattningar, rapporter, förslag) kan ha nytta av lite högre temperatur för att undvika mekaniskt upprepande språk.
Vanlig missuppfattning
Temperatur gör inte modellen "smartare" eller "dummare". Den påverkar bara hur den väljer bland sina alternativ, inte vilka alternativ som finns.