VerktygTools / Function Calling
Det som ger en agent händer: förmågan att läsa filer, söka på webben, anropa API:er och agera i världen istället för att bara prata om den.
Verktyg (tools) ger modellen förmågan att göra saker utöver att generera text. Utan verktyg är den en chatbot. Med verktyg är den en agent.
Hur det fungerar
- Verktygen beskrivs för modellen i systeminstruktionen (namn, parametrar, vad de gör)
- Modellen beslutar om och vilka verktyg den vill anropa
- Harnessen exekverar verktygsanropet och returnerar resultatet
- Modellen använder resultatet för att fortsätta resonera
Modellen kör alltså inte verktygen själv: den ber om att de ska köras. Harnessen beslutar om det tillåts via guardrails.
Vanliga verktygstyper
- Filsystem. Läsa, skriva, söka bland filer
- Kodexekvering. Köra script och kommandon
- Webbsökning. Söka information på webben
- API-anrop. Interagera med externa system
- Databasåtkomst. Läsa och skriva data
Atomära verktyg
En viktig designprincip: verktyg bör vara atomära: göra en sak, inte bunta ihop beslut. "Läs fil" är ett bra verktyg. "Analysera fil och skapa rapport" är för stort: det blandar resonemang (modellens jobb) med exekvering (verktygets jobb).
Fördjupning
- ai-agenternas-byggmaterial — Verktyg som ett av sex byggmaterial
- harness-design-principer — Harnessen styr vilka verktyg som laddas och när