Beperk token-overhead van MCP-tooldefinities
Bijgewerkt: September 19, 2026
Het koppelen van een AI-agent aan meerdere Model Context Protocol (MCP) servers injecteert duizenden input-tokens bij elke interactieronde voordat het model ook maar één letter van de gebruikersprompt heeft verwerkt. Elk geregistreerd gereedschap voegt een JSON-schema toe met functienamen, parameterbeschrijvingen en typebeperkingen. In een zakelijke werkomgeving met 6 actieve MCP-servers (GitHub, Postgres, Slack, Jira, web search, bestandssysteem) verbruikt deze statische preamble 4.500 tot 12.000 input-tokens per API-aanroep. Bij een multi-turn taak van 30 interacties verspilt deze redundante overhead $0,35 tot $1,20 per sessie.
Drie architecturen om MCP-overhead te elimineren
- Prompt Caching breekpunten: Plaats statische MCP-tooldefinities vóór de dynamische conversatiehistorie in de prompt en stel een expliciet caching-breekpunt in direct na het tool-blok. Op modellen die prefix caching ondersteunen, verlaagt een cache-hit de kosten van het toolschema na de eerste beurt met 75% tot 90%.
- Dynamische tweetraps-toolregistratie: Vermijd het globaal injecteren van alle tools. Gebruik een lichtgewicht routeringsmodel om het benodigde domein te detecteren en laad dynamisch uitsluitend de relevante 3 tot 5 toolschema's in de actieve context van de agent.
- Schemacompressie en minificatie: Strip overbodige witruimte, elimineer markdown-uitleg binnen JSON Schema-strings en vervang langdradige tekstuele instructies door compacte typespecificaties. Dit halveert vaak het tokenverbruik zonder functieselectie te schaden.