Onze API-kosten lopen op door dezelfde context elke keer
Bij agents en chatbots stuur je vaak dezelfde grote system-prompt mee. Prompt caching laat de provider dat herkennen en het is fors goedkoper.
support/ai-op-het-werk/prompt-caching-besparingstappen: 4
Probeer dit eerst zelf
- Zet stabiele content vooraan in je prompt, variabele content achteraan
- Activeer caching volgens de docs van je provider
- Meet de kostendaling met en zonder cache, niet aannemen
- Houd cache-keys schoon, vervuilde context belandt anders bij iedereen
Wanneer ons inschakelen
Voor zwaar productiegebruik, herontwerpen we de prompt-architectuur.
Zie ook
- Mag ik een klantbestand of mail in ChatGPT plakken?Hangt af van het account en de instellingen. Een gratis ChatGPT en een Team-tenant gedragen zich anders dan veel mensen denken.
- Ik wil één pagina AI-beleid voor mijn teamEen echte one-pager werkt beter dan een dik document dat niemand leest. Vier kopjes en concrete voorbeelden.
- Hoe weet ik of een AI-antwoord verzonnen is?Modellen klinken zelfverzekerd, ook als ze fout zijn. Een paar vaste checks vangen de meeste fouten af.
Past het bovenstaande niet?
Beschrijf je situatie hieronder. We sturen jouw input plus de stappen die je al zag naar onze AI en geven gericht vervolg-advies. Als het te risicovol is om zelf te doen, zeggen we dat ook.
Of doe het helemaal niet zelf
Onze Managed IT-klanten zoeken dit soort vragen niet op. Eén aanspreekpunt, vaste prijs per maand, en het is binnen werktijd opgelost.