Prompt bedre med færre tokens
Færre tokens, lavere pris og lavere total kostnad er tre forskjellige mål. Mål hele arbeidsflyten og behold en kvalitetsgrense.
Hva koster arbeidsmåten?
Legg inn prisene og volumet som gjelder for deres leverandør. Ingen data sendes ut av nettleseren.
Relevant kontekst, stabil cache og kort leveranse
Forenklet estimat. Reasoning-/thinking-tokens, verktøykall, cache-skriving, lagring, valutapåslag, avgifter, lange kontekstnivåer og leverandørspesifikke prismodeller er ikke med. Cache senker normalt pris og ventetid, ikke den logiske kontekststørrelsen.
Kutt sløsing før du kjøper billigere tokens
Optimaliser mot godkjent oppgave, ikke bare mot kortest prompt.
- 1
Mål hele oppgaven
Logg input, cachelesing, output, reasoning, verktøykall, forsøk og om svaret bestod. Pris per godkjent oppgave er mer nyttig enn pris per kall.
- 2
Fjern gjentakelse og støy
Si hver regel én gang. Ikke send hele kunnskapsbasen, alle verktøy eller full samtalehistorikk når bare en liten del påvirker svaret.
- 3
Hent akkurat nok kontekst
Bruk søk eller retrieval til å velge relevante utdrag. Bevar kildeidentitet og hent mer bare når oppgaven krever det.
- 4
Styr outputen
Beskriv hva et kort svar må beholde: konklusjon, belegg, vesentlig forbehold og neste handling. Kutt innledning, gjentakelse og valgfri bakgrunn først.
- 5
Gjenbruk stabilt innhold
Legg fast systemtekst, verktøyskjemaer og eksempler i en identisk prefiksblokk. Mål cachetreff og cache-skriving; cache kan koste mer ved mange bom.
- 6
Route og batch med evals
Test en mindre modell eller lavere reasoning-nivå på enkle oppgaver, og eskaler bare ved behov. Send ikke-tidskritiske jobber som batch eller kostnadsoptimalisert trafikk der det støttes.
Fra monsterprompt til kort kontrakt
Den effektive varianten er kortere fordi den prioriterer leveransen. Den lover ikke samme resultat på alle modeller; tell og test med den modellen dere faktisk bruker.
Mål: Oppsummer kundesaken for saksbehandleren.
Underlag: Bruk bare de tre vedlagte notatene.
Lever:
- konklusjon i én setning
- bekreftede fakta med kildeetikett
- manglende opplysninger
- anbefalt neste handling
Bevar vesentlige forbehold. Kutt hilsen, gjentakelse og generell bakgrunn.«Cache gjør prompten kortere.»
Riktig skilleCache gjør gjentatt input billigere og ofte raskere. Tokenene er fortsatt en del av modellens kontekst.
«Billigst modell gir lavest kostnad.»
Riktig skilleEn billig modell som krever flere forsøk, verktøykall eller menneskelig etterarbeid kan koste mer per godkjent oppgave.
Tell med leverandørens endepunkt
Tegn- og ordestimat er upresise for roller, verktøyskjemaer, bilder og filer. Tell samme payload mot den faktiske modellen, og les tokenfeltene i responsen.
- OpenAI: Cost optimization — færre kall, færre tokens og modellvalg
- OpenAI: Prompt caching — identisk prefiks og målbare treff
- OpenAI: Counting tokens — modellnøyaktig inputtelling
- Anthropic: Prompt caching — cachelesing, skriving og TTL
- Anthropic: Token counting — telling før kjøring
- Google: Optimization and inference — standard, flex, batch og caching
- Google: Token counting — input og usage metadata