Guide
Ordliste
Nøkterne forklaringer uten at du må kunne maskinlæring.
- Prompt
- Instruksjonen og materialet en modell får som grunnlag for et svar eller en handling.
- Kontekst
- Informasjonen modellen har tilgjengelig i den aktuelle forespørselen eller samtalen.
- Token
- En tekstbit modellen behandler. Ett token er ikke det samme som ett ord.
- Zero-shot / few-shot
- En oppgave uten eksempler, eller med noen få eksempler i prompten.
- Hallusinasjon
- Et tilsynelatende plausibelt, men feilaktig eller ugrunnet modellutsagn.
- RAG
- En arbeidsmåte der et system henter relevante kilder og legger dem inn i konteksten før modellen svarer.
- Agent
- Et modellbasert system som kan planlegge, bruke verktøy og utføre flere trinn mot et mål.
- Evaluering / eval
- En systematisk test av modellens resultater mot definerte kriterier og representative oppgaver.
- Kontekstteknikk
- Arbeidet med å velge og organisere instrukser, dokumenter, historikk, minne, verktøy, eksempler og tillatelser i modellens arbeidsflate.
- Prompt caching
- Gjenbruk av en identisk, tidligere behandlet prompt-prefiks. Det kan redusere pris og ventetid, men gjør ikke den logiske konteksten mindre.
- Prompt injection
- Et forsøk på å få modellen til å følge en uautorisert instruksjon, direkte fra en bruker eller indirekte gjennom nettsider, filer, e-post eller verktøyresultater.
- Reasoning / thinking
- Ekstra modellarbeid for problemløsing. Leverandørene styrer dette ulikt, og tokenene kan påvirke pris og ventetid.
- Structured Outputs
- En API-funksjon som tvinger svaret inn i et definert skjema. Den sikrer struktur, ikke at verdiene er sanne.
- Systeminstruksjon
- Varige eller overordnede regler en applikasjon gir modellen, adskilt fra brukerens konkrete oppgave.