Menneske i loopen: godkjenning av KI-handlinger

Godkjenn handlingen, ikke bare planen

Et vennlig spørsmål i prompten er ikke en kontrollmekanisme. Systemet må pause utførelsen, bevare den nøyaktige handlingen og fortsette bare med et eksplisitt svar fra en autorisert person.

Handlinger som normalt bør ha en port

• sende eller publisere innhold eksternt
• slette eller overskrive data
• flytte penger, bestille eller pådra kostnad
• endre tilgang, identitet eller sikkerhetsinnstillinger
• bruke sensitive data eller ta beslutninger med stor betydning for personer
• kjøre kode eller endre produksjonssystemer

Vis beslutningsgrunnlaget

Foreslått handling: [nøyaktig verktøy og argumenter]
Formål: [hvorfor handlingen trengs]
Mål: [system, mottaker eller data]
Konsekvens: [hva endres hvis den godkjennes]
Kontroller utført: [tester, forhåndsvisning, kostnad]
Kan angres: [ja/nei og hvordan]
Usikkerhet: [det anmelderen bør vite]

Valg: Godkjenn | Avvis | Be om endring

Unngå godkjenningstretthet

Ikke krev klikk for risikofrie leseoperasjoner. Klassifiser handlingstyper, vis en god forhåndsvisning og logg hvem som godkjente hva. En generell «fortsett»-knapp uten tydelig mål og konsekvens inviterer til gummistempling.

Kombiner porten med stoppkriterier og verktøytillatelser.

Kilder

• Microsoft Learn: Human-in-the-loop workflows — pause, forespørsel, svar og gjenopptakelse
• Microsoft Learn: Tool approvals — godkjenning eller avvisning av funksjonskall
• NIST AI RMF Core — styring og risikobaserte kontrollnivåer