AI-assistenter: 11 spørgsmål og svar

En AI-assistent arbejder i ture. Du giver en henvendelse, den svarer, og så er bolden tilbage hos dig. Den kan ræsonnere, slå op, skrive og regne — men den sætter ikke selv næste skridt i gang, og den fortsætter ikke af sig selv, når samtalen holder pause.

Det afgørende er, hvem der ejer initiativet. Hos en assistent er det mennesket: hver tur begynder med et menneske og slutter med et svar, som et menneske vurderer. Dygtigheden kan være meget stor — det er ikke evnerne, der adskiller en assistent fra en agent, men hvem der vælger næste skridt.

Kilde: Jurafsky og Martin, Speech and Language Processing, kap. om dialogsystemer; Russell og Norvig (1995)

Model

Sprogmodellen, der forstår henvendelsen og formulerer svaret.

Instruktioner

Systemprompten: rolle, tone og grænser for hvad den må gøre.

Kontekst

Samtalen og det du vedhæfter. Som udgangspunkt er det den eneste hukommelse, den har — og den forsvinder med samtalen: den næste kender den ikke.

Opslag

Materiale der hentes ind i spørgsmålet, eller et værktøj der kaldes inden for samme tur.

Grænseflade

Chat, mail, editor eller telefon — stedet hvor turen begynder og slutter.

Rammer

Hvad den må se, sige og gemme — og hvilke data der aldrig må forlade huset.

Kilde: Lewis m.fl. (2020); Anthropic, Claude API-dokumentation: Tool use

En søgemaskine finder dokumenter. En assistent arbejder på indholdet: den sammenfatter, oversætter, omskriver, strukturerer, forklarer og udfylder et skema.

Prisen er, at svaret er formuleret og ikke fundet. Det kan være flydende og forkert på samme tid, og derfor skal påstande kunne føres tilbage til en kilde, hvis de skal bruges til noget.

Mindst fra 1966, hvor Joseph Weizenbaum byggede ELIZA på MIT. Programmet genkendte mønstre i sætninger og spejlede dem tilbage som spørgsmål. Det forstod intet, men brugerne tilskrev det alligevel indsigt — det kaldes stadig ELIZA-effekten.

I de følgende årtier var dialogsystemer regelbaserede eller snævert afgrænsede: en telefonmenu kunne tage imod en bestilling, men ikke tage en opgave, den ikke var skrevet til. Det nye i dag er derfor ikke samtaleformen, men at den samme model kan tage opgaver, som ingen har skrevet regler for.

Kilde: Weizenbaum (1966), ELIZA; Jurafsky og Martin

Instruktionsfølgning. En rå sprogmodel fortsætter en tekst; den gør ikke nødvendigvis, hvad man beder om. Med instruktionstræning og menneskelig feedback blev modellen trænet til at følge en anmodning.

1,3 mia. > 175 mia.

I OpenAIs InstructGPT-forsøg blev svar fra en model med 1,3 milliarder parametre foretrukket over svar fra den rå model med 175 milliarder — en model over hundrede gange mindre vandt, fordi den var trænet til at følge instruktioner. Det er den drejning, der gjorde en chatflade til et arbejdsredskab.

Kilde: Ouyang m.fl. (2022), InstructGPT

Ved at få materialet med i konteksten. Der er to veje:

1. Opslag i egne kilder: relevante stykker tekst findes og lægges ind i spørgsmålet, før modellen svarer. Metoden blev beskrevet som retrieval-augmented generation i 2020 og er stadig rygraden i «chat med mine dokumenter».
2. Værktøjer og forbindelser til systemer: kalender, mail, sagsbehandling, sensorer. I dag sker det ofte gennem Model Context Protocol, en fælles standard for at koble kilder og værktøjer på en model.

I begge tilfælde trænes modellen ikke om. Den får materialet udleveret, og derfor er kvaliteten af opslaget mindst lige så afgørende som valget af model.

Kilde: Lewis m.fl. (2020); Model Context Protocol

Når den får lov at lukke sin egen løkke. Giver man den værktøjer og lader den selv vurdere, om målet er nået, og selv vælge næste skridt uden at spørge først, så er det en agent.

Overgangen er glidende, og den ligger ikke i modellen, men i softwaren omkring den: hvor mange skridt den må tage selv, hvilke rettigheder værktøjerne har, og om et menneske skal godkende undervejs.

Læs videre: AI-agenter: 22 spørgsmål og svar

Forskellen ligger i initiativ og tidshorisont — ikke i modellen. Det er typisk den samme sprogmodel i alle tre tilfælde.

1

Assistent

• Du ejer initiativet.
• Ét skridt ad gangen.
• Du vurderer hvert svar.

2

Agent

• Du sætter målet.
• Den vælger selv vejen.
• Rammerne stopper den.

3

Agentisk AI

• Arbejdet starter af sig selv.
• Flere agenter over tid.
• Du sætter politik og tilsyn.

Skalaen er glidende: det samme produkt kan ligge i flere kolonner på samme dag, afhængigt af hvor meget af løkken man har overladt.

Jo, maskineriet er det samme. Forskellen er, hvor meget af løkken man har overladt.

Det praktiske råd er at vælge det mindste, der løser opgaven: et fast arbejdsflow med modellen i ét led er lettere at teste, billigere i drift og nemmere at forklare bagefter end en fri agent. Anthropic giver samme anbefaling i deres vejledning om effektive agenter — brug kun en agent, når opgaven faktisk kræver, at systemet selv vælger vejen.

Kilde: Anthropic (2024), Building effective agents

De fire første håndteres med arbejdsgange: kildekrav, korte samtaler om kritiske emner, og en bevidst skeptisk læsning af svaret. Den femte er et spørgsmål om, hvor modellen kører — og det kan afgøres arkitektonisk, ikke med en instruktion.

Kilde: OWASP (2025), LLM01: Prompt Injection

Vælg i stedet en agent, når der er mange ensartede skridt, og en fejl kan rulles tilbage. Og vælg et agentisk system, når arbejdet skal starte af sig selv og løbe over tid — det er også der, kravene til logning og tilsyn vokser mest.