Chat-løsning som leser hele dokumentgrunnlaget

Direktoratet for forvaltning og økonomistyring behandler store dokumentmengder, og mye av arbeidet består i å hente informasjon ut av dem, inn i rapporter, analyser og utredninger. For et omfattende dokumentgrunnlag om innovasjon i offentlige anskaffelser trengte de et internt verktøy som kunne svare på spørsmål basert på hele grunnlaget, ikke bare biter av det. Append bisto først med rådgivning om innsamling av dokumentene, og bygde deretter en skreddersydd chat-løsning.

Standardløsningene for KI-basert dokumentsøk traff ikke. Enten var dokumentgrunnlaget for stort til å få plass i modellens kontekst, eller så bygde svarene bare på noen få gjenfunne utdrag, med risiko for at det viktigste ble oversett. DFØ trengte noe som gikk lenger enn enkle integrasjoner av språkmodeller: pålitelige svar, forankret i alt materialet.

Vi startet med det enkleste som kunne fungere: en gjennomgang av Deep Research-funksjonaliteten hos ulike tilbydere, som DFØ brukte til å samle inn dokumentgrunnlaget.

Selve verktøyet bygde vi derimot selv. Chat-frontenden LibreChat ble tilpasset og koblet mot et eget endepunkt som bruker Googles Gemini 2.5 Pro. Trikset som får det til å fungere: dokumentgrunnlaget splittes i deler som prosesseres parallelt, hver sammen med brukerens spørsmål, før delresultatene sammenstilles til ett svar. Slik kan DFØ spørre om hva som helst i et vanlig chat-grensesnitt – og få svar som har vært innom hele grunnlaget, ikke bare de delene et søk tilfeldigvis fant frem til.