Kunnskapsbasebaserte språkmodeller
Om veiledningen
Denne veiledningen tar for seg hvordan komme i gang med Kunnskapsbasebaserte Språkmodeller (Retrieval-Augmented Generation (RAG)), forkortet KBS, se Kapittel 1 Bakgrunn for en introduksjon til teknikken.
Bakgrunnen for denne guiden er et ønske om å lage en søkemotor eller en chatbot basert på store språkmodeller (se Definisjon D.9) som kan benytte en eksisterende kunnskapsbase for å besvare spørsmål.
Nivået på guiden antar en hvis forståelse og kjennskap til store språkmodeller. Av den grunn er det ikke sikkert at alle termer vil bli godt nok forklart. Vi forsøker å holde en oppdatert liste med begreper og definisjoner i Vedlegg D — Begreper og definisjoner. Bruk gjerne Foreslå endringer knappen i menyen til høyre hvis du har et forslag eller tips om noe som bør forklares bedre.
Guiden antar at modellen skal kjøre på interne flater hos Nav og vil være skreddersydd for dette formålet. Forhåpentligvis kan guiden fungere som inspirasjon for andre systemer, samt gi en innføring i konseptet KBS som kan gjenbrukes.
Veiledningen er basert på vårt arbeid med NKS Digital Assistent. Koden kan sees i følgende reoper på Github:
- KBS-systemet (Nav-intern)
- Vektordatabase for NKS Kunnskapsartikler (Nav-intern)
- Vektordatabase for nav.no (Nav-intern)
Merk at vi har valgt å lenke til commits som tilsvarer det omtrentlige tidspunktet for når denne teksten sist ble oppdatert.
Endringslogg
- 16.09.2025: Verktøykall som avansert teknikk
- 07.04.2025:
- Markerte lenker som Nav-interne
- Oppdaterte arkitekturskisse
- 12.03.2025: Utvidet med kapitler om mer avanserte KBS-teknikker
- 30.09.2024: Modell med
LangChainogLangGraph - 22.05.2024: Første versjon publisert