11  Veien videre

Når systemet er oppe og kjører er det naturlig å begynne å tenke på forbedringer og utvidelser. Akkurat hvilke utvidelser man ønsker vil være avhengig av domenet og teamet rundt.

11.1 Nyttige lenker

• NORA.llm modeller på Hugging Face
  • Store språkmodeller trent på norsk språk.
  • Vurder disse for kjøring lokalt.
• LangChain RAG from Scratch
  • Gir en oversikt over mulige forbedringer og forslag til hvordan forbedre KBS systemet.
• LangGraph dokumentasjon
  • Både dokumentasjon og “how-to-guides” til inspirasjon
• Ragas
  • Rammeverk for å evaluere KBS systemet.
• Eksempel på hybridsøk med PostgreSQL
  • Hvordan kombinere vektorsøk med tekstsøk gjennom Reciprocal Rank Fusion.
• Hvordan finjustere en embeddingmodell (Nav-intern)
  • Vi beskriver hvordan vi har finjustert en embeddingmodell med data lett tilgjengelig for data scientister i Nav.
  • Vi jobber med en større datafortelling som kommer til å bli åpent tilgjengelig.

11.2 Forskningsartikler

• RAFT: Adapting Language Model to Domain Specific RAG
  • Beskriver hvordan man kan forbedre KBS ved å fintune en enklere modell på kunnskapsbasen.
  • Fordelen er at man kan bruke en enklere modell enn GPT-4, som vil være både billigere og raskere til å svare.
  • Burde vurderes i sammenheng med lokale modeller.