Utgångsläge
Vecka 1 till 2
Vi kopplar in ett urval av era dokument, samlar verkliga frågor från ert team och bygger en första version att mäta.
- Dokumenturval inkopplat
- 50 till 200 verkliga frågor
- Första mätvärdena
Svar från era egna dokument, med en källa för varje påstående.
RAG (retrieval-augmented generation) låter en språkmodell svara utifrån era dokument och data i stället för ur minnet. Vi bygger hela kedjan, från inläsning till utvärdering, så att svaren blir rätt och går att kontrollera.
Vad vi bygger
Hela kedjan, inte bara en vektordatabas.
De flesta svaga RAG-system har ett sökproblem, inte ett modellproblem. Vi lägger det mesta av arbetet på att hitta rätt textstycke, och vi mäter det.
Inläsning
Kopplingar till era PDF:er, wikisidor, ärenden, databaser och filytor. Dokumenten tolkas, rensas och hålls uppdaterade när källan ändras.
Uppdelning
Dokumenten delas efter sin verkliga struktur, till exempel rubriker, tabeller och paragrafer, så att varje del behåller sin innebörd och sin hänvisning.
Hybridsökning
Nyckelordssökning och vektorsökning tillsammans, på pgvector och PostgreSQL. Exakta termer som artikelnummer hittas lika väl som omskrivningar.
Omrankning
En andra modell sorterar kandidaterna och behåller de få stycken som besvarar frågan. Det är ofta den enskilt största kvalitetsvinsten.
Svar med källhänvisningar
Modellen svarar bara utifrån de hämtade styckena och länkar varje påstående till sin källa. Om dokumenten saknar svaret säger den det.
Utvärdering
En uppsättning verkliga frågor med kända svar. Den mäter träffsäkerheten i sökning och svar före och efter varje ändring.
Så går ett projekt till
Mät först. Förbättra sedan.
Vi bygger utvärderingen innan vi justerar något. Därefter syns varje ändring i uppdelning, sökning eller promptar som en siffra som går upp eller ner.
Förbättra
Vecka 3 till 6
Vi arbetar först med det svagaste steget: tolkning, uppdelning, sökning eller omrankning. Ni kan prova varje version.
- En ändring i taget
- Träffsäkerhet mäts för varje ändring
- Demo varje vecka
Lansera
Därefter
Behörighetsstyrning, övervakning och en knapp för återkoppling läggs till. Systemet går ut till användarna och utvärderingen fortsätter att köras.
- Dokumentåtkomst per användare
- Övervakning och återkoppling
- Drift inom EU om ni behöver det
Vanliga frågor
Frågor om RAG.
Vad är RAG?
RAG står för retrieval-augmented generation. När en användare ställer en fråga söker systemet först efter relevanta stycken i era dokument. Sedan ger det styckena till en språkmodell, som skriver svaret utifrån dem och anger sina källor.
Kan ni bygga ett RAG-system på våra egna dokument?
Ja. Vi bygger hela kedjan: inläsning av era dokument och data, uppdelning, hybridsökning med nyckelord och vektorer, omrankning, svar med källhänvisningar och en utvärdering som mäter träffsäkerheten före och efter varje ändring.
RAG eller finjustering: vad behöver vi?
För frågor om ert eget innehåll är RAG nästan alltid förstahandsvalet. Det använder aktuella dokument, visar sina källor och kräver ingen modellträning. Finjustering passar för ton, format eller en smal färdighet och kan läggas till senare.
Hur hindrar ni systemet från att hitta på?
Modellen instrueras att bara svara utifrån de hämtade styckena och att hänvisa till dem. En kontroll jämför sedan varje påstående med källan. Frågor som dokumenten inte kan besvara får ett ärligt "hittades inte". Utvärderingen mäter hur ofta vart och ett av stegen fungerar.
Kan varje användare bara se de dokument hen har rätt till?
Ja. Behörigheterna från källsystemet sparas med varje stycke och tillämpas i sökningen, så att en användare aldrig får ett svar som bygger på ett dokument hen inte kan öppna.
Kan våra data stanna inom EU?
Ja. Vi kan drifta vektordatabaser och applikationsservrar i EU-regioner, välja modelleverantörer och inställningar som uppfyller era krav på databehandling och utforma lösningen för GDPR från början.
Relaterat
Nästa steg.
AI-agenter
När det inte räcker att svara, utan systemet också ska agera, blir sökningen ett av agentens verktyg.
RAG-genomlysning
En kort genomgång med fast omfattning av era dokument, frågor och risker innan ni bestämmer er för ett bygge.
Så arbetar vi
Korta cykler, en fungerande demo varje vecka, och kod och konton som tillhör er.