Finjustering — översikt för gymnasiet

Att träna en språkmodell från grunden kostar miljontals kronor och tar månader. Finjustering utgår från en färdig modell och justerar den lite — timmar och hundralappar.

Liknelsen: förträning är hela skolgången, finjustering är en veckas introduktion på ett nytt jobb.

Tre sätt att få en modell att göra vad du vill, i ordning efter kostnad:

Metod	Kostnad	Bra på	Dålig på
Prompt	gratis	snabba justeringar, instruktioner	konsekvent stil, stora ändringar
RAG	låg	aktuell och egen fakta	stil, format, ton
Finjustering	medel	stil, format, ton, domänspråk	att lägga till fakta

Den vanligaste missuppfattningen är att finjustering är sättet att lära modellen nya fakta. Det fungerar dåligt: fakta i finjusteringsdata memoreras opålitligt, blandas ihop och blir omöjliga att uppdatera. Vill du att modellen ska kunna era produktdata — använd RAG.

Regel: finjustera för hur modellen ska låta och bete sig. Hämta det som ska vara sant och aktuellt.

Vad som krävs för en lyckad finjustering:

Del	Riktvärde
Exempel	500–5 000 av hög kvalitet
Kvalitet	viktigare än mängd — 500 granskade slår 50 000 slarviga
Format	(instruktion, svar)-par i modellens chat-mall
Utvärdering	ett testset som aldrig använts i träningen
Beräkning	en GPU i några timmar för en liten modell med LoRA

LoRA gör det överkomligt: i stället för att uppdatera alla miljarder vikter tränas små tillägg (några miljoner parametrar) vid sidan av. Resultatet blir nästan lika bra, minnesbehovet faller drastiskt, och du kan ha flera finjusteringar av samma basmodell och byta mellan dem.

Tre saker som brukar gå fel:

1. För få exempel. Under ett par hundra händer oftast ingenting mätbart.
2. För många epoker. Modellen memorerar träningsexemplen och blir sämre på allt annat.
3. Ingen baslinje. Den vanligaste upptäckten efter en finjustering är att en bra prompt hade gett samma resultat. Mät alltid mot basmodellen med few-shot innan du drar slutsatser.

Katastrofal glömska är den fjärde och lömskaste: modellen blir bättre på din uppgift och sämre på saker du inte mäter. Därför ska utvärderingen alltid ha två delar — måluppgiften och en hållbarhetssvit med allmänna uppgifter.

Beslutsordning i praktiken: prova prompt först. Räcker det inte och problemet handlar om fakta — RAG. Handlar det om stil, format eller domänspråk — finjustering. Ofta behövs både RAG och finjustering, och de löser då olika saker.

Bestäm rätt metod för fem verkliga fall. Läs, välj, och jämför sedan.

#	Situation	Prompt / RAG / Finjustering?
1	Modellen ska svara på frågor om er skolas ordningsregler	?
2	Svaren ska alltid vara max tre meningar och i du-form	?
3	Modellen ska kunna era 400 produkters priser, som ändras varje vecka	?
4	Modellen ska skriva i er myndighets etablerade skrivstil	?
5	Modellen ska svara på svensk juridisk terminologi den ofta får fel	?

Svar och motivering:

1. RAG — reglerna är fakta som finns i ett dokument, och de ska kunna uppdateras utan omträning.
2. Prompt — en instruktion räcker gott. Finjustering vore att skjuta mygg med kanon.
3. RAG, utan tvekan — priser som ändras varje vecka kan omöjligt ligga i vikterna.
4. Finjustering — stil är precis vad finjustering är bra på, och svårt att beskriva uttömmande i en prompt.
5. Båda — finjustera på terminologin så att modellen använder rätt ord, och använd RAG mot lagtexten så att innehållet blir korrekt och aktuellt.

Mönstret: frågar du «vad ska modellen veta?» är svaret RAG. Frågar du «hur ska den låta?» är svaret finjustering. Är det bara en liten justering av beteendet — prompt.