Hoppa till innehållet
AI-grafen
F· AI engineeringmodelltraning-finjustering· ca 300 min· volatil — kontrolleras ofta· verifierad 2026-09-20

Projekt F: finjustera och utvärdera en språkmodell

Kunna finjustera en modell med LoRA på eget dataset, mäta mot basmodellen och dokumentera.

Förkunskaper

Intuition

Projekt F: ta en öppen modell, anpassa den till en uppgift du bryr dig om, och visa med siffror att den blev bättre — utan att bli sämre på annat.

Leverabler:

DelKrav
Dataset≥ 500 par, rensat (dubbletter, evalläckage), balanserat, dokumenterat
Eval≥ 50 fall som mäter måluppgiften, byggda före träningen
Hållbarhetssvit≥ 50 fall för allmänna förmågor som ska bevaras
Baslinjerbasmodellen som den är, plus en promptad variant (few-shot)
TräningLoRA/QLoRA, konfiguration loggad, ≥ 2 frön
Rapportföre/efter på båda sviterna, med spridning; begränsningar

Kravet som gör projektet ärligt: evalsviten byggs innan träningen. Annars anpassas den omedvetet till det modellen råkade bli bra på.

Interaktivt

Resultattabellen du ska producera:

VariantMålevalHållbarhetTränbara par.GPU-tid
bas, zero-shot0,41 ± 0,000,78 ± 0,00——
bas, few-shot0,58 ± 0,010,78 ± 0,00——
LoRA r=80,79 ± 0,020,75 ± 0,0115 M25 min
LoRA r=320,82 ± 0,020,71 ± 0,0261 M31 min

Läs den: r=32 ger +3 pe på målet men −4 pe på hållbarheten. Är det rätt val? Det beror på användningen — och det är det beslutet som är projektets poäng, inte den högsta siffran.

Vanliga misstag:

  1. Few-shot-baslinjen hoppas över — och då vet ingen om finjusteringen ens behövdes.
  2. Bara ett frö.
  3. Hållbarhetssviten saknas.
  4. Chat-mallen skiljer sig mellan träning och utvärdering (tyst kvalitetsförlust).
  5. Evalfallen skrivna efteråt.

Tidsplan (ca 5 h aktiv tid): 1,5 h dataset · 1 h evalsviter · 1 h träning (svep) · 1 h utvärdering · 0,5 h rapport.

Behärskning innebär

  • Finjusterar en modell med LoRA på eget dataset
  • Mäter mot basmodellen med egen eval och hållbarhetssvit
  • Dokumenterar reproducerbart

Logga in för att göra övningarna och bygga upp din behärskning.

Källor

Alla källor och licenser