Språkmodeller och sannolikheter
Förstå hur en språkmodell genererar text genom att beräkna sannolikheten för nästa ord.
Vardagsförklaring
Tänk på meningen «Jag ska skicka ett e-postmeddelande till …». De flesta tänker på en kollega, en kund eller en leverantör. Få tänker på en robot eller en asteroid.
Du gissar utifrån vad du upplevt förut. En språkmodell gör exakt det — fast den har processat enorma mängder text och beräknar: «kollega» 40 %, «kund» 20 %, «chef» 10 % … Sedan väljer den ett ord, lägger till det och beräknar sannolikheten för nästa ord.
En hel text är bara en serie av dessa sannolikhetsberäkningar.
Interaktivt
Testa själv: Skriv början av en mening, t.ex. «Mötet började kl …». Vad är det troligaste svaret? Kanske «9:00» eller «10:00». Det är ordets «sannolikhet» i det sammanhanget.
«Jag betalade fakturan med …» → kort, swish, check. «Vädret i Stockholm är …» → regnigt, soligt, blåsigt.
Prova en mening där det är svårt att gissa: «Min favoritfärg är …» — där är svaren spridda, och en språkmodell blir också osäker.
Behärskning innebär
- Kan förklara varför vissa ord är mer sannolika än andra i ett givet sammanhang.
- Kan koppla begreppet sannolikhet till hur en språkmodell bygger meningar.
Förkunskaper
Logga in för att göra övningarna och bygga upp din behärskning.
Källor
- Wikipedia — Språkmodell (CC BY-SA 4.0) — CC BY-SA 4.0
- CS Unplugged (CC BY-SA 4.0) — CC BY-SA 4.0
Del av målen (12)
- Utforskare — bygg ett spel och träna en maskin
- AI-tjänst i drift
- AI, etik och samhälle
- Språkmodeller i praktiken
- Bygg en agent som går att lita på
- Förstå hur generativ AI fungerar
- Datorer som ser och hör
- Finjustera och driva egna modeller
- Bygg ett minnessystem för en agent
- Byggare — samla data, träna en modell och testa AI kritiskt
- Statistik för experiment
- Kör modeller billigare: kvantisering