Hoppa till innehållet
AI-grafen
Logga in
☰ Meny

Mål F AI engineering

Tolka en språkmodell

Attention-mönster, logit lens och förklaringar för slutanvändare — hur man ser vad en modell gör, och var gränsen går för vad en förklaring bevisar.

Kunskaper
66
Från noll
ca 48 h
Labbar
6
Se vad du redan kan — utan konto

Diagnosen föreslår en startpunkt. Övningarna visar vad du faktiskt kan.

Det här kan du efteråt

Labbar på vägen

Du skriver koden. Tester du inte ser avgör om den håller.

Labb: ett neuronnät i ren NumPy — forward, backprop, gradientkontrollDsandlåda · ca 75 minLabb: gradient descent från grundenDi webbläsaren · ca 50 minLabb: matrismultiplikation och ett lager i ett neuronnätDi webbläsaren · ca 45 minLabb: scaled dot-product attention med kausal maskDsandlåda · ca 60 minLabb: semantisk sökning med embeddingsDsandlåda · ca 45 minLabb: skalärprodukt, norm och cosinuslikhetDi webbläsaren · ca 40 min

Hela vägen

Allt målet bygger på, grupperat per nivå och i den ordning det bygger på varandra. Visa på kartan

AUpptäckare4 kunskaper
  1. Mönster och kategorier
  2. Sekvenser och exakta instruktioner
  3. Heltalsaritmetik och räkneordning
  4. Jämföra och sortera värden
BUtforskare9 kunskaper
  1. Data i vardagen
  2. Algoritmiskt tänkande
  3. Regelbaserade system och maskininlärning
  4. Källkritik och ansvar vid AI-användning
  5. Binära tal och bitar
  6. Bråk, decimaltal och procent
  7. Koordinater: positioner i ett rutnät
  8. Träningsdata, features och etiketter
  9. Klassificering: hur en modell sorterar information
CByggare18 kunskaper
  1. Funktioner och koordinatsystem
  2. Programmeringslogik — variabler, villkor, loopar
  3. Python — grunderna
  4. Python — listor, loopar och dictionaries
  5. Statistik — medelvärde, median och spridning
  6. Sannolikhet — grunderna
  7. Digital representation: text, bilder och ljud
  8. Proportionalitet och skala
  9. Linjära samband i tabeller
  10. Linjär regression: anpassa en linje till data
  11. Linjär regression: anpassa en rät linje till data
  12. Neuronnät — intuitionen
  13. Promptning — att styra en språkmodell
  14. Ansvarsfull användning av AI
  15. Bilder som matriser
  16. Vrid på rattarna: vikter
  17. Varför flera lager behövs
  18. Träna ett neuronnät i webbläsaren
DAI-utvecklare19 kunskaper
  1. Derivata och optimering
  2. Loss-funktioner
  3. Tokenisering
  4. Gradient descent
  5. Vektorer
  6. Matriser och matrismultiplikation
  7. Linjär regression med flera features
  8. Logistisk regression och beslutsträd
  9. Neuronnät — forward pass med matriser
  10. Backpropagation
  11. Vad ser nätet? Bilder genom lagren
  12. Embeddings — ord som vektorer
  13. Attention
  14. Overfitting och generalisering
  15. PyTorch — tensorer och autograd
  16. Träning, validering och test
  17. Träna ett neuronnät i PyTorch
  18. Transformers — arkitekturen
  19. Titta in i nätet
EUniversitet12 kunskaper
  1. Förklarbarhet för slutanvändare
  2. Linjära avbildningar
  3. Egenvärden och egenvektorer
  4. Matrisfaktorisering och lågrangsapproximation
  5. Visualisera attention-mönster
  6. Singulärvärdesuppdelning (SVD)
  7. PCA — principalkomponentanalys
  8. Autoencoders
  9. Multi-head attention i detalj
  10. Språkmodeller — träning och generering
  11. Modellutvärdering
  12. Vetenskaplig metod i AI
FAI engineering1 kunskaper
  1. Aktiveringar och linjära sonder
GFrontier Lab3 kunskaper
  1. Mechanistic interpretability — grunderna
  2. Logit lens och residualströmmen
  3. Sparse autoencoders för features