Mål D AI-utvecklare
Förstå hur generativ AI fungerar
Från vektorer och neuronnät till attention och transformers — du ska kunna förklara vad som händer inuti en språkmodell när den skriver nästa ord.
- Kunskaper
- 35
- Från noll
- ca 20 h
- Labbar
- 6
Se vad du redan kan — utan konto
Diagnosen föreslår en startpunkt. Övningarna visar vad du faktiskt kan.
Det här kan du efteråt
Labbar på vägen
Du skriver koden. Tester du inte ser avgör om den håller.
Labb: semantisk sökning med embeddingsDsandlåda · ca 45 minLabb: ett neuronnät i ren NumPy — forward, backprop, gradientkontrollDsandlåda · ca 75 minLabb: gradient descent från grundenDi webbläsaren · ca 50 minLabb: matrismultiplikation och ett lager i ett neuronnätDi webbläsaren · ca 45 minLabb: scaled dot-product attention med kausal maskDsandlåda · ca 60 minLabb: skalärprodukt, norm och cosinuslikhetDi webbläsaren · ca 40 min
Hela vägen
Allt målet bygger på, grupperat per nivå och i den ordning det bygger på varandra. Visa på kartan
AUpptäckare4 kunskaper
BUtforskare8 kunskaper
CByggare10 kunskaper
- Funktioner och koordinatsystem
- Programmeringslogik — variabler, villkor, loopar
- Python — grunderna
- Python — listor, loopar och dictionaries
- Statistik — medelvärde, median och spridning
- Sannolikhet — grunderna
- Linjär regression: anpassa en rät linje till data
- Neuronnät — intuitionen
- Uppmärksamhet: hur ord påverkar varandra
- Ord som punkter: liknande ord nära varandra
DAI-utvecklare13 kunskaper
- Derivata och optimering
- Gradient descent
- Transformern — översikt utan formler
- Hur en språkmodell tränas — på gymnasienivå
- Vektorer
- Matriser och matrismultiplikation
- Neuronnät — forward pass med matriser
- Backpropagation
- Embeddings — ord som vektorer
- Attention
- PyTorch — tensorer och autograd
- Träna ett neuronnät i PyTorch
- Transformers — arkitekturen