Mål G Frontier Lab
Reproducera ett paper
Läs en forskningsartikel, formulera hypotesen, implementera metoden, kör ablationer och jämför med publicerade resultat.
- Kunskaper
- 43
- Från noll
- ca 35 h
- Labbar
- 6
Se vad du redan kan — utan konto
Diagnosen föreslår en startpunkt. Övningarna visar vad du faktiskt kan.
Det här kan du efteråt
Labbar på vägen
Du skriver koden. Tester du inte ser avgör om den håller.
Labb: ablation — vilken komponent gör jobbet?Gsandlåda · ca 90 minSlutprov: bygg ett spårbart RAG-flödeEsandlåda · ca 75 minLabb: ett neuronnät i ren NumPy — forward, backprop, gradientkontrollDsandlåda · ca 75 minLabb: gradient descent från grundenDi webbläsaren · ca 50 minLabb: matrismultiplikation och ett lager i ett neuronnätDi webbläsaren · ca 45 minLabb: scaled dot-product attention med kausal maskDsandlåda · ca 60 min
Hela vägen
Allt målet bygger på, grupperat per nivå och i den ordning det bygger på varandra. Visa på kartan
AUpptäckare2 kunskaper
BUtforskare6 kunskaper
CByggare9 kunskaper
- Funktioner och koordinatsystem
- Programmeringslogik — variabler, villkor, loopar
- Python — grunderna
- Python — listor, loopar och dictionaries
- Statistik — medelvärde, median och spridning
- Sannolikhet — grunderna
- Linjär regression: anpassa en rät linje till data
- Neuronnät — intuitionen
- Promptning — att styra en språkmodell
DAI-utvecklare17 kunskaper
- Derivata och optimering
- Loss-funktioner
- Tokenisering
- Gradient descent
- Vektorer
- Matriser och matrismultiplikation
- Linjär regression med flera features
- Neuronnät — forward pass med matriser
- Backpropagation
- Embeddings — ord som vektorer
- Attention
- Overfitting och generalisering
- PyTorch — tensorer och autograd
- Retrieval — hitta rätt text
- Träning, validering och test
- Träna ett neuronnät i PyTorch
- Transformers — arkitekturen