Hoppa till innehållet
AI-grafen
Logga in
☰ Meny

Mål G Frontier Lab

Frontier Lab — självständigt forskningsprojekt

Läs och reproducera ett paper, kör ablationer, inspektera modellen mekanistiskt och skriv en rapport som någon annan kan reproducera.

Kunskaper
87
Från noll
ca 99 h
Labbar
6
Se vad du redan kan — utan konto

Diagnosen föreslår en startpunkt. Övningarna visar vad du faktiskt kan.

Det här kan du efteråt

Labbar på vägen

Du skriver koden. Tester du inte ser avgör om den håller.

Labb: bygg och validera en benchmarkGsandlåda · ca 90 minLabb: hitta kretsen — aktiveringspatchning och ablation i en liten transformerGsandlåda · ca 120 minProjekt 6: Reproducera ett paper — Dropout (Srivastava m.fl. 2014)Gsandlåda · ca 240 minLabb: ablation — vilken komponent gör jobbet?Gsandlåda · ca 90 minSlutprov: bygg ett spårbart RAG-flödeEsandlåda · ca 75 minLabb: ett neuronnät i ren NumPy — forward, backprop, gradientkontrollDsandlåda · ca 75 min

Hela vägen

Allt målet bygger på, grupperat per nivå och i den ordning det bygger på varandra. Visa på kartan

AUpptäckare2 kunskaper
  1. Mönster och kategorier
  2. Sekvenser och exakta instruktioner
BUtforskare6 kunskaper
  1. Data i vardagen
  2. Algoritmiskt tänkande
  3. Regelbaserade system och maskininlärning
  4. Källkritik och ansvar vid AI-användning
  5. Träningsdata, features och etiketter
  6. Klassificering: hur en modell sorterar information
CByggare9 kunskaper
  1. Funktioner och koordinatsystem
  2. Programmeringslogik — variabler, villkor, loopar
  3. Python — grunderna
  4. Python — listor, loopar och dictionaries
  5. Statistik — medelvärde, median och spridning
  6. Sannolikhet — grunderna
  7. Linjär regression: anpassa en rät linje till data
  8. Neuronnät — intuitionen
  9. Promptning — att styra en språkmodell
DAI-utvecklare30 kunskaper
  1. Diskret matematik: grafer och relationer
  2. Derivata och optimering
  3. Tidskomplexitet och ordo-notation
  4. Datastrukturer: listor, stackar, köer, hashtabeller
  5. Python — funktioner, scope och undantag
  6. Python — moduler, paket och virtuella miljöer
  7. Git — versionshantering
  8. Korrelation och kausalitet
  9. Hypoteser och falsifierbarhet
  10. Sannolikhetsfördelningar
  11. Loss-funktioner
  12. Normalfördelningen och standardisering
  13. Stickprov och osäkerhet
  14. Testning med pytest
  15. Tokenisering
  16. Gradient descent
  17. Vektorer
  18. Matriser och matrismultiplikation
  19. Linjär regression med flera features
  20. Neuronnät — forward pass med matriser
  21. Backpropagation
  22. Embeddings — ord som vektorer
  23. Attention
  24. Overfitting och generalisering
  25. Partiella derivator och gradienten
  26. PyTorch — tensorer och autograd
  27. Retrieval — hitta rätt text
  28. Träning, validering och test
  29. Träna ett neuronnät i PyTorch
  30. Transformers — arkitekturen
EUniversitet18 kunskaper
  1. Grafalgoritmer: BFS, DFS, topologisk ordning
  2. Konfidensintervall
  3. Hypotesprövning och p-värden
  4. Annotering och märkning av data
  5. Reinforcement learning — grunderna
  6. Faltningsnät (CNN)
  7. Sekvensmodeller före transformers
  8. Multi-head attention i detalj
  9. Språkmodeller — träning och generering
  10. Modellutvärdering
  11. Benchmarks: vad de mäter och missar
  12. Finjustering av språkmodeller
  13. RAG — retrieval-augmented generation
  14. Vetenskaplig metod i AI
  15. Baslinjer och kontroller
  16. Reproducerbarhet
  17. Experimentspårning
  18. Labbjournal och experimentlogg
FAI engineering11 kunskaper
  1. Bidra till open source
  2. Mänsklig utvärdering och annotatörsöverensstämmelse
  3. Grafneuronnät (GNN)
  4. Saliency och attribution
  5. Benchmark-kontaminering
  6. Evals för språkmodeller och agenter
  7. RLHF och preferensinlärning
  8. AI i naturvetenskap: från proteiner till klimat
  9. Aktiveringar och linjära sonder
  10. Läsa och analysera forskningsartiklar
  11. Skriva en teknisk rapport
GFrontier Lab11 kunskaper
  1. Bygg en egen benchmark
  2. Alignment — problem och metoder
  3. State space-modeller och Mamba
  4. Utvärdering av farliga förmågor
  5. Mechanistic interpretability — grunderna
  6. Ablationsstudier
  7. Planera ett eget forskningsprojekt
  8. Kretsar, ablation och aktiveringspatchning
  9. Reproducera ett paper
  10. Projekt G: självständigt forskningsprojekt
  11. Granska andras arbete