Hoppa till innehållet
AI-grafen

Träna neuronnät på riktigt

Optimerare, regularisering, normalisering, initiering, dataloaders och transfer learning — allt som skiljer en träning som fungerar från en som inte gör det.

E· Universitet

Alla kunskaper som ingår (86) — i beroendeordning

  1. 1AMönster och kategorier
  2. 2BData från vardagen
  3. 3BDiagram och tabeller
  4. 4AInstruktioner i rätt ordning
  5. 5BAlgoritmiskt tänkande
  6. 6CFunktioner och koordinatsystem
  7. 7DDerivata och optimering
  8. 8CProgrammeringslogik — variabler, villkor, loopar
  9. 9CPython — grunderna
  10. 10CPython — listor, loopar och dictionaries
  11. 11DTidskomplexitet och ordo-notation
  12. 12DPython — funktioner, scope och undantag
  13. 13DPython — moduler, paket och virtuella miljöer
  14. 14DGit — versionshantering
  15. 15CPython — strängar och textbehandling
  16. 16CPython — filer, CSV och JSON
  17. 17BRegler kontra inlärning
  18. 18CStatistik — medelvärde, median och spridning
  19. 19CSannolikhet — grunderna
  20. 20DSannolikhetsfördelningar
  21. 21DNormalfördelningen och standardisering
  22. 22ATal och de fyra räknesätten
  23. 23BBinära tal och bitar
  24. 24BBråk, decimaltal och procent
  25. 25BNegativa tal
  26. 26BTräningsdata, features och etiketter
  27. 27BKlassificering — så sorterar en modell
  28. 28CDin första prediktiva modell — en rät linje
  29. 29DGradient descent
  30. 30CNeuronnät — intuitionen
  31. 31AVad är en dator?
  32. 32BHjärnan, neuroner och datorer
  33. 33CVariabler och algebraiska uttryck
  34. 34CPotenser och rötter
  35. 35DLogaritmer
  36. 36ENumerisk stabilitet och flyttal
  37. 37FFlyttalsformat: fp32, fp16, bf16
  38. 38DVektorer
  39. 39DMatriser och matrismultiplikation
  40. 40DLinjär regression med flera features
  41. 41DLogistisk regression och beslutsträd
  42. 42DBeslutsträd
  43. 43EEnsembler: random forest och boosting
  44. 44ELinjära avbildningar
  45. 45EEgenvärden och egenvektorer
  46. 46EMatrisfaktorisering och lågrangsapproximation
  47. 47DNeuronnät — forward pass med matriser
  48. 48DAktiveringsfunktioner
  49. 49DBackpropagation
  50. 50DEmbeddings — ord som vektorer
  51. 51EFörsvinnande och exploderande gradienter
  52. 52EGradientklippning
  53. 53EInitiering av vikter
  54. 54DNumPy — arrayer och vektorisering
  55. 55DOverfitting och generalisering
  56. 56DPandas — tabeller i Python
  57. 57DDatakvalitet: saknade värden, dubbletter, fel
  58. 58DFeature engineering
  59. 59DEmbeddings för kategoriska variabler
  60. 60EParallellism och varför GPU:er
  61. 61DPerceptronen
  62. 62DPyTorch — tensorer och autograd
  63. 63EHur autograd fungerar inuti
  64. 64DDataloaders, batchar och epoker
  65. 65EResidualkopplingar
  66. 66ESekvensmodeller före transformers
  67. 67ESingulärvärdesuppdelning (SVD)
  68. 68EPCA — principalkomponentanalys
  69. 69EAutoencoders
  70. 70EDeep learning på tabelldata
  71. 71DTräning, validering och test
  72. 72DKorsvalidering
  73. 73EHyperparametersökning
  74. 74DTräna ett neuronnät i PyTorch
  75. 75EBatch- och layernormalisering
  76. 76ECheckpoints, sparande och återstart
  77. 77EGPU-minne, gradientackumulering och batchar
  78. 78FMixed precision-träning
  79. 79EOptimerare: momentum, Adam, schemaläggning
  80. 80ELärhastighetsscheman och warmup
  81. 81ERegularisering: dropout, weight decay, early stopping
  82. 82EDropout i detalj
  83. 83ETransfer learning
  84. 84DVisualisering med Matplotlib
  85. 85ETräningsdiagnostik
  86. 86EHyperparametrar för djupa nät