Funktioner: definitionsmängd, sammansättning, invers

En funktion tar in ett värde och ger exakt ett värde ut. Tre saker att hålla reda på:

• Definitionsmängd: vilka x som är tillåtna. För f(x) = 1/x är det alla x ≠ 0. För √x är det x ≥ 0.
• Värdemängd: vilka värden som kan komma ut. För x² är det y ≥ 0.
• Sammansättning: (f∘g)(x) = f(g(x)) — kör g först, sedan f. Ordningen spelar roll.

Invers f⁻¹ gör tvärtom: om f(3) = 10 så är f⁻¹(10) = 3. Den finns bara om funktionen är entydig — inga två x ger samma y. x² har ingen invers på hela ℝ (både 2 och −2 ger 4), men på x ≥ 0 är inversen √x.

import math

f = lambda x: 2 * x + 1          # f(x) = 2x + 1
g = lambda x: x ** 2             # g(x) = x²

print(f(g(3)))                   # f(9) = 19
print(g(f(3)))                   # g(7) = 49   ← ordningen spelar roll

f_inv = lambda y: (y - 1) / 2    # invers till f
print(f_inv(f(4)))               # 4.0

Varför detta är grunden för neuronnät: ett nät är en sammansättning av funktioner:

utdata = f₃(f₂(f₁(x)))

Varje lager är en funktion. Att träna nätet kräver derivatan av hela sammansättningen med avseende på varje lagers parametrar — och regeln för att derivera sammansatta funktioner är kedjeregeln. Det är exakt vad backpropagation räknar ut, lager för lager bakifrån.