移動平均の閉じた形とバイアス補正

$0 \le \beta < 1$、$a_0 = 0$、$a_t = \beta a_{t-1} + (1 - \beta) c_t$（$t \ge 1$）とします。

1. $a_t = (1 - \beta) \sum_{i=1}^{t} \beta^{t-i} c_i$ です。重みの和は $(1 - \beta) \sum_{i=1}^{t} \beta^{t-i} = 1 - \beta^t$ です。
2. $c_1, \ldots, c_t$ が確率変数で、期待値 $\mathbb{E}[c_i] = \mu$ が $i$ に依らないなら、$\mathbb{E}[a_t] = (1 - \beta^t)\mu$ で、$\mathbb{E}[a_t / (1 - \beta^t)] = \mu$ です。

$c_t = g_t$、$\beta = \beta_1$ とすれば $m_t$、$c_t = g_t^2$、$\beta = \beta_2$ とすれば $v_t$ についての主張になります。