贝叶斯公式
$$\text{Pr}(Y=j|X=x_0) \tag{1}$$
上式是一个条件概率,给定了观测向量$x_0$条件下$Y=j$的概率。
贝叶斯决策边界
贝叶斯分类器产生最低的错误率,叫做贝叶斯错误率。因为贝叶斯分类器总是选择使式子$(1)$最大化的类,在$X=x_0$处的错误率是$1-\max_j Pr(Y=j|X=x_0)$。
整个贝叶斯分类器的错误率是:
$$1-\mathbb{E}\left(\max_j Pr(Y=j|X=x_0)\right)$$
其中期望表示计算所有$X$的可能取值上的平均错误率。