贝叶斯决策

贝叶斯决策。

References

玉米与杂草

Bayes决策作为概率方法。

假设：

• 分类数已知（一共有多少个类）
• 各类别总体概率分布已知

先验与后验

$$\begin{equation} {\color{red}{P(B \mid A)} } {\color{blue}{P(A)} }=P(B, A)={\color{red}{P(A \mid B)} } {\color{blue}{ P(B) } } \end{equation}$$

先验概率：某个事件天然/常识的概率。

后验概率：已知发生了一些额外的信息/事件结果，问某个事件的概率。后验概率即条件概率。

利用贝叶斯公式写出玉米/杂草的后验概率：

$$\begin{equation} {\color{red}{P\left(\omega_{i} \mid \vec{x}\right)} }=\frac{p\left(\vec{x} \mid \omega_{i}\right) {\color{blue}{P\left(\omega_{i}\right)} } }{\sum_{i=1}^{2} p\left(\vec{x} \mid \omega_{i}\right) P\left(\omega_{i}\right)} \end{equation}$$

两类错误

第1类错误/假阳性（false positive）、第2类错误/假阴性（false negative）。

ROC曲线

Receiver Operating Charaterstic。

机器学习中，常常用True Positive（1 - FP）代替False Positive。