4.1 贝叶斯分类器简介与应用详解
贝叶斯分类器是一种基于贝叶斯定理的统计分类技术，主要用于模式识别。其工作原理是通过计算不同类别条件下观测特征出现的概率，再利用这些概率进行预测。在该过程中，贝叶斯公式起到了核心作用。贝叶斯公式由数学家托马斯·贝叶斯在1763年提出，其表达式如下：
\[P(B_j|A) = \frac{P(A|B_j) \cdot P(B_j)}{P(A)}\]
其中各术语含义为：
-
后验概率 \(P(B_j|A)\)：在已知结果A的情况下，事件B_j发生的概率。该部分是贝叶斯分类器的重点，表明在特定特征值下样本属于某类别的可能性。
-
类条件概率 \(P(A|B_j)\)：在事件B_j发生条件下，结果A出现的概率，代表样本具有特定特征值时属于某类别的概率。
-
先验概率 \(P(B_j)\)：在无其他信息条件下，事件B_j发生的概率，即样本属于类别j的初始概率。
-
全概率 \(P(A)\)：所有类别下结果A出现概率的总和，即 \(P(A) = \sum_{j=1}^c P(A|B_j) \cdot P(B_j)\)，其中c为类别总数。
在分类过程中，贝叶斯分类器需先估计类条件概率与先验概率，可通过训练集进行，如使用最大似然估计或拉普拉斯平滑来避免概率为零的情况。得到这些概率后，可对新样本分类，选取后验概率最大的类别。
