基于BIC EM算法构建贝叶斯网 《机器学习》第七章后半部分代码,包括利用BIC、EM算法为基础构建贝叶斯网络,并利用吉布斯采样算法对实现对网络的“查询”。贝叶斯网络的构建采用了贪心算法。基于BIC、EM算法生成的贝叶斯网络没有进行较多验证,但从经验简单观察,应该具有一定正确性。
集成学习AdaBoost Bagging 包含基于决策树桩进行集成的AdaBoost、Bagging算法,并实现对学习结果的可视化。“*”表示支撑超平面边界的点,“+”、“-”分别表示正反例数据点,青色线条为集学习器(决策树桩)分类边界。
贝叶斯分类器.zip 《机器学习》贝叶斯分类器学习笔记前半部分实现代码,包含“朴素贝叶斯分类器”和“半朴素贝叶斯分类器”。从数据集正、反样例各挑选3例,“半朴素贝叶斯分类器”判断结果完全正确。“朴素贝叶斯分类器”仅对1例正例进行测试,测试结果正确。