1、 算法课程设计报告算法课程设计报告 （算法编程实现类）（算法编程实现类） 贝叶斯算法编程实现 院院 系系 部部 门：门： 学学 生生 学学 号号： * * * * * * 学学 生生 姓姓 名名： * * * * * * 指指 导导 教教 师师： * * * * * * 20132013 年年 5 5 月月 2 第一部分 贝叶斯算法研究背景、特点与发展 3 1.1 贝叶斯算法研究背景 3 1.2 贝叶斯算法特点 3 1.3 贝叶斯算法发展 4 第二部分 算法分析与程序流程图设计 4 2.1、基于对问题的分析 4 2.2、基于对问题的 java 算法分析 5 2.2、程序流程图设计 6 第三部分
2、 实现设计语言选择与算法编程实现 6 3.1、java 算法实现 6 第四部分 程序测试与结果分析 17 4.1 程序测试 17 4.2 结果分析 17 第五部分 总结与心得体会 17 5.1 总结与心得体会. 17 第六部分 参考文献 18 6.1 参考文献（2 个） . 18 3 第一部第一部分分 贝叶斯算法研究背景、特点与发贝叶斯算法研究背景、特点与发 展展 1.1 1.1 贝叶斯算法研究背景贝叶斯算法研究背景 贝叶斯分类算法是统计学分类方法，它是一类利用概率统计知识进行分类的算 法。在许多场合，朴素贝叶斯(Nave Bayes，NB)分类算法可以与决 策树和神经网络分类算法相媲美，且方
3、法简单、分类准确率高、速度 快。 由于贝叶斯定理假设一个属性值对给定类的影响独立于其它属性 的值，而此假设在实际情况中经常是不成立的，因此其分类准确率可 能会下降。为此，就出现了许多降低独立性假设的贝叶斯分类算法，如 TAN(tree augmented Bayes network)算法。 1.2 1.2 贝叶斯算法特点贝叶斯算法特点 和决策树模型相比，朴素贝叶斯模型发源于古典数学理论，有着坚实 的数学基础，以 及稳定的分类效率。同时，NBC 模型所需估计的参 数很少，对缺失数据不太敏感，算法也比较简单。理论上，NBC 模型 与其他分类方法相比具有最小的误差率。 但是实际上并非总是如此， 这是
4、因为 NBC 模型假设属性之间相互独立， 这个假设在实际应用中往 往是不成立的，这给 NBC 模型的正确分类带来了一定影响。在属 性 个数比较多或者属性之间相关性较大时，NBC 模型的分类效率比不上 决策树模型。而在属性相关性较小时，NBC 模型的性能最为良好。 4 1.3 1.3 贝叶斯算法发展贝叶斯算法发展 贝叶斯分类理论有最初的朴素贝叶斯于 EM 算法，灰色关系继续发展 为基于改进 EM 的朴素贝叶斯分类理论。 第二部分第二部分 算法分析与程序流程图设计算法分析与程序流程图设计 2.12.1、基于对问题的分析、基于对问题的分析 对问题进行分析，设 X 是类标号未知的数据样本，设 H 为某
5、种假的， 如数据养本 X 属于某特定的类 C。对与分类问题，希望确定 P(H|X)， 即给定观测数据样本 X，假定 H 成立的概率。贝叶斯定理给出了如下 计算 P(H|X)的简单有效的方法： P（H|X）=P（X|H）P（H）/P（X） 其中 P（H）称为先验概率，P（X|H）表示假设 H 成立时观查到 X 的 概率。 P（H|X）表示后验概率。 每一个样本数据用一个 n 维特征向量 X=x1，x2，x3，xn表示， 分别描述具有 n 个属性 A1，A1，An 的样本的 n 个度量。 假定有 m 个类 C1，C2，Cm，给定一个未知数据样本 X（即没有类 编号） ，分类器将预测 X 属性与最高
6、后验概率的类。也就是说，朴素 贝叶斯分类将未知样本分配给 Ci（1 对象集合中去，其中每一条训练数据对应一个 ArrayList对 象集合。 同理用 readTestData()将测试元组读如 ArrayList对象集 合中去。 下面就需要将 ArrayList中的每一组训练元组 按照类别属性分开，保存到Map对象中去 用三重 for 循环来计算测试元组中每一属性所在每一个类别中概率 的之积，并返回最大积所对应的类别名称。 6 2.22.2、程序流程图设计、程序流程图设计 第三部分第三部分 实现设计语言选择与算法编程实现设计语言选择与算法编程 实现实现 3.13.1、javajava 算法实现算法实现 packagepackage org.decimalcalculate; importimport java.math.BigDecimal; publicpublic classclass DecimalCa
