区别一
<b>朴素贝叶斯是生成式模型</b>
根据已有样本进行贝叶斯估计学习出先验概率<span class="equation-text" contenteditable="false" data-index="0" data-equation="P(Y)"><span></span><span></span></span>和条件概率<span class="equation-text" data-index="1" data-equation="P(X|Y)" contenteditable="false"><span></span><span></span></span>，
进而求出联合分布概率<span class="equation-text" contenteditable="false" data-index="0" data-equation="P(XY),"><span></span><span></span></span>
<span class="equation-text" contenteditable="false" data-index="0" data-equation="P(XY) = P(X|Y) P(Y)"><span></span><span></span></span>
最后利用贝叶斯定理求解<span class="equation-text" contenteditable="false" data-index="0" data-equation="P(Y|X)"><span></span><span></span></span>
<b>LR是判别式模型</b>
根据<b>极大化对数似然函数</b>直接求出条件概率<span class="equation-text" contenteditable="false" data-index="0" data-equation="P(Y|X)"><span></span><span></span></span>
区别二
朴素贝叶斯是基于很强的<b>条件独立假设</b>（在已知分类Y的条件下，各个特征变量取值是相互独立的）
而LR则对此没有要求
<b>判别式 & 生成式</b>
从概率框架的角度来理解机器学习；主要有两种策略：
<b>- 判别式模型 (discriminative models)：</b>给定<span class="equation-text" data-index="0" data-equation=" x" contenteditable="false"><span></span><span></span></span>， 可通过直接建模<span class="equation-text" data-index="1" data-equation=" P(c |x)" contenteditable="false"><span></span><span></span></span> 来预测 <span class="equation-text" contenteditable="false" data-index="2" data-equation="c"><span></span><span></span></span><br>
<b>- 生成式模型 (generative models) </b>：也可先对联合概率分布 <span class="equation-text" data-index="0" data-equation="P(x,c)" contenteditable="false"><span></span><span></span></span> 建模，然后再由此获得 <span class="equation-text" contenteditable="false" data-index="1" data-equation="P(c |x)"><span></span><span></span></span>
显然，前面介绍的逻辑回归、决策树、都可归入判别式模型的范畴，还有后面学到的BP神经网络支持向量机等；
对生成式模型来说，必然需要考虑 <span class="equation-text" contenteditable="false" data-index="0" data-equation="P(c|x) = \frac {P(x,c)}{P(x)}"><span></span><span></span></span>
<ul><li><b>常见生成式模型</b>：决策树、朴素贝叶斯、隐马尔可夫模型、条件随机场、概率潜在语义分析、潜在狄利克雷分配、高斯混合模型</li><li><b>常见判别式模型</b>：感知机、支持向量机、K临近、Adaboost、K均值、潜在语义分析、神经网络 <br> 逻辑回归既可以看做是生成式也可以看做是判别式</li></ul>
