对数几率回归(逻辑回归)

文章目录一、对数几率和对数几率回归二、Sigmoid函数三、极大似然法四、梯度下降法四、Python实现 一、对数几率和对数几率回归 在对数几率回归中,我们将样本的模型输出y∗y^*y∗定义为样本为正例的概率,将y∗1−y∗\frac{y^*}{1-y^*}1−y∗y∗​定义为几率(odds),几率表示的是样本作为正例的相对可能性。将几率取对便可以得到对数几率(log odds,logit)。 logit=log⁡y∗1−y∗logit=\log\frac{y^*}{1-y^*}logit=log1−y∗y∗​ 而对数几率回归(Logistic Regression)则试图从样本集中学