R - 逻辑回归

逻辑回归是一种回归模型，其中响应变量（因变量）具有分类值，例如真/假或 0/1。它实际上是根据将响应变量与预测变量联系起来的数学方程，来衡量二元响应的概率。

逻辑回归的一般数学方程为：

y = 1/(1+e^-(a+b1x1+b2x2+b3x3+...))

以下是所用参数的描述：

• y 是响应变量。

• x 是预测变量。

• a 和 b 是系数，它们是数值常数。

用于创建回归模型的函数是glm()函数。

语法

逻辑回归中glm()函数的基本语法为：

glm(formula,data,family)

以下是所用参数的描述：

• formula 是表示变量之间关系的符号。

• data 是提供这些变量值的数据集。

• family 是 R 对象，用于指定模型的详细信息。对于逻辑回归，其值为 binomial。

示例

内置数据集“mtcars”描述了不同型号汽车及其各种发动机规格。在“mtcars”数据集中，变速模式（自动或手动）由列 am 表示，它是一个二元值（0 或 1）。我们可以创建列“am”与其他三列之间的逻辑回归模型 - hp、wt 和 cyl。

# Select some columns form mtcars.
input <- mtcars[,c("am","cyl","hp","wt")]

print(head(input))

执行上述代码后，将产生以下结果：

                  am   cyl  hp    wt
Mazda RX4          1   6    110   2.620
Mazda RX4 Wag      1   6    110   2.875
Datsun 710         1   4     93   2.320
Hornet 4 Drive     0   6    110   3.215
Hornet Sportabout  0   8    175   3.440
Valiant            0   6    105   3.460

创建回归模型

我们使用glm()函数创建回归模型并获取其摘要以进行分析。

input <- mtcars[,c("am","cyl","hp","wt")]

am.data = glm(formula = am ~ cyl + hp + wt, data = input, family = binomial)

print(summary(am.data))

执行上述代码后，将产生以下结果：

Call:
glm(formula = am ~ cyl + hp + wt, family = binomial, data = input)

Deviance Residuals: 
     Min        1Q      Median        3Q       Max  
-2.17272     -0.14907  -0.01464     0.14116   1.27641  

Coefficients:
            Estimate Std. Error z value Pr(>|z|)  
(Intercept) 19.70288    8.11637   2.428   0.0152 *
cyl          0.48760    1.07162   0.455   0.6491  
hp           0.03259    0.01886   1.728   0.0840 .
wt          -9.14947    4.15332  -2.203   0.0276 *
---
Signif. codes:  0 ‘***’ 0.001 ‘**’ 0.01 ‘*’ 0.05 ‘.’ 0.1 ‘ ’ 1

(Dispersion parameter for binomial family taken to be 1)

    Null deviance: 43.2297  on 31  degrees of freedom
Residual deviance:  9.8415  on 28  degrees of freedom
AIC: 17.841

Number of Fisher Scoring iterations: 8

结论

在摘要中，由于最后一列中的 p 值对于变量“cyl”和“hp”都大于 0.05，因此我们认为它们对变量“am”的值贡献不显著。在这个回归模型中，只有重量 (wt) 影响“am”的值。