线性回归与相关：练习题及分步解答

免费的线性回归与相关练习题，附图示、提示和完整详细解答。每次数值都不同，分三个难度：斜率与截距, 相关系数, 预测。

免费练习题简单
xy242352445555660760xy2465060

表中给出 6 对观测值 x = 学习小时数 和 y = 考试成绩。 使用最小二乘直线 ŷ = a + b·x。 求截距 a。

n = 6
下一题 →
免费练习线性回归与相关立即练习线性回归与相关每天 5 道免费题目，无需绑定银行卡。

练习内容

  1. 简单斜率与截距
  2. 中等相关系数
  3. 困难预测

关键公式

平方和
Sxx = Σ(x − x̄)² = Σx² − (Σx)²/n, Sxy = Σxy − ΣxΣy/n
斜率
b = Sxy/Sxx
截距
a = ȳ − b·x̄
相关系数
r = Sxy/√(SxxSyy)
残差
e = y − ŷ

从零开始学习线性回归与相关

学习本课之前： 描述统计

1什么是回归

你对每个个案测量两个量，例如 x = 学习小时数，y = 考试成绩。每一对数据是散点图上的一个点。

xy123456246810

如果这些点大致沿一条直线分布，你可以用一条直线来描述它们，并用它由 x 预测 y。这就是线性回归。

ŷ = a + b · x
  • ŷ（读作“y hat”）是 y 的预测值。
  • b 是斜率：x 增加 1 时 ŷ 变化多少。
  • a 是截距：x = 0 时 ŷ 的值。
自测 一条回归线是 ŷ = 40 + 5x，其中 x 是学习小时数，ŷ 是预测成绩。5 是什么意思？
  1. 一个不学习的学生得 5 分
  2. 成绩是学习小时数的 5 倍
  3. 每多学一小时，大约多得 5 分
  4. 这条线经过 (5, 40)

答案: 每多学一小时，大约多得 5 分. 斜率 b 是 x 每增加一个单位时 ŷ 的变化。x = 0 时的预测成绩是截距 a = 40，不是 5。

2最小二乘直线

没有一条直线会经过每个点。点到直线的垂直距离是它的残差，e = y − ŷ。

最小二乘直线是使残差平方和尽可能小的那条直线。它的斜率和截距由与均值之差的和得出：

Sxx = Σ(x − x̄)², Sxy = Σ(x − x̄)(y − ȳ)
b = Sxy / Sxx, a = ȳ − b · x̄

这条直线总是经过均值点 (x̄, ȳ)。所以 a = ȳ − b · x̄。

如果只给出各项的和，使用捷径 Sxx = Σx² − (Σx)²/n 和 Sxy = Σxy − ΣxΣy/n。

自测 对于一组数据，x̄ = 4，ȳ = 10，b = 2。截距 a 是多少？
  1. 10
  2. 18
  3. 2
  4. −2

答案: 2. a = ȳ − b · x̄ = 10 − 2 · 4 = 2。相加而不是相减会得到 18，10 就是 ȳ 本身，是忘了斜率。

3相关系数

皮尔逊相关系数 r 衡量这些点离直线有多近。它总是介于 −1 和 1 之间。

r = Sxy / √(Sxx · Syy), Syy = Σ(y − ȳ)²
  • r 接近 1：强烈的上升趋势。
  • r 接近 −1：强烈的下降趋势，如汽车价格与车龄。
  • r 接近 0：没有直线关系。

r 的符号与斜率 b 相同。它的平方 r² 是直线所解释的 y 的变化所占的比例。

强相关并不证明 x 导致 y。二者可能都取决于第三个量。

自测 对于车龄 x 和价格 y，r = −0.95。这说明什么？
  1. 弱关系
  2. 强烈的下降的直线关系
  3. 旧车更贵
  4. 计算错了，因为 r 是负的

答案: 强烈的下降的直线关系. r 接近 −1 意味着这些点靠近一条下降的直线：车龄越大，价格越低。负的 r 完全有效；只有超出 −1 到 1 的值才是不可能的。

4分步方法

  1. 计算均值 x̄ 和 ȳ。
  2. 列一张表，包含 x − x̄、y − ȳ、二者的乘积以及 (x − x̄)² 各列。如果要求 r，再加上 (y − ȳ)²。
  3. 把各列相加，得到 Sxy、Sxx 和 Syy。
  4. 斜率 b = Sxy/Sxx，然后截距 a = ȳ − b · x̄。
  5. 相关系数 r = Sxy/√(SxxSyy)。
  6. 预测：把 x 代入 ŷ = a + bx。残差：e = y − ŷ。

5例题讲解

跟着每一步走。打开下一步之前，先试着预测它。

例题讲解

测得五对数据：x = 1、2、3、4、5，y = 3、5、6、8、8。求最小二乘直线 ŷ = a + b·x，并预测 x = 6 时的 ŷ。

1

均值

x̄ = 15 / 5 = 3, ȳ = 30 / 5 = 6
2

偏差

x − x̄：−2、−1、0、1、2。

y − ȳ：−3、−1、0、2、2。

3

各项的和

把每对相乘：6、1、0、2、4。x 的偏差平方：4、1、0、1、4。

Sxy = 6 + 1 + 0 + 2 + 4 = 13, Sxx = 4 + 1 + 0 + 1 + 4 = 10
4

斜率与截距

b = 13 / 10 = 1.3
a = 6 − 1.3 · 3 = 6 − 3.9 = 2.1
xy123456246810ŷ = 2.1 + 1.3x

虚线是残差。它们很小，所以直线拟合得很好。

5

预测

ŷ = 2.1 + 1.3 · 6 = 2.1 + 7.8 = 9.9

检验：直线经过均值点，2.1 + 1.3 · 3 = 6 = ȳ。

答案

ŷ = 2.1 + 1.3x，x = 6 时的预测值为 ŷ = 9.9。

6常见错误

  • 把残差算成 ŷ − y 而不是 y − ŷ。
  • 求斜率时除以 Syy 而不是 Sxx。
  • 混淆 a 和 b：斜率是乘 x 的那个。
  • 忘了 r 与斜率同号。
  • 在数据范围之外很远的地方做预测。那里直线可能不再成立。
自测 直线为 ŷ = 2.1 + 1.3x。测得一个新点 (6, 8)。它的残差是多少？
  1. 1.9
  2. 17.9
  3. 9.9
  4. −1.9

答案: −1.9. ŷ = 2.1 + 1.3 · 6 = 9.9，所以 e = y − ŷ = 8 − 9.9 = −1.9。该点在直线下方。1.9 算的是 ŷ − y，方向反了。

7考试题是什么样的

  • 简单：斜率和截距。表中有五对数据；求最小二乘直线的 b 或 a。
  • 中等：相关系数 r，由数据或由给定的和求得。
  • 困难：预测。用直线预测新 x 对应的 ŷ，或求新观测值的残差。

快速检查：b 和 r 的符号必须与散点图的方向一致。

在应用中一步一步地学在应用中一步一步地学

例题详解

例题 1简单
xy2441262082210301235xy510102030

表中给出 6 对观测值 x = 荷载 (kN) 和 y = 伸长量 (mm)。 使用最小二乘直线 ŷ = a + b·x。 求截距 a。

n = 6

求： a

显示提示
  1. 先求斜率 b = Sxy/Sxx。
  2. x̄ = 7, ȳ = 20.5.
  3. 直线通过 (x̄, ȳ)，所以 a = ȳ − b·x̄。
显示答案和分步解答

最小二乘回归：设 x̄ 和 ȳ 为均值，Sxx = Σ(x − x̄)²，Syy = Σ(y − ȳ)²，Sxy = Σ(x − x̄)(y − ȳ)，则直线 ŷ = a + b·x 的斜率 b = Sxy/Sxx，截距 a = ȳ − b·x̄，因此它总是通过 (x̄, ȳ)。皮尔逊相关系数 r = Sxy/√(Sxx·Syy) 介于 −1 与 1 之间；r² 是 y 的变异中能被该直线解释的比例。

均值

x̄ = 42/6 = 7
ȳ = 123/6 = 20.5

平方和与乘积和

Sxx = Σ(x − x̄)² = 70
Sxy = Σ(x − x̄)(y − ȳ) = 211

斜率

b = 211/70 = 3.014

截距

a = 20.5 − 3.014·7 = −0.6

答案

a = −0.6
例题 2中等
xy1787199921100231242512727146xy2025100120140

表中给出 6 对观测值 x = 温度 (°C) 和 y = 冰淇淋销量。 已给出它们的各项和。由这些和求皮尔逊相关系数 r。

n = 6Σx = 132Σy = 683Σx² = 2974Σy² = 80191Σxy = 15429

求： r

显示提示
  1. Sxy = Σxy − Σx·Σy/n.
  2. Sxx = Σx² − (Σx)²/n, Syy = Σy² − (Σy)²/n.
  3. r = Sxy/√(Sxx·Syy).
显示答案和分步解答

最小二乘回归：设 x̄ 和 ȳ 为均值，Sxx = Σ(x − x̄)²，Syy = Σ(y − ȳ)²，Sxy = Σ(x − x̄)(y − ȳ)，则直线 ŷ = a + b·x 的斜率 b = Sxy/Sxx，截距 a = ȳ − b·x̄，因此它总是通过 (x̄, ȳ)。皮尔逊相关系数 r = Sxy/√(Sxx·Syy) 介于 −1 与 1 之间；r² 是 y 的变异中能被该直线解释的比例。

中心化后的和

Sxy = 15429 − 132·683/6 = 403
Sxx = 2974 − 132²/6 = 70
Syy = 80191 − 683²/6 = 2443

相关系数

r = 403/√(70·2443) = 0.9746

答案

r = 0.9746
例题 3困难
xy123221318412513xy241520x = 1.5

表中给出 5 对观测值 x = 车龄（年） 和 y = 价格 (k€)。 使用最小二乘直线 ŷ = a + b·x。 预测 x = 1.5 时的 ŷ。

n = 5x = 1.5

求： ŷ

显示提示
  1. 先求最小二乘直线：b = Sxy/Sxx，a = ȳ − b·x̄。
  2. x̄ = 3, ȳ = 17.4.
  3. ŷ = a + b·1.5.
显示答案和分步解答

最小二乘回归：设 x̄ 和 ȳ 为均值，Sxx = Σ(x − x̄)²，Syy = Σ(y − ȳ)²，Sxy = Σ(x − x̄)(y − ȳ)，则直线 ŷ = a + b·x 的斜率 b = Sxy/Sxx，截距 a = ȳ − b·x̄，因此它总是通过 (x̄, ȳ)。皮尔逊相关系数 r = Sxy/√(Sxx·Syy) 介于 −1 与 1 之间；r² 是 y 的变异中能被该直线解释的比例。

均值

x̄ = 15/5 = 3
ȳ = 87/5 = 17.4

平方和与乘积和

Sxx = Σ(x − x̄)² = 10
Sxy = Σ(x − x̄)(y − ȳ) = −29

回归直线

b = −29/10 = −2.9
a = 17.4 − (−2.9)·3 = 26.1
ŷ = 26.1 − 2.9·x

预测

ŷ = 26.1 + (−2.9)·1.5 = 21.75

答案

ŷ = 21.75

问与答

什么是线性回归与相关？

你对每个个案测量两个量，例如 x = 学习小时数，y = 考试成绩。每一对数据是散点图上的一个点。

如果这些点大致沿一条直线分布，你可以用一条直线来描述它们，并用它由 x 预测 y。这就是线性回归。

线性回归与相关题目如何一步步求解？

最小二乘回归：设 x̄ 和 ȳ 为均值，Sxx = Σ(x − x̄)²，Syy = Σ(y − ȳ)²，Sxy = Σ(x − x̄)(y − ȳ)，则直线 ŷ = a + b·x 的斜率 b = Sxy/Sxx，截距 a = ȳ − b·x̄，因此它总是通过 (x̄, ȳ)。皮尔逊相关系数 r = Sxy/√(Sxx·Syy) 介于 −1 与 1 之间；r² 是 y 的变异中能被该直线解释的比例。

线性回归与相关有哪些常见错误？
  • 截距为 a = ȳ − b·x̄：直线通过 (x̄, ȳ)。
  • ȳ 是直线在 x = x̄ 处的高度，而不是在 x = 0 处。用 a = ȳ − b·x̄。
  • 协方差和两个标准差要使用相同的除数（n 或 n − 1）。用 Sxy、Sxx 和 Syy 时除数会约去。
线性回归与相关练习包括哪些内容？
  • 简单: 斜率与截距
  • 中等: 相关系数
  • 困难: 预测

每道题的数值都不同，让你掌握方法，而不是记住答案。 卡住了？先打开一个小提示，需要时再查看完整解析。

练习方式

  • 每道题的数值都不同，让你掌握方法，而不是记住答案。
  • 卡住了？先打开一个小提示，需要时再查看完整解析。
  • 你的进度、错题和收藏的题目都会保留，方便考前复习。

本主题的前后主题

先学习

描述统计

计算器

线性回归计算器相关系数计算器（皮尔逊和斯皮尔曼）

包含此主题的课程

心理学研究方法与统计统计学基础统计学（二）：统计推断AP Statistics 练习题CFA Level I 定量方法与固定收益练习

数学与统计中的更多主题

极限导数最优化积分数列与级数多元微积分微分方程复数数值方法矩阵与行列式向量：点积和叉积命题逻辑与证明集合、关系与函数图论数论与模运算概率描述统计正态分布置信区间假设检验与置信区间卡方检验

可打印练习卷

线性回归与相关练习卷（附答案）
免费练习线性回归与相关立即练习线性回归与相关每天 5 道免费题目，无需绑定银行卡。