Regresja liniowa i korelacja: zadania z rozwiązaniami krok po kroku

Inaczej: współczynnik korelacji Pearsona · metoda najmniejszych kwadratów

Darmowe zadania z tematu Regresja liniowa i korelacja z rysunkami, podpowiedziami i pełnymi rozwiązaniami. Za każdym razem nowe wartości, na trzech poziomach: współczynnik kierunkowy i wyraz wolny, współczynnik korelacji, prognoza.

Darmowe zadanieŁatwy
xy242352445555660760xy2465060

Tabela podaje 6 par obserwacji x = liczba godzin nauki i y = wynik egzaminu. Użyj prostej najmniejszych kwadratów ŷ = a + b·x. Wyznacz wyraz wolny a.

n = 6
Następne zadanie →
Ćwicz za darmo: Regresja liniowa i korelacjaĆwicz teraz: Regresja liniowa i korelacja5 darmowych zadań dziennie. Bez karty.

Co ćwiczysz

  1. Łatwywspółczynnik kierunkowy i wyraz wolny
  2. Średniwspółczynnik korelacji
  3. Trudnyprognoza

Najważniejsze wzory

Sumy kwadratów
Sxx = Σ(x − x̄)² = Σx² − (Σx)²/n, Sxy = Σxy − ΣxΣy/n
Współczynnik kierunkowy
b = Sxy/Sxx
Wyraz wolny
a = ȳ − b·x̄
Korelacja
r = Sxy/√(SxxSyy)
Reszta
e = y − ŷ

Naucz się tematu Regresja liniowa i korelacja od zera

Wcześniej: Statystyka opisowa

1Czym jest regresja

Dla każdego przypadku mierzysz dwie wielkości, na przykład x = liczba godzin nauki i y = wynik egzaminu. Każda para to jeden punkt na wykresie rozrzutu.

xy123456246810

Jeśli punkty leżą mniej więcej wzdłuż prostej, możesz je opisać prostą i użyć jej do przewidywania y na podstawie x. To regresja liniowa.

ŷ = a + b · x
  • ŷ („y z daszkiem”) to przewidywana wartość y.
  • b to współczynnik kierunkowy (nachylenie): o ile zmienia się ŷ, gdy x rośnie o 1.
  • a to wyraz wolny: wartość ŷ przy x = 0.
Samosprawdzenie Prosta regresji to ŷ = 40 + 5x, gdzie x to godziny nauki, a ŷ przewidywany wynik. Co oznacza 5?
  1. Każda dodatkowa godzina dodaje około 5 punktów
  2. Prosta przechodzi przez (5, 40)
  3. Student, który się nie uczy, uzyskuje 5
  4. Wynik jest 5 razy większy od liczby godzin

Odpowiedź: Każda dodatkowa godzina dodaje około 5 punktów. Współczynnik b to zmiana ŷ na jednostkę x. Przewidywany wynik przy x = 0 to wyraz wolny a = 40, a nie 5.

2Prosta najmniejszych kwadratów

Żadna prosta nie przechodzi przez wszystkie punkty. Pionowa odległość punktu od prostej to jego reszta, e = y − ŷ.

Prosta najmniejszych kwadratów to prosta o najmniejszej możliwej sumie kwadratów reszt. Jej nachylenie i wyraz wolny wynikają z sum odchyleń od średnich:

Sxx = Σ(x − x̄)², Sxy = Σ(x − x̄)(y − ȳ)
b = Sxy / Sxx, a = ȳ − b · x̄

Prosta zawsze przechodzi przez punkt średnich (x̄, ȳ). Dlatego a = ȳ − b · x̄.

Jeśli podano tylko sumy, użyj skrótów Sxx = Σx² − (Σx)²/n i Sxy = Σxy − ΣxΣy/n.

Samosprawdzenie Dla zbioru danych x̄ = 4, ȳ = 10 i b = 2. Ile wynosi wyraz wolny a?
  1. 10
  2. 18
  3. 2
  4. −2

Odpowiedź: 2. a = ȳ − b · x̄ = 10 − 2 · 4 = 2. Dodanie zamiast odjęcia daje 18, a 10 to samo ȳ, co pomija nachylenie.

3Współczynnik korelacji

Współczynnik korelacji Pearsona r mierzy, jak blisko prostej leżą punkty. Zawsze mieści się między −1 a 1.

r = Sxy / √(Sxx · Syy), Syy = Σ(y − ȳ)²
  • r bliskie 1: silny trend rosnący.
  • r bliskie −1: silny trend malejący, na przykład cena samochodu względem jego wieku.
  • r bliskie 0: brak zależności liniowej.

r ma ten sam znak co nachylenie b. Jego kwadrat r² to ułamek zmienności y wyjaśniony przez prostą.

Silna korelacja nie dowodzi, że x powoduje y. Oba mogą zależeć od trzeciej wielkości.

Samosprawdzenie Dla wieku samochodu x i ceny y r = −0,95. Co to mówi?
  1. Obliczenie jest błędne, bo r jest ujemne
  2. Silną malejącą zależność liniową
  3. Starsze samochody kosztują więcej
  4. Słabą zależność

Odpowiedź: Silną malejącą zależność liniową. r bliskie −1 oznacza, że punkty leżą blisko prostej malejącej: cena spada wraz z wiekiem. Ujemne r jest całkowicie poprawne; niemożliwe są tylko wartości spoza przedziału od −1 do 1.

4Metoda krok po kroku

  1. Oblicz średnie x̄ i ȳ.
  2. Zrób tabelę z kolumnami x − x̄, y − ȳ, ich iloczyn i (x − x̄)². Dodaj (y − ȳ)², jeśli pytają o r.
  3. Zsumuj kolumny, aby otrzymać Sxy, Sxx i Syy.
  4. Nachylenie b = Sxy/Sxx, a potem wyraz wolny a = ȳ − b · x̄.
  5. Korelacja r = Sxy/√(SxxSyy).
  6. Przewidywanie: wstaw x do ŷ = a + bx. Reszta: e = y − ŷ.

5Przykład krok po kroku

Przejdź przez każdy krok. Spróbuj przewidzieć następny, zanim go odsłonisz.

Przykład krok po kroku

Zmierzono pięć par: x = 1, 2, 3, 4, 5 oraz y = 3, 5, 6, 8, 8. Znajdź prostą najmniejszych kwadratów ŷ = a + b·x i przewidź ŷ dla x = 6.

1

Średnie

x̄ = 15 / 5 = 3, ȳ = 30 / 5 = 6
2

Odchylenia

x − x̄: −2, −1, 0, 1, 2.

y − ȳ: −3, −1, 0, 2, 2.

3

Sumy

Pomnóż pary: 6, 1, 0, 2, 4. Podnieś odchylenia x do kwadratu: 4, 1, 0, 1, 4.

Sxy = 6 + 1 + 0 + 2 + 4 = 13, Sxx = 4 + 1 + 0 + 1 + 4 = 10
4

Nachylenie i wyraz wolny

b = 13 / 10 = 1,3
a = 6 − 1,3 · 3 = 6 − 3,9 = 2,1
xy123456246810ŷ = 2,1 + 1,3x

Linie przerywane to reszty. Są małe, więc prosta dobrze pasuje.

5

Przewidywanie

ŷ = 2,1 + 1,3 · 6 = 2,1 + 7,8 = 9,9

Sprawdzenie: prosta przechodzi przez punkt średnich, 2,1 + 1,3 · 3 = 6 = ȳ.

Odpowiedź

ŷ = 2,1 + 1,3x, a przewidywanie dla x = 6 to ŷ = 9,9.

6Typowe błędy

  • Obliczenie reszty jako ŷ − y zamiast y − ŷ.
  • Dzielenie przez Syy zamiast przez Sxx przy nachyleniu.
  • Pomylenie a i b: nachylenie mnoży x.
  • Zapomnienie, że r ma ten sam znak co nachylenie.
  • Przewidywanie daleko poza zakresem danych. Prosta może tam nie obowiązywać.
Samosprawdzenie Prosta to ŷ = 2,1 + 1,3x. Zmierzono nowy punkt (6, 8). Jaka jest jego reszta?
  1. 1,9
  2. 17,9
  3. 9,9
  4. −1,9

Odpowiedź: −1,9. ŷ = 2,1 + 1,3 · 6 = 9,9, więc e = y − ŷ = 8 − 9,9 = −1,9. Punkt leży poniżej prostej. Wynik 1,9 liczy ŷ − y, czyli w złą stronę.

7Jak wyglądają zadania egzaminacyjne

  • Łatwe: nachylenie i wyraz wolny. Pięć par w tabeli; znajdź b lub a prostej najmniejszych kwadratów.
  • Średnie: współczynnik korelacji r, z danych albo z podanych sum.
  • Trudne: przewidywanie. Użyj prostej, aby przewidzieć ŷ dla nowego x, albo znajdź resztę nowej obserwacji.

Szybkie sprawdzenie: znak b i r musi zgadzać się z kierunkiem wykresu rozrzutu.

Ucz się krok po kroku w aplikacjiUcz się krok po kroku w aplikacji

Przykłady z rozwiązaniami

Przykład 1Łatwy
xy2441262082210301235xy510102030

Tabela podaje 6 par obserwacji x = obciążenie w kN i y = wydłużenie w mm. Użyj prostej najmniejszych kwadratów ŷ = a + b·x. Wyznacz wyraz wolny a.

n = 6

Oblicz a

Pokaż podpowiedzi
  1. Najpierw wyznacz współczynnik kierunkowy b = Sxy/Sxx.
  2. x̄ = 7, ȳ = 20,5.
  3. Prosta przechodzi przez (x̄, ȳ), więc a = ȳ − b·x̄.
Pokaż odpowiedź i rozwiązanie krok po kroku

Regresja metodą najmniejszych kwadratów: przy średnich x̄ i ȳ oraz Sxx = Σ(x − x̄)², Syy = Σ(y − ȳ)² i Sxy = Σ(x − x̄)(y − ȳ) prosta ŷ = a + b·x ma współczynnik kierunkowy b = Sxy/Sxx i wyraz wolny a = ȳ − b·x̄, więc zawsze przechodzi przez punkt (x̄, ȳ). Współczynnik korelacji Pearsona r = Sxy/√(Sxx·Syy) leży między −1 a 1; r² to część zmienności y wyjaśniona przez prostą.

Średnie

x̄ = 42/6 = 7
ȳ = 123/6 = 20,5

Sumy kwadratów i iloczynów

Sxx = Σ(x − x̄)² = 70
Sxy = Σ(x − x̄)(y − ȳ) = 211

Współczynnik kierunkowy

b = 211/70 = 3,014

Wyraz wolny

a = 20,5 − 3,014·7 = −0,6

Odpowiedź

a = −0,6
Przykład 2Średni
xy1787199921100231242512727146xy2025100120140

Tabela podaje 6 par obserwacji x = temperatura w °C i y = liczba sprzedanych lodów. Podane są ich sumy. Wyznacz z tych sum współczynnik korelacji Pearsona r.

n = 6Σx = 132Σy = 683Σx² = 2974Σy² = 80191Σxy = 15429

Oblicz r

Pokaż podpowiedzi
  1. Sxy = Σxy − Σx·Σy/n.
  2. Sxx = Σx² − (Σx)²/n, Syy = Σy² − (Σy)²/n.
  3. r = Sxy/√(Sxx·Syy).
Pokaż odpowiedź i rozwiązanie krok po kroku

Regresja metodą najmniejszych kwadratów: przy średnich x̄ i ȳ oraz Sxx = Σ(x − x̄)², Syy = Σ(y − ȳ)² i Sxy = Σ(x − x̄)(y − ȳ) prosta ŷ = a + b·x ma współczynnik kierunkowy b = Sxy/Sxx i wyraz wolny a = ȳ − b·x̄, więc zawsze przechodzi przez punkt (x̄, ȳ). Współczynnik korelacji Pearsona r = Sxy/√(Sxx·Syy) leży między −1 a 1; r² to część zmienności y wyjaśniona przez prostą.

Sumy scentrowane

Sxy = 15429 − 132·683/6 = 403
Sxx = 2974 − 132²/6 = 70
Syy = 80191 − 683²/6 = 2443

Współczynnik korelacji

r = 403/√(70·2443) = 0,9746

Odpowiedź

r = 0,9746
Przykład 3Trudny
xy123221318412513xy241520x = 1,5

Tabela podaje 5 par obserwacji x = wiek samochodu w latach i y = cena w tys. €. Użyj prostej najmniejszych kwadratów ŷ = a + b·x. Wyznacz prognozę ŷ dla x = 1,5.

n = 5x = 1,5

Oblicz ŷ

Pokaż podpowiedzi
  1. Najpierw wyznacz prostą najmniejszych kwadratów: b = Sxy/Sxx i a = ȳ − b·x̄.
  2. x̄ = 3, ȳ = 17,4.
  3. ŷ = a + b·1,5.
Pokaż odpowiedź i rozwiązanie krok po kroku

Regresja metodą najmniejszych kwadratów: przy średnich x̄ i ȳ oraz Sxx = Σ(x − x̄)², Syy = Σ(y − ȳ)² i Sxy = Σ(x − x̄)(y − ȳ) prosta ŷ = a + b·x ma współczynnik kierunkowy b = Sxy/Sxx i wyraz wolny a = ȳ − b·x̄, więc zawsze przechodzi przez punkt (x̄, ȳ). Współczynnik korelacji Pearsona r = Sxy/√(Sxx·Syy) leży między −1 a 1; r² to część zmienności y wyjaśniona przez prostą.

Średnie

x̄ = 15/5 = 3
ȳ = 87/5 = 17,4

Sumy kwadratów i iloczynów

Sxx = Σ(x − x̄)² = 10
Sxy = Σ(x − x̄)(y − ȳ) = −29

Prosta regresji

b = −29/10 = −2,9
a = 17,4 − (−2,9)·3 = 26,1
ŷ = 26,1 − 2,9·x

Prognoza

ŷ = 26,1 + (−2,9)·1,5 = 21,75

Odpowiedź

ŷ = 21,75

Pytania i odpowiedzi

Regresja liniowa i korelacja: co to jest?

Dla każdego przypadku mierzysz dwie wielkości, na przykład x = liczba godzin nauki i y = wynik egzaminu. Każda para to jeden punkt na wykresie rozrzutu.

Jeśli punkty leżą mniej więcej wzdłuż prostej, możesz je opisać prostą i użyć jej do przewidywania y na podstawie x. To regresja liniowa.

Regresja liniowa i korelacja: jak rozwiązywać zadania krok po kroku?

Regresja metodą najmniejszych kwadratów: przy średnich x̄ i ȳ oraz Sxx = Σ(x − x̄)², Syy = Σ(y − ȳ)² i Sxy = Σ(x − x̄)(y − ȳ) prosta ŷ = a + b·x ma współczynnik kierunkowy b = Sxy/Sxx i wyraz wolny a = ȳ − b·x̄, więc zawsze przechodzi przez punkt (x̄, ȳ). Współczynnik korelacji Pearsona r = Sxy/√(Sxx·Syy) leży między −1 a 1; r² to część zmienności y wyjaśniona przez prostą.

Regresja liniowa i korelacja: jakie błędy są najczęstsze?
  • Wyraz wolny to a = ȳ − b·x̄: prosta przechodzi przez punkt (x̄, ȳ).
  • ȳ to wysokość prostej w x = x̄, a nie w x = 0. Użyj a = ȳ − b·x̄.
  • Użyj tego samego dzielnika (n lub n − 1) w kowariancji i w obu odchyleniach standardowych. Przy Sxy, Sxx i Syy dzielniki się skracają.
Regresja liniowa i korelacja: co ćwiczysz?
  • Łatwy: współczynnik kierunkowy i wyraz wolny
  • Średni: współczynnik korelacji
  • Trudny: prognoza

Każde zadanie ma nowe wartości, więc uczysz się metody, a nie odpowiedzi. Utknąłeś? Najpierw otwórz małą podpowiedź, a pełne wyjaśnienie dopiero wtedy, gdy go potrzebujesz.

Jak wygląda ćwiczenie

  • Każde zadanie ma nowe wartości, więc uczysz się metody, a nie odpowiedzi.
  • Utknąłeś? Najpierw otwórz małą podpowiedź, a pełne wyjaśnienie dopiero wtedy, gdy go potrzebujesz.
  • Twoje postępy, błędy i zapisane zadania są zachowywane, więc możesz je powtórzyć przed egzaminem.

Tematy przed tym i po nim

Najpierw naucz się

Statystyka opisowa

Kalkulatory

Kalkulator regresji liniowejKalkulator współczynnika korelacji (Pearsona i Spearmana)

Przedmioty z tym tematem

Metodologia badań i statystyka w psychologiiWstęp do statystykiStatystyka 2: Wnioskowanie statystyczneZadania do ćwiczeń z AP StatisticsĆwiczenia z metod ilościowych i instrumentów dłużnych do CFA Level I

Więcej tematów: Matematyka i statystyka

GranicePochodneOptymalizacjaCałkiCiągi i szeregiRachunek różniczkowy i całkowy wielu zmiennychRównania różniczkoweLiczby zespoloneMetody numeryczneMacierze i wyznacznikiWektory: iloczyn skalarny i wektorowyRachunek zdań i dowodyZbiory, relacje i funkcjeTeoria grafówTeoria liczb i arytmetyka modularnaPrawdopodobieństwoStatystyka opisowaRozkład normalnyPrzedziały ufnościTesty hipotez i przedziały ufnościTesty chi-kwadrat

Karta pracy do druku

Regresja liniowa i korelacja: karta pracy z odpowiedziami
Ćwicz za darmo: Regresja liniowa i korelacjaĆwicz teraz: Regresja liniowa i korelacja5 darmowych zadań dziennie. Bez karty.