{"id":1399,"date":"2016-05-20T12:17:18","date_gmt":"2016-05-20T11:17:18","guid":{"rendered":"http:\/\/www.venco.com.pl\/~cozy\/blog\/?p=1399"},"modified":"2016-05-20T12:17:18","modified_gmt":"2016-05-20T11:17:18","slug":"metoda-najmniejszych-kwadratow","status":"publish","type":"post","link":"http:\/\/u239160.webh.me\/jakisproblem.pl\/index.php\/2016\/05\/20\/metoda-najmniejszych-kwadratow\/","title":{"rendered":"Metoda najmniejszych kwadrat\u00f3w"},"content":{"rendered":"<p><b>Metoda najmniejszych kwadrat\u00f3w\u00a0<\/b>jest jedn\u0105 z najwa\u017cniejszych i najstarszych metod obliczeniowych w statystyce. Metoda ta ma na celu wyznaczenie linii regresji, linii trendu dla zebranych danych. Stosowana jest ona zar\u00f3wno do oszacowania zale\u017cno\u015bci liniowej jak r\u00f3wnie\u017c nieliniowej, jednak\u017ce posta\u0107 liniowa jest naj\u0142atwiejsza do wyt\u0142umaczenia i na niej skupimy nasz\u0105 uwag\u0119. Pos\u0142u\u017cmy si\u0119 przyk\u0142adem:<\/p>\n<p>Badacz na podstawie zebranych danych skonstruowa\u0142 za pomoc\u0105 analizy regresji model regresyjny, w kt\u00f3rym wykaza\u0142 zale\u017cno\u015b\u0107 liniow\u0105 pomi\u0119dzy poziomem inteligencji uczni\u00f3w a ich uzyskiwanymi stopniami z matematyki. Dzi\u0119ki temu, znaj\u0105c poziom inteligencji danego ucznia mo\u017ce on przewidywa\u0107, prognozowa\u0107 (z pewnym b\u0142\u0119dem) jego stopnie z matematyki.<\/p>\n<p><b>Metoda najmniejszych kwadrat\u00f3w\u00a0<\/b>(pe\u0142na nazwa: metoda najmniejszych kwadrat\u00f3w b\u0142\u0119d\u00f3w) ma na celu dopasowanie do zebranych danych, pary wynik\u00f3w (poziom IQ oraz oceny z matematyki) takiej linii prostej (model liniowy), kt\u00f3ra jest do nich najlepiej dopasowana (obliczeniowo). Popatrzymy na wykres rozrzutu poni\u017cej<\/p>\n<p><img decoding=\"async\" src=\"http:\/\/www.naukowiec.org\/images\/upload\/reg_lin2.jpg\" alt=\"wykres regresji\" \/><\/p>\n<p>Aby jak najlepiej zrozumie\u0107 metod\u0119 najmniejszych kwadrat\u00f3w b\u0119dziemy pracowa\u0107 na linii, kt\u00f3ra ju\u017c zosta\u0142a obliczona. Pogrubiona linia prosta jest lini\u0105 regresji wyprowadzon\u0105 metod\u0105 najmniejszych kwadrat\u00f3w. Punkty a, b, c, d, e i pozosta\u0142e okre\u015blaj\u0105 zaobserwowane warto\u015bci poziomu IQ i ocen\u0119 z matematyki u poszczeg\u00f3lnych badanych os\u00f3b. Linia pionowa (cie\u0144sze proste linie) pomi\u0119dzy lini\u0105 regresji a punktem stanowi b\u0142\u0105d oszacowania naszego modelu. Nasz model zak\u0142ada, \u017ce gdy osoba ma IQ oko\u0142o 90 pkt to jego \u015brednia ocena z matematyki powinna wynosi\u0107 oko\u0142o 2,8. Jednak\u017ce widzimy, \u017ce osoby, kt\u00f3re maj\u0105 taki poziom IQ nie zawsze maj\u0105 oceny na tym poziomie, raz maj\u0105 lepsze oceny raz gorsze. R\u00f3\u017cnica pomi\u0119dzy oszacowan\u0105 lini\u0105 regresji a faktycznym wynikiem stanowi b\u0142\u0105d oszacowania. Dla pozosta\u0142ych punkt\u00f3w (obserwacji, os\u00f3b badanych) r\u00f3wnie\u017c mo\u017cemy wyliczy\u0107 b\u0142\u0105d tego oszacowania.\u00a0<b>Metoda najmniejszych kwadrat\u00f3w\u00a0<\/b>wyprowadza tak\u0105 lini\u0119 prost\u0105, dla kt\u00f3rej suma kwadrat\u00f3w tych b\u0142\u0119d\u00f3w b\u0119dzie najni\u017csza. M\u00f3wi\u0105c pro\u015bciej&#8230; metoda dopasowuje tak\u0105 lini\u0119 do zebranych danych, aby og\u00f3lny b\u0142\u0105d oszacowania (dla wszystkich danych) by\u0142 jak najmniejszy. Ka\u017cda inna linia, o innym nachyleniu, warto\u015bci pocz\u0105tkowej (punkt przeci\u0119cia si\u0119 z osi\u0105 Ocena z matematyki), po obliczeniach, dostarcza\u0142aby wi\u0119kszy b\u0142\u0105d oszacowania.<\/p>\n<p><script type=\"text\/javascript\" src=\"http:\/\/cdn.mathjax.org\/mathjax\/latest\/MathJax.js?config=TeX-AMS-MML_HTMLorMML\"><\/script><\/p>\n<p>Z matematycznego punktu widzenia do wyliczenia wsp&oacute;\u0142czynnik&oacute;w regresji (linii prostej) metod\u0105 najmniejszych kwadrat&oacute;w musimy w zbiorze danych obliczy\u0107:&nbsp;<\/span><\/p>\n<p><span>iloczyn pomi\u0119dzy warto\u015bciami zmiennej zale\u017cnej i predyktora: \\(X \\cdot Y\\)<\/span><\/p>\n<aside class=\"advertisement center-align desktop-width-336 desktop-height-280 mobile-width-300 mobile-height-300\" >\n<h2 class=\"hidden\">reklama sponsorowana<\/h2>\n<p><ins\n            class=\"adsbygoogle \"\n            style=\"display:block; width: 100%; height: 100%;\"\n            data-ad-client=\"ca-pub-9813249257095380\"\n            data-ad-slot=\"4483240153\"\n            data-ad-format=\"auto\"><br \/>\n        <\/ins><script>(adsbygoogle = window.adsbygoogle || []).push({});<\/script><\/aside>\n<p><span>\u015bredni\u0105 dla zmiennej zale\u017cnej: \\(\\bar{Y}\\)<\/span><br \/><span>\u015bredni\u0105 dla predyktora:<span>&nbsp;\\(\\bar{X}\\)<\/span><\/span><br \/><span>sum\u0119 wynik&oacute;w predyktora poniesionych do kwadratu: \\(\\Sigma X^2\\)<\/span><br \/><span>\\(N\\) oznacza liczebno\u015b\u0107 obserwacji&nbsp;<\/span><\/p>\n<p><span>Nast\u0119pnie korzystamy ze wzor&oacute;w:&nbsp;<\/span><\/p>\n<p><span>wsp&oacute;\u0142czynnik \\(b = \\dfrac{\\Sigma(X \\cdot Y) &#8211; N \\cdot \\bar{X} \\cdot \\bar{Y}}{\\Sigma X^2 &#8211; N \\cdot \\bar{X}^2}\\)<\/p>\n<p><\/span><span>wsp&oacute;\u0142czynnik \\(a = \\bar{Y} &#8211; b \\cdot \\bar{X}\\)<\/p>\n<p><\/span><span>Przy czym linia prosta ma posta\u0107: \\(Y = bx + a\\)<\/span><span>&nbsp;<\/p>\n<p><strong>Metoda najmniejszych kwadrat\u00f3w<\/strong> zawsze dostarcza nam takiego rozwi\u0105zania, gdzie wielko\u015b\u0107 sumy kwadrat\u00f3w b\u0142\u0119d\u00f3w jest najni\u017csza.<\/p>\n<p>Jednak\u017ce metoda ta nie jest pozbawiona wad. Ot\u00f3\u017c metoda najmniejszych kwadrat\u00f3w nie jest odporna na warto\u015bci odstaj\u0105ce w zbiorze danych. Powodem tego jest fakt, \u017ce warto\u015b\u0107 odstaj\u0105ca &#8222;poci\u0105ga&#8221; za sob\u0105 lini\u0119 regresji. Gdyby nie by\u0142o warto\u015bci odstaj\u0105cej linia by\u0142aby inna, zdecydowanie lepiej dopasowana do wszystkich innych obserwacji, a tak warto\u015b\u0107 odstaj\u0105ca zmienia kierunek linii i powoduje, \u017ce model traci swoj\u0105 &#8222;moc przewidywania&#8221; dla pozosta\u0142ych obserwacji. W takim przypadku w analizie regresji eliminuje si\u0119 przypadki odstaj\u0105ce z bazy danych, aby nie zak\u0142\u00f3ca\u0142y one og\u00f3lnej postaci linii regresji.<\/p>\n<p>&nbsp;<\/p>\n<p>\u017ar\u00f3d\u0142o:\u00a0http:\/\/www.naukowiec.org\/wiedza\/statystyka\/metoda-najmniejszych-kwadratow_733.html\\<\/p>\n<p>&nbsp;<\/p>\n","protected":false},"excerpt":{"rendered":"<p class=\"excerpt\">Metoda najmniejszych kwadrat\u00f3w\u00a0jest jedn\u0105 z najwa\u017cniejszych i najstarszych metod obliczeniowych w statystyce. Metoda ta ma na celu wyznaczenie linii regresji, linii trendu dla zebranych danych. Stosowana jest ona zar\u00f3wno do oszacowania zale\u017cno\u015bci liniowej jak r\u00f3wnie\u017c nieliniowej, jednak\u017ce posta\u0107 liniowa jest naj\u0142atwiejsza do wyt\u0142umaczenia i na niej skupimy nasz\u0105 uwag\u0119. Pos\u0142u\u017cmy si\u0119 przyk\u0142adem: Badacz na podstawie&hellip;<\/p>\n<p class=\"more-link-p\"><a class=\"more-link\" href=\"http:\/\/u239160.webh.me\/jakisproblem.pl\/index.php\/2016\/05\/20\/metoda-najmniejszych-kwadratow\/\">Read more &rarr;<\/a><\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1],"tags":[11,75],"class_list":["post-1399","post","type-post","status-publish","format-standard","hentry","category-bez-kategorii","tag-matematyka","tag-statystyka"],"_links":{"self":[{"href":"http:\/\/u239160.webh.me\/jakisproblem.pl\/index.php\/wp-json\/wp\/v2\/posts\/1399","targetHints":{"allow":["GET"]}}],"collection":[{"href":"http:\/\/u239160.webh.me\/jakisproblem.pl\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"http:\/\/u239160.webh.me\/jakisproblem.pl\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"http:\/\/u239160.webh.me\/jakisproblem.pl\/index.php\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"http:\/\/u239160.webh.me\/jakisproblem.pl\/index.php\/wp-json\/wp\/v2\/comments?post=1399"}],"version-history":[{"count":0,"href":"http:\/\/u239160.webh.me\/jakisproblem.pl\/index.php\/wp-json\/wp\/v2\/posts\/1399\/revisions"}],"wp:attachment":[{"href":"http:\/\/u239160.webh.me\/jakisproblem.pl\/index.php\/wp-json\/wp\/v2\/media?parent=1399"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"http:\/\/u239160.webh.me\/jakisproblem.pl\/index.php\/wp-json\/wp\/v2\/categories?post=1399"},{"taxonomy":"post_tag","embeddable":true,"href":"http:\/\/u239160.webh.me\/jakisproblem.pl\/index.php\/wp-json\/wp\/v2\/tags?post=1399"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}