Normalverteilung und Regressionsanalyse

Die Voraussetzung der Normalverteilung der Variablen bei der Regressionsanalyse ist ein Luxus-Problem, das eher auf einem Missverständnis beruht und keine Voraussetzung für die Regressionsanalyse darstellt. Zurückzuführen ist das Missverständnis wahrscheinlich darauf, dass die Residuen normalverteilt sein sollten und dass die Auswahl des richtigen Regressionsverfahrens von der Verteilungseigenschaften der Zielvariable (Abhängige Variable) abhängt.

Nach Gellman [2] Seite 45 gelten folgende Voraussetzungen für die (lineare) Regressionsanalyse
in absteigender Wichtigkeit
1. Gültigkeit des Models (Validity).
2. Additivität und Linearität.
3. Unabhängigkeit der Fehler (Independence of errors)
4. Gleiche Fehlervarianz (Equal variance of errors)
5. Normalverteilung des Fehlers (Normality of errors)
Die Prüfung dieser Voraussetzungen erfolgt am zweckmäßigsten durch Streudiagramme der Daten und einer Residualanalyse.
Zur Veranschaulichung habe ich hier die Anscombe-Daten [1] untersucht. Der Datensatz beinhaltet 4 Beispieldaten (a, b, c und d) mit den gleichen statistischen Eigenschaften (Mittelwert, Varianz, Korrelation, usw.) aber mit ganz unterschiedlichen Voraussetzungen.


Tab 1: Shapiro-Wilk Normality Test und Kolmogorov-Smirnov-Z
Daten Variablen Statistik shapiro.test KS.Test Normalverteilung
a y.1 7.50 (2.03) W=0.98 p=.947 Z=0.300 p=1.000 ja
x.1 9.00 (3.32) W=0.97 p=.870 Z=0.399 p=.997 ja
b y.2 7.50 (2.03) W=0.83 p=.022 Z=0.300 p=1.000 ja
x.2 9.00 (3.32) W=0.97 p=.870 Z=0.837 p=.486 ja
c y.3 7.50 (2.03) W=0.83 p=.026 Z=0.300 p=1.000 ja
x.3 9.00 (3.32) W=0.97 p=.870 Z=0.639 p=.809 ja
d y.4 7.50 (2.03) W=0.88 p=.091 Z=1.750 p=.004 nein
x.4 9.00 (3.32) W=0.34 p=.000 Z=0.544 p=.929 ja
Bei einem p<0.05 (signifikantes Ergebnis) ist keine Normalverteilung gegeben.

In der Tabelle 1 sind die Mittelwerte mit Standardabweichung sowie der Normalverteilungs-Test abgebildet. Bei Anwendung des Statistik-Programm SPSS wird zur Prüfung auf die Normalverteilung oft der KS-Test empfohlen. Im vorliegenden Beispiel zeigt sich, dass mit Ausnahme des letzten Datensatzes (d) alle Daten annähernd normalverteilt sind, also die Voraussetzung “Normalverteilung” erfüllt ist. In Tabelle 2 sind die Ergebnisse der Regressionsanalyse abgebildet. Es zeigt sich, dass alle Koeffizienten, sowie die Modelgüte identisch sind.

Tab 2: Regression analysis: B (SE)
a b c d
(Intercept) 3.00 (1.12)* 3.00 (1.13)* 3.00 (1.12)* 3.00 (1.12)*
x.1 0.50 (0.12)**
x.2 0.50 (0.12)**
x.3 0.50 (0.12)**
x.4 0.50 (0.12)**
R2 0.67 0.67 0.67 0.67
Adj. R2 0.63 0.63 0.63 0.63
Num. obs. 11 11 11 11
RMSE 1.24 1.24 1.24 1.24
***p < 0.001, **p < 0.01, *p < 0.05


Zusammenfassend würde man aus den vorliegenden Ergebnissen zu den 4 Datensätzen schließen, dass bei allen 4 Beispielen ein statistisch signifikanter linearer Zusammenhang besteht und nur beim Datensatz (d) hinsichtlich der Normalverteilung Unsicherheiten bestehen.
Betrachtet man aber zusätzlich die Streudiagramme der Daten (Abbildung 1) wird schnell deutlich, dass nur bei Datensatz (a) die Voraussetzung der Linearität gegeben ist und es nur hier gerechtfertigt ist, mittels linearer Regression zu rechnen. Bei den Daten (b) ist eine Kurve (nicht linearer Zusammenhang) gegeben, bei (c) liegt ein Ausreißer vor der das Ergebnis verzerrt und bei (d) ist gar kein Zusammenhang vorhanden sondern das Ergebnis ist nur ein Artefakt eines extremen Ausreißers.

Streudiagramm
Abbildung 1: Streudiagramm
Die Residual-Analyse in Abbildung 2 zeigt deutlich, dass nur Datensatz (a) die Voraussetzungen erfüllt. Wenn man sich also nur auf die klassischen Parameter wie Signifikanz (p-Wert) und R² und auf die falschen Voraussetzungen verlässt, kann es leicht passieren, dass man zu falschen Interpretationen der Ergebnisse kommt.

residuen
Abbildung 2: standartisierte Residuen
Quellen
[1] Anscombe, Francis J. (1973) Graphs in statistical analysis. American Statistician, 27, 17-21.
[2] Gelman, Hill, Data Analysis Using Regression and Multilevel/Hierarchical Models, Cambridge, 2009
[3] Sachs, Lothar; und Jürgen Hedderich, Angewandte Statistik: Methodensammlung mit R; Berlin : Springer Berlin, 2009 Angewandte Statistik: Methodensammlung mit R
[4] Wikipedia Eintrag zu Anscombe, https://de.wikipedia.org/wiki/Anscombe-Quartett, 28-09-2016
[5] Bernhard Baltes-Götz, Lineare Regressionsanalyse mit SPSS, Universität Trier, https://www.uni-trier.de/fileadmin/urt/doku/linreg/linreg.pdf 28-09-2016

Auswertung mit R version 3.3.1 (2016-06-21)

Tagged with:
 

Data manipulation with dplyr

Das Tutorial Data manipulation with dplyr mit Hadley Wickham
ist auf der UseR! 2015 in Aalborg für mich das erste Highlight.

Tutorial UseR! 2015 in Aalborg Dänemark

Tutorial UseR! 2015 in Aalborg Dänemark

Ich denke, da werden gerade mit den Keynotes noch einige weitere Highlights folgen. Neben sehr netten Leuten, mit denen ich mich schon unterhalten konnte, ist auch das Wetter sehr schön hier in Dänemark.

Tagged with:
 

R-Conference 2015

Ich freue mich schon auf die R-Konferenz in Aalborg Ende Juni.
Am 30. Juni startet die diesjährige R-Konferenz in Aalborg mit den Tutorials, wo ich auch teilnehmen werde.

Aalborg.

Bis 3 Juli findet die Konferenz statt, bei der ich dieses mal dabei sein kann.
Die Reise ist gebucht und ich freue mich darauf viele tolle neue Inputs zu bekommen und nette Menschen kennen zu lernen bzw. wieder zu treffen.

Tagged with:
 

30% der Ergebnisse in Studien sind falsch

Der Signifikanztest ist die wahrscheinlich am häufigsten benutzte statistische Prozedur in wissenschaftlichen Arbeiten. Aber es gibt immer wieder kritische Stimmen die mahnen, dass 30% der Ergebnisse in Studien auf Grund der falschen Interpretation von p-Werten falsch sind[1].

Die Zeitschrift Basic and Applied Social Psychology Academic journal bans p-value significance test you will be wrong at least 30% of the time

So sind 30% der Ergebnisse in Studien sind falsch, daher ist eine richtige Interpretation dieser p-Werte sehr wichtig.

Literatur:
[1] Colquhoun, David, An investigation of the false discovery rate and the misinterpretation of p-values 2014/11/19, Royal Society Open Science

 

Neues frisches Statistikprogramm

JASP, a low fat alternative to SPSS, a delicious alternative to R.

JASP ist eine neue Statistiksoftware, die als Alternative zu SPSS verwendet werden kann.
Diese Software ist frei und Open Source. Einige Tests sind schon verwendbar, durch die ständige Weiterentwicklung werden neue Tests implementiert.
Die Oberfläche und das ganze Programm sind schöner und aufgeräumter als SPSS.

Die Funktionsweise der JASP Version 0.4 A ist im Video anschaulich dargestellt.

 

Revolution Analytics von Microsoft aufgekauft

Revolution Analytics programmieren Enterprise Lösungen für R, die für Data Mining in großen Unternehmen oder im akademischen Bereich angewendet werden.

Es ist beachtlich, dass Microsoft in diese Firma einsteigt, die sehr viel mit Open Source macht. Es berichtet Joseph Sirosh in the Official Microsoft Blog darüber. Revolution Analytics hat jetzt einen großen Partner der nicht so bekannt ist für die Open Source Programme. Microsoft arbeitet eher im Hintergrund mit Open Source und es ein Indiz darauf, dass Microsoft sein Geschäftsmodell umstellt.

Revolution_Analytics
Quelle: http://www.revolutionanalytics.com/

Ich bin gespannt, welche Veränderungen durch so einen großen Partner auf Revolution Analytics und in weiterer Folge auf die Software R zukommen.

Link: Revolution Analytics

 

Was ist Signifikanz?

In der Zeit.de habe ich einen kleinen Artikel gefunden der recht anschlich erklärt was es mit dem Begriff statistisch Signifikant auf sich hat.
Link: http://www.zeit.de/2014/01/statisitk-wissenschaft-signifikanz

 

Bevölkerungsentwicklung von Österreich

Bei dieser interaktiven Karte der Statistik Austria wird sehr schön die Prognose der Bevölkerungsveränderung von Österreich bis 2050 visualisiert. Durch schöne Visualisierungen werden rasch die Veränderungen offensichtlich.

Mit diesem Link ist eine Vollansicht möglich.

Unter dem Reiter “Karten” sind weitere Themen zu finden.

Via Blog Christoph Chorherr der sich mit den damit verbundenen Herausforderungen und Möglichkeiten beschäftigt.

 

Online Datenquellen aufbereiten

In der Computer -Zeitschrift c’t vom 13-02-2012 habe ich einen Artikel zu einem interessanten Tool Google Refine entdeckt. Mit Google Refine soll es möglich sein große Datensätze aus dem Internet zu sortieren und aufzubereiten.

 

Lineare Regression

Die Bezeichnung Regression stammte historisch gesehen von Francis Galton, er untersuchte den Zusammenhang der Körpergröße von Eltern und Kindern (Regression to the Mean). Ziel der Regressionsanalyse ist eine funktionale Beziehung zwischen zwei Größen zu finden.[1] Mathematisch lässt sich das folgend formulieren Y = a + b*X + e, dabei ist X die unabhängige und Y die abhängige Variable und e der statistische Fehler. Gesucht wird, die “Formel” der Gerade, die in der graphischen Darstellung durch den Mittelwert verläuft. Die Regression ist quasi die Erweiterung der Korrelationsanalyse die ja die Stärke des Zusammenhangs ermittelt.
Die Berechnung kann mit allen gängigen Statistik-Programmen durchführt werden. Auf der Seite der University of Basel (Department of Chemistry) findet sich sogar ein sehr schöner Onlinerechner für Regressionen von Hanspeter Huber. Dort findet man, gut aufbereitet die wichtigsten Formel für die Berechnung.

Die Fortsetzung mit kleinen Beispielen folgt…

[1] Sachs, Lothar; und Jürgen Hedderich; A ngewandte Statistik : Methodensammlung mit R; Berlin : Springer Berlin, 2009 Angewandte Statistik: Methodensammlung mit R Seite 109
[2]Data Analysis Using Regression and Multilevel/Hierarchical Models; Cambridge;2009; Gelman, Hill

Tagged with: