Einflussreiche Beobachtungen im Modell
Das Ergebnis (die Koeffizienten) eines Regressionsmodells kann von einzelnen Beobachtungen stark beeinflusst werden. Dieser Effekt ist unerwünscht, da jede Beobachtung gleich viel zum Modell beitragen sollte. Es gibt mehrere Erklärungen dafür, warum eine oder wenige Beobachtungen einen zu großen Einfluss auf das Modell haben:
- Es gibt im Verhältnis zur Komplexität des Modells zu wenige Beobachtungen. In der Regel bedeutet dies, dass das Modell im Verhältnis zur Anzahl der Beobachtungen zu viele Prädiktoren enthält.
- Extremwerte des Prädiktors X können den Regressionskoeffizienten beeinflussen. Patienten mit Extremwerten können (gegebenenfalls) ausgeschlossen werden, wenn der Wert extrem ist und zudem nicht repräsentativ für die untersuchte Population ist. Das bedeutet auch, dass biologisch nicht plausible Werte ausgeschlossen werden können.
- Manche Beobachtungen weisen Werte (der Prädiktoren) auf, die nicht mit dem Outcome übereinstimmen. Kommen viele solcher Beobachtungen in der Population vor, kann dies den Zusammenhang zwischen den Prädiktoren und dem Outcome verändern. Dies sollte jedoch nicht zum Ausschluss der Patienten führen, da man sonst riskiert, einen Selektionsbias einzuführen.
Man kann von der Verteilung einer Variablen ausgehen, um Patienten mit extremen Werten auszuschließen. Dies erfordert jedoch sorgfältige Überlegung und Begründung. Es ist außerdem möglich, zu quantifizieren, wie stark der Einfluss einer Beobachtung auf das Modell ist. Dazu berechnet man den Leverage. In R gibt es dafür fertige Funktionen. Leverage ist definiert als die Fähigkeit einer Beobachtung, das Modell zu beeinflussen.