Beurteilung eines Klassifikators

Im Rahmen einer Klassifizierung von Objekten lassen ein oder mehrere spezielle Merkmale, als Klassifikatoren bezeichnet, eine Auftrennung in Klassen zu. Wird mit einem Test auf ein Merkmal die Klassenzugehörigkeit ermittelt, können verschiedene Arten von Zuordnungsfehlern auftreten. Aus diesen lassen sich verschiedene statistische Kennwerte wie Sensitivität, Spezifität, Relevanz und Segreganz errechnen, die die Güte des zum Klassifikator erhobenen Tests oder auch der gewählten Klassifikation charakterisieren.

Weiteres empfehlenswertes Fachwissen

Was ist der richtige Weg, um die Wiederholbarkeit bei Waagen zu überprüfen?

Wie kann man Pipetten schnell überprüfen?

Lassen Sie sich von statischen Aufladungen nicht die Wägegenauigkeit stören.

Wahrheitsmatrix eines hypothetischen Beispiels

Mit einem medizinischen Labortest soll festgestellt werden, ob eine Person eine bestimmte Krankheit hat. Ein statistischer Test kann zeigen, ob der Labortest hierfür geeignet ist, also wie hoch seine Güte zur Trennung ist. Die statistische Nullhypothese H₀ lautet „Test nicht geeignet zur Erkennung, Testergebnis ist zufällig“, die Alternativhypothese H₁ „Test positiv = Person ist krank, Test zur Erkennung geeignet“.

Der tatsächlichen Gesundheitszustand des Probanden anhand anderer „harter“ Fakten (krank | gesund) und das Testergebnis (positiv | negativ) lassen vier Kombinationen zu, die in einer Wahrheitsmatrix wie folgt dargestellt werden:

In den Fällen a (Person ist krank und die Krankheit wird erkannt) und d (Person ist gesund und der Test meldet keine Krankheit) ist die Einteilung richtig. In den Fällen b (falsche Diagnose auf Krankheit) und c (Krankheit wird vom Test nicht erkannt) liegt ein Fehler vor.

Statistisch wird der Fehler im Fall b, wo ein falsch positives Testergebnis real Gesunde als Kranke identifiziert, als Fehler 1. Art oder α-Fehler bezeichnet. Im Fall c mit dem falsch negativen Testergebnis, wo ein Kranker nicht erkannt wird, spricht man vom Fehler 2. Art oder β-Fehler.

Trägt man die absolute Häufigkeit der Probanden in eine Vierfeldertafel ein, kann man verschiedene Kenngrößen der Klassifizierung errechnen, die ihrerseits eine Gütebeschreibung des verwendeten Klassifikators (des verwendeten medizinischen Tests) gestatten:

1. Die Sensitivität (Richtig-Positiv-Rate) a/(a+c) ist die Wahrscheinlichkeit, dass eine vorhandene Krankheit auch erkannt wird.
2. Die Spezifität (Richtig-Negativ-Rate) d/(b+d) ist die Wahrscheinlichkeit, dass es bei einem gesunden Menschen keinen Fehlalarm gibt.
   
   
3. Die Falsch-Positiv-Rate b/(b+d) ist die Wahrscheinlichkeit, dass bei einer gesunden Person trotzdem eine Krankheit (positive Diagnose) erkannt wird (Fehlalarm).
4. Die Falsch-Negativ-Rate c/(a+c) ist die Wahrscheinlichkeit, dass bei einer kranken Person trotzdem keine Krankheit (negative Diagnose) erkannt wird.
   
   
5. Die Relevanz (Positiver Vorhersagewert) a/(a+b) ist die Wahrscheinlichkeit, dass die Person bei einer positiven Diagnose auch wirklich krank ist.
6. Die Segreganz (Negativer Vorhersagewert) d/(c+d) ist die Wahrscheinlichkeit, dass die Person, wenn keine Krankheit erkannt wurde, auch wirklich gesund ist.
   
   
7. Die Korrektklassifikationsrate (a+d)/(a+b+c+d) ist die Wahrscheinlichkeit für eine richtige Diagnose.
8. Die Falschklassifikationsrate (b+c)/(a+b+c+d) ist die Wahrscheinlichkeit für eine falsche Diagnose.

Die Raten 1. und 4. sowie 2. und 3. addieren sich zu jeweils 100%.

Diese Kennwerte beeinflussen sich leider gegenseitig. Handelt es sich nicht um einen qualitativen Test, sondern um einen quantitativen, bei dem man den Grenzwert willkürlich festlegen kann, so kann man die Rate der falsch positiven Ergebnisse auf Kosten der Falschnegativ-Rate verringern und umgekehrt. Anders formuliert: Je sicherer Kranke mit dem Test identifiziert werden sollen (höhere Sensitivität), um so mehr Gesunde werden auch fälschlich als Kranke klassifiziert. Darüber hinaus wird auch ein extremes Ungleichgewicht zwischen Kranken und Gesunden die Kenngrößen verfälschen. Ist beispielsweise die Anzahl der an einem Test teilnehmenden Kranken erheblich geringer als die der Gesunden, so führt dies im allgemeinen zu einem geringen Wert in der Relevanz.

Dieser Zusammenhang ist bei verschiedenen Labortests zu bedenken: Preiswerte Screening-Tests werden so justiert, dass eine möglichst kleine Anzahl falsch negativer Ergebnisse vorliegt. Die produzierten falsch positiven Testergebnisse werden anschließend durch einen Bestätigungstest identifiziert. Für schwerwiegende Erkrankungen sollte immer ein Bestätigungstest durchgeführt werden. Dieses Vorgehen ist für die Bestimmung von HIV sogar gefordert.

Je nach Einsatzgebiet kann eine Fehlklassifikation mehr oder weniger schlimme Folgen haben. Ihre Auswirkungen lassen sich zur Bewertung eines Klassifikators in einer Kostenmatrix angeben.

Ein Diagramm der Klassifikatorgüte liefert die Receiver Operating Characteristic (ROC), die auch eine Grenzwertoptimierung ermöglicht.

Reale Beispiele

HIV in BRD

Das Ziel eines HIV-Tests sollte die möglichst sichere Erkennung eines Infizierten sein. Aber welche Konsequenzen ein falsch positiver Test haben kann, zeigt das Beispiel eines Menschen, der sich auf HIV testen lässt und dann aufgrund eines falsch-positiven Ergebnisses Suizid begeht.

Bei einer angenommenen Genauigkeit von 99,9 % des kombinierten HIV-Tests sowohl für positive als auch negative Ergebnisse (Sensitivität und Spezifität = 0,999) und der aktuellen Verbreitung von HIV (Stand 2003) in der deutschen Bevölkerung (80.000.000 Einwohner, davon 40.000 HIV-positiv) wäre ein allgemeiner HIV-Test verheerend.

Zwar würden von 40.000 tatsächlich Erkrankten lediglich 40 HIV-Infizierte fälschlicherweise nicht erkannt, aber ca. 80.000 Personen würden fälschlicherweise als HIV-positiv diagnostiziert. Von 119.960 positiven Ergebnissen wären knapp 67 % falsch positiv. Somit liegt die Wahrscheinlichkeit, dass jemand der positiv getestet wurde auch wirklich HIV-positiv ist, bei nur 32 %. Anders formuliert, die Relevanz beträgt 32 %.

Ein zweiter Test kann die Unsicherheit hingegen drastisch reduzieren. Die Wahrscheinlichkeit, dass jemand HIV-positiv ist, wenn er zwei mal positiv getestet wurde, liegt schon bei 99.8 %.

Herzinfarkt in USA

In den USA werden pro Jahr etwa 4 Millionen Frauen und Männer aufgrund von Schmerzen in der Brust unter der Verdachtsdiagnose Herzinfarkt in eine Klinik eingewiesen. Im Verlauf der aufwändigen und teuren Diagnostik stellt sich dann heraus, dass von diesen Patienten nur etwa 32 % tatsächlich einen Infarkt erlitten haben. Bei 68 % war die Diagnose Infarkt nicht korrekt (falsch positive Verdachtsdiagnose). Andererseits werden in jedem Jahr etwa 34.000 Patienten aus dem Krankenhaus entlassen, ohne dass ein tatsächlich vorhandener Herzinfarkt erkannt wurde (ca. 0,8 % falsch negative Diagnose).

Auch hier ist die Sensitivität der Untersuchung ähnlich hoch, nämlich 99,8 %. Zur Spezifität kann man aber nichts sagen, weil die falsch-positiven Ergebnisse der Untersuchung nicht erwähnt werden, sondern nur die falsch-positiven Eingangsdiagnosen, die auf der Angabe "Herzschmerz" fußen. Betrachtet man aber ausschließlich diese Eingangsdiagnose, dann ist die Angabe der 34.000 Patienten, die fälschlich entlassen werden, wertlos, denn sie haben hiermit nichts zu tun. Man benötigt nämlich die Zahl der mit Herzinfarkt nicht eingewiesenen, die wahrscheinlich keinen Herzschmerz hatten.
Man sollte sich immer davor hüten, solche vermischte Angaben verwerten zu wollen und unbedingt auf eine präzise Formulierung der These achten.

Statistische Grundlagen

Beispiele

Ein Angeklagter ist schuldig oder unschuldig und soll verurteilt oder freigelassen werden:

• Eine Person ist für einen Sicherheitsbereich zugangsberechtigt oder nicht zugangsberechtig und soll eingelassen oder nicht eingelassen werden:

Siehe auch

• Fehler 1. Art
• Fehler 2. Art
• Prüflos
• Signalentdeckungstheorie
• bedingte Wahrscheinlichkeit