Defizit (Statistik)

Le Cam definierte das statistische Modell abstrakter als Blackwell, das heißt nicht in Form eines Wahrscheinlichkeitsraumes mit einer Familie von Wahrscheinlichkeitsmaßen, sondern über Banachverbände. Le Cam verwendete auch den Begriff des Experiments statt des Modells.

In seiner 1964 veröffentlichten Arbeit definierte er das statistische Modell als Tripel ${\displaystyle (X,E,(P_{\theta })_{\theta \in \Theta })}$ mit Indexmenge ${\displaystyle \Theta }$, bestehend aus Menge ${\displaystyle X}$, einem Vektor-Verband ${\displaystyle E}$ mit Einheit ${\displaystyle I}$ und einer Familie von positiven normierten Funktionalen ${\displaystyle (P_{\theta })_{\theta \in \Theta }}$ auf ${\displaystyle E}$.[4] Die ${\displaystyle (P_{\theta })_{\theta \in \Theta }}$ ersetzen somit die Wahrscheinlichkeitsmaße. In seinem 1986 veröffentlichten Buch verzichte er dann ganz auf ${\displaystyle E}$ und ${\displaystyle X}$.[5] Im Artikel wird die Definition und Terminologie seines 1986 veröffentlichten Buch verwendet, das heißt wir verwenden den Begriff des Experiments.

Zuerst definieren wir den abstrakten L₁-Raum.

• Ein Banachverband ${\displaystyle (L,\|\cdot \|)}$ nennt man abstrakter L₁-Raum oder kurz L-Raum, falls für alle positiven Elemente ${\displaystyle x,y\geq 0}$ auch ${\displaystyle \|x+y\|=\|x\|+\|y\|}$ gilt.

Für einen L-Raum definieren wir nun den Begriff des Experiments.

• Sei ${\displaystyle \Theta }$ eine Indexmenge und ${\displaystyle (L,\|\cdot \|)}$ ein L-Raum bestehend aus positiven linearen Funktionalen ${\displaystyle \{P_{\theta }:\theta \in \Theta \}}$. Ein Experiment ${\displaystyle {\mathcal {E}}}$ ist eine Abbildung ${\displaystyle {\mathcal {E}}:\Theta \to L}$ der Form ${\displaystyle \theta \mapsto P_{\theta }}$, so dass ${\displaystyle \|P_{\theta }\|=1}$. Der Raum ${\displaystyle L}$ ist das durch ${\displaystyle \{P_{\theta }:\theta \in \Theta \}}$ erzeugte Band und wird auch L-Raum von ${\displaystyle {\mathcal {E}}}$ genannt, deshalb notieren wir ihn mit ${\displaystyle L({\mathcal {E}})}$. Für ein ${\displaystyle \mu \in L({\mathcal {E}})}$ definiert man außerdem den nicht-negativen Teil als ${\displaystyle \mu ^{+}=\mu \vee 0=\max(\mu ,0)}$.

Für einen L-Raum definieren wir seinen M-Raum.

• Der topologische Dualraum ${\displaystyle M}$ eines L-Raumes ${\displaystyle (L,\|\cdot \|_{L})}$ ausgestattet mit der konjugierten Norm ${\displaystyle \|u\|_{M}=\sup\{|\langle u,\mu \rangle |;\|\mu \|_{L}\leq 1\}}$ nennt man M-Raum. Der M-Raum ist ein Vektorverband und besitzt eine Einheit ${\displaystyle I}$ definiert durch ${\displaystyle I\mu =\|\mu ^{+}\|_{L}-\|\mu ^{-}\|_{L}}$ für ${\displaystyle \mu \in L}$.

Seien ${\displaystyle L(A)}$ und ${\displaystyle L(B)}$ zwei L-Räume zu zwei Experimenten ${\displaystyle A}$ und ${\displaystyle B}$, dann nennt man eine positive, Norm-erhaltende lineare Abbildung zwischen den L-Räumen einen Übergang.

• Eine Übergang ${\displaystyle T:L(A)\to L(B)}$ ist lineare Abbildung, so dass ${\displaystyle \|T\mu ^{+}\|=\|\mu ^{+}\|}$ für jedes ${\displaystyle \mu \in L(A)}$ gilt.

Die Adjungierte des Übergangs ist eine positive lineare Abbildung vom Dualraum ${\displaystyle M_{B}}$ von ${\displaystyle L(B)}$ in den Dualraum ${\displaystyle M_{A}}$ von ${\displaystyle L(A)}$, so dass die Einheit von ${\displaystyle M_{A}}$ das Bild von der Einheit von ${\displaystyle M_{B}}$ ist.[5] Ein Markow-Kern ${\displaystyle T}$ induziert einen Übergang ${\displaystyle \mu \mapsto T\mu }$, jedoch muss nicht jeder Übergang ein Markow-Kern sein.

Sei ${\displaystyle \Theta }$ eine Indexmenge und ${\displaystyle {\mathcal {E}}:\theta \mapsto P_{\theta }}$ und ${\displaystyle {\mathcal {F}}:\theta \mapsto Q_{\theta }}$ zwei Experimente, welche durch ${\displaystyle \Theta }$ indexiert werden. Seien ${\displaystyle L({\mathcal {E}})}$ und ${\displaystyle L({\mathcal {F}})}$ die dazugehörigen L-Räume und ${\displaystyle {\mathcal {T}}}$ die Menge aller Übergänge von ${\displaystyle L({\mathcal {E}})}$ zu ${\displaystyle L({\mathcal {F}})}$.

Das Defizit ${\displaystyle \delta ({\mathcal {E}},{\mathcal {F}})}$ von ${\displaystyle {\mathcal {E}}}$ zu ${\displaystyle {\mathcal {F}}}$ ist die Zahl

${\displaystyle \delta ({\mathcal {E}},{\mathcal {F}}):=\inf \limits _{T\in {\mathcal {T}}}\sup \limits _{\theta \in \Theta }{\tfrac {1}{2}}\|Q_{\theta }-TP_{\theta }\|_{\text{TV}},}$[6]

wobei ${\displaystyle \|\cdot \|_{\text{TV}}}$ die Totalvariationsnorm ${\displaystyle \|\mu \|_{\text{TV}}=\mu ^{+}+\mu ^{-}}$ bezeichnet. Der Faktor ${\displaystyle {\tfrac {1}{2}}}$ ist nur aus rechnerischen Gründen und wird manchmal auch weggelassen.

• ${\displaystyle \delta ({\mathcal {E}},{\mathcal {F}})=0}$ bedeutet, es existiert ein Übergang ${\displaystyle T}$, so dass ${\displaystyle TP_{\theta }=Q_{\theta }}$ für alle ${\displaystyle \theta \in \Theta }$ gilt.
• Das Defizit misst, wie gut ${\displaystyle Q_{\theta }}$ von ${\displaystyle P_{\theta }}$ durch ${\displaystyle T}$ im Sinne der totalen Variation approximiert werden kann.

Die Le-Cam-Distanz ist folgende Pseudometrik

${\displaystyle \Delta ({\mathcal {E}},{\mathcal {F}})=\delta ({\mathcal {E}},{\mathcal {F}})\vee \delta ({\mathcal {F}},{\mathcal {E}})=\operatorname {max} \left(\delta ({\mathcal {E}},{\mathcal {F}}),\delta ({\mathcal {F}},{\mathcal {E}})\right)}$.

Dies induziert eine Äquivalenzrelation und wenn ${\displaystyle \Delta ({\mathcal {E}},{\mathcal {F}})=0}$ ist, dann sagt man ${\displaystyle {\mathcal {E}}}$ und ${\displaystyle {\mathcal {F}}}$ sind äquivalent. Die Äquivalenzklasse ${\displaystyle C_{\mathcal {E}}}$ von ${\displaystyle {\mathcal {E}}}$ nennt man auch Typ von ${\displaystyle {\mathcal {E}}}$.

Sei ${\displaystyle \Theta }$ eine Indexmenge und ${\displaystyle E(\Theta )}$ die Menge aller Typen aller Experimente, welche durch ${\displaystyle \Theta }$ indexiert sind, dann ist die Le-Cam-Distanz ${\displaystyle \Delta }$ vollständig bezüglich ${\displaystyle E(\Theta )}$. Die Defizit-Bedingung ${\displaystyle \delta ({\mathcal {E}},{\mathcal {F}})=0}$ definiert eine Ordnungsrelation auf ${\displaystyle E(\Theta )}$, man sagt ${\displaystyle {\mathcal {E}}}$ ist besser oder informativer oder stärker als ${\displaystyle {\mathcal {F}}}$.[6] Dies kann nun verwendet werden um statistische Modelle zu vergleichen.

Häufig interessiert man sich für Familien von Experimenten ${\displaystyle ({\mathcal {E}}_{n})_{n}}$ mit ${\displaystyle \{P_{n,\theta }\colon \theta \in \Theta _{n}\}}$ und ${\displaystyle ({\mathcal {F}}_{n})_{n}}$ mit ${\displaystyle \{Q_{n,\theta }\colon \theta \in \Theta _{n}\}}$. Falls ${\displaystyle \Delta ({\mathcal {E}}_{n},{\mathcal {F}}_{n})=0}$ wenn ${\displaystyle n\to \infty }$, dann sagt man ${\displaystyle ({\mathcal {E}}_{n})}$ und ${\displaystyle ({\mathcal {F}}_{n})}$ sind asymptotisch äquivalent.