2.13. Sensibilités

On s’intéresse maintenant à la dérivée d’une quantité qui a la représentation probabiliste \(I(\theta) = \mathbf{E}[X^{(\theta)}]\) où \(X^{(\theta)}\) est une variable aléatoire réelle qui dépend d’un paramètre réel \(\theta\). Dans toute cette partie on note

\[\begin{equation*} \forall \theta \in \mathbf{R}, \quad J(\theta) = I'(\theta) = \frac{\operatorname{d}\!}{\operatorname{d}\! \theta} \mathbf{E}[X^{(\theta)}]. \end{equation*}\]

De plus on considère la représentation suivante: il existe \(G\) telle que \(z \mapsto G(\theta, z)\) mesurable pour tout \(\theta \in \mathbf{R}\) et \(Z\) une variable aléatoire simulable telle que \(X^{(\theta)} = G(\theta, Z)\). Cette représentation existe toujours, elle peut être donnée par la modélisation ou bien en considérant \(Z \sim \mathcal{U}\big(]0,1[\big)\) et \(G(\theta,.)\) la fonction quantile de \(X^{(\theta)}\). Ainsi

\[\begin{equation*} J(\theta) = \frac{\partial}{\partial \theta} \mathbf{E} \big[G(\theta, Z) \big]. \end{equation*}\]

Le calcul de la sensibilité de la quantité \(I(\theta)\) par rapport au paramètre \(\theta\) est très important dans de nombreuses applications.

2.13.1. Méthodes des différences finies

Une approche classique en analyse numérique est de remplacer la dérivée de la fonction \(I\) par une approximation aux différences finies. Pour la dérivée du premier ordre, on peut considérer les 2 approximations suivantes pour \(h\) suffisamment petit

• \(J(\theta) = \frac{I(\theta + h) - I(\theta)}{h} + \mathcal{O}(h)\)

• \(J(\theta) = \frac{I(\theta + h) - I(\theta-h)}{2h} + \mathcal{O}(h^2)\)

Ces 2 approximations sont notamment valides dès que \(I\) est \(\mathcal{C}^2\) avec dérivée seconde Lipschitz \ie \(|I''(\theta_1) - I''(\theta_2)| \le K |\theta_1 - \theta_2|\). Dans la suite \(K\) désigne la constante de Lipschitz de \(I''\).

2.13.1.1. Monte Carlo biaisé

Un estimateur naturel \(J_{n,h}(\theta)\) de \(J(\theta)\) est une combinaison d’une approximation aux différences finies et un estimateur Monte Carlo (pour approcher les quantités \(I(\theta)\), \(I(\theta+h)\) et \(I(\theta-h)\)). Un tel estimateur est un exemple d’estimateur Monte Carlo biaisé c’est à dire qu’il y a deux sources d’erreur

• Erreur de biais c’est l’erreur d’approximation dirigée par le paramètre \(h > 0\)

\[\begin{equation*} E_{h} = \mathbf{E} \big[J_{n,h}(\theta) \big] - J(\theta). \end{equation*}\]

• Erreur statistique c’est l’erreur de la méthode de Monte Carlo dirigée par le paramètre \(n \ge 1\)

\[\begin{equation*} E_{n} = J_{n,h}(\theta) - \mathbf{E}\big[J_{n,h}(\theta)\big]. \end{equation*}\]

• Erreur totale c’est la somme des 2 erreurs précédentes \(E_{h,n} = E_{h} + E_{n} = J_{n,h}(\theta) - J(\theta)\). L’erreur totale est souvent mesurée par la norme \(\mathbf{L}^2\), et on utilise la décomposition biais-variance pour étudier \(\|E_{h,n}\|_{2}^2 = \mathbf{E}\big[E_{h,n}^2 \big]\). On rappelle la décomposition biais-variance dans ce cadre

\[\begin{equation*} \begin{split} \| E_{h,n} \|_2^2 & = \mathbf{E}\big[(E_{h} + E_{n})^2\big] = \mathbf{E}\big[E_h^2\big] + \mathbf{E}\big[E_n^2\big] + 2 \mathbf{E}\big[E_h E_n \big], \\ & = E_h^2 + \mathbf{E}\big[E_n^2\big], \end{split} \end{equation*}\]

car \(E_h\) est déterministe par définition et \(\mathbf{E}[E_n] = 0\). On a donc

\[\begin{equation*} \| J_{n,h}(\theta) - J(\theta) \|_2^2 = \left(\mathbf{E}[J_{n,h}(\theta)] - J(\theta) \right)^2 + \operatorname{var}\big(J_{n,h}(\theta)\big). \end{equation*}\]

Le contrôle de l’erreur totale est important pour bien choisir les 2 paramètre \(h\) et \(n\). Dans une méthode de Monte Carlo non biaisé, on choisit le paramètre \(n \ge 1\) à partir d’une taille d’intervalle de confiance fixée a priori qui mesure la précision que l’on veut atteindre. Lorsqu’il y a en plus une erreur de biais il est plus judicieux de raisonner en norme \(\mathbf{L}^2\) (mais on peut en déduire un intervalle de confiance biaisé par la suite). Pour que l’erreur totale en norme \(\mathbf{L}^2\) soit plus petite que \(\varepsilon > 0\) (fixé) on impose la contrainte sur le couple de paramètres \((h, n)\) qui est \(\| E_{h,n} \|_2 \le \varepsilon\). Sous cette contrainte, on cherche le couple qui minimise l’effort de l’estimateur c’est à dire

()\[\begin{equation} \label{eq:pb_effort_diff} \min_{(h,n) / \|E_{h,n}\|_2 \le \varepsilon} \operatorname{effort}\big(J_{n,h}(\theta)\big). \end{equation}\]

2.13.1.2. Estimateurs indépendants

Si on a un code Monte Carlo que l’on appelle successivement 2 fois, une première fois pour le calcul de \(I(\theta+h)\) et la seconde fois pour le calcul de \(I(\theta)\) (ou \(I(\theta-h)\)), alors ces 2 estimateurs Monte Carlo sont indépendants. Les estimateurs Monte Carlo aux différences finies s’écrivent alors

\[\begin{align*} J^{(1)}_{n,h}(\theta) &= \frac{1}{h} \left(\frac{1}{n} \sum_{k=1}^n X^{(\theta+h)}_k - \frac{1}{n} \sum_{k=1}^n \tilde X^{(\theta)}_k\right), \\ J^{(2)}_{n,h}(\theta) &= \frac{1}{2h} \left(\frac{1}{n} \sum_{k=1}^n X^{(\theta+h)}_k - \frac{1}{n} \sum_{k=1}^n \tilde X^{(\theta-h)}_k\right), \end{align*}\]

où \((X^{(\theta+h)}_k)_{k \ge 1}\) et \((\tilde X^{(\theta)}_k)_{k \ge 1}\) sont des suites de v.a. i.i.d. et indépendantes. On peut réécrire ces estimateurs en utilisant la représentation \(X^{(\theta)} = G(\theta, Z)\)

\[\begin{align*} J^{(1)}_{n,h}(\theta) &= \frac{1}{h} \left(\frac{1}{n} \sum_{k=1}^n G(\theta+h, Z_k) - \frac{1}{n} \sum_{k=n+1}^{2n} G(\theta, Z_k)\right), \\ J^{(2)}_{n,h}(\theta) &= \frac{1}{2h} \left(\frac{1}{n} \sum_{k=1}^n G(\theta+h, Z_k) - \frac{1}{n} \sum_{k=n+1}^{2n} G(\theta-h, Z_k)\right), \end{align*}\]

où \((Z_k)_{k \ge 1}\) est une suite i.i.d.

Il est important de remarquer que ces estimateurs ne sont pas satisfaisants car par indépendance la variance de ces estimateurs est la somme des variances des estimateurs. Ainsi si on note \(\big(\sigma^{(1)}_{h}(\theta)\big)^2\) (respectivement \(\big(\sigma^{(2)}_{h}(\theta)\big)^2\)) la variance asymptotique de \(J^{(1)}_{n,h}\) (respectivement \(J^{(2)}_{n,h}\)) on a

\[\begin{align*} \big(\sigma^{(1)}_{h}(\theta)\big)^2 &= \frac{1}{h^2} \big(\operatorname{var}(X^{(\theta+h)}) + \operatorname{var}(X^{(\theta)})\big), \\ \big(\sigma^{(2)}_{h}(\theta)\big)^2 &= \frac{1}{4 h^2} \big(\operatorname{var}(X^{(\theta+h)}) + \operatorname{var}(X^{(\theta-h)})\big). \end{align*}\]

Lorsque \(h\) tend vers \(0\), l’erreur de biais \(\mathbf{E}\big[J^{(1)}_{n,h}(\theta) \big]- J(\theta)\) tend vers 0 (car \(\mathbf{E}\big[J^{(1)}_{n,h}(\theta)\big] = \frac{I(\theta+h) - I(\theta)}{h}\)) mais l’erreur statistique (erreur de Monte Carlo) tend vers l’infini car la variance explose en \(h^{-2}\). Il ne faut donc implémenter l’approche différences finies avec des estimateurs indépendants.

2.13.1.3. Estimateurs avec mêmes aléas

L’idée est d’utiliser le même aléa (la même réalisation) \(Z_k\) pour construire \(X^{(\theta+h)}_k = G(\theta+h, Z_k)\) et \(X^{(\theta)}_k = G(\theta, Z_k)\). Dans toute la suite on considère donc les estimateurs

\[\begin{align*} J^{(1)}_{n,h}(\theta) &= \frac{1}{h} \left(\frac{1}{n} \sum_{k=1}^n G(\theta+h, Z_k) - \frac{1}{n} \sum_{k=1}^{n} G(\theta, Z_k) \right), \\ J^{(2)}_{n,h}(\theta) &= \frac{1}{2h} \left(\frac{1}{n} \sum_{k=1}^n G(\theta+h, Z_k) - \frac{1}{n} \sum_{k=1}^{n} G(\theta-h, Z_k) \right), \end{align*}\]

où \((Z_k)_{k \ge 1}\) est une suite i.i.d.

Proposition 2.9

Supposons que \(\big(\theta \mapsto X^{(\theta)} = G(\theta, Z)\big)\) est Lipschitz en norme \(\mathbf{L}^2\) i.e. \(\exists h_0 > 0\), \(\exists C_2 > 0\),

()\[\begin{equation} \label{eq:LipschitzL2} \forall \theta' \in ]\theta-h_0, \theta+h_0[, \quad \|G(\theta, Z) - G(\theta', Z)\|_2 \le \sqrt{C_2} |\theta - \theta'|. \end{equation}\]

On suppose la fonction \(I \in \mathcal{C}^2\) et \(I''\) Lipschitz. Alors pour tout \(h \in ]0, h_0]\),

\[\begin{align*} \|J^{(1)}_{n,h}(\theta) - J(\theta)\|^2 &\le C_1^{(1)} h^2 + C_2 \frac{1}{n},\\ \|J^{(2)}_{n,h}(\theta) - J(\theta)\|^2 &\le C_1^{(2)} h^4 + C_2 \frac{1}{n}, \end{align*}\]

où \(C_1^{(1)} = \frac{\sup_{\xi \in ]\theta-h_0, \theta+h_0[} |I''(\xi)|^2}{4}\) et \(C_1^{(2)} = K^2/4\) (\(K\) la constante de Lipschitz de \(I''\)).