Métodos de Estimación de Parámetros, Puntual y por Intervalos
Overview
Teaching: 0 min
Exercises: 0 minQuestions
Key question (FIXME)
Objectives
First learning objective. (FIXME)
Máxima Verosimilitud
Ronald Fisher (1890-1962) se dio cuenta de que los métodos que Karl Pearson había estado usando para estimar los parámetros de una distribución, producían estadísticos que no necesariamente eran consistentes y que con frecuencia presentaban un sesgo. Para producir estadísticos consistentes y eficientes, Fisher propuso algo que ́él denominó «estimadores de máxima verosimilitud».
La función de verosimilitud de una muestra $ X_{1},…, X_{n} $ está dada por:
\[L(\Theta)= f(x_{1}|\Theta)f(x_{2}|\Theta)...(x_{n}|\Theta)\]El estimador máximo verosímil $ \widehat{\Theta} $ del parámetro $ \Theta $ , es aquel valor para el cual:
\[\mathscr{l}(\Theta)= log L(\Theta)\]es máximo. Si el tamaño $ n $ de la muestra es grande, entonces $ \widehat{\Theta} $ tiene una distribución aproximadamente normal con media $ \Theta $ y varianza:
\[var(\widehat{\Theta_{n}}) =\frac{1}{nE [{\frac{d}{d\Theta}}logf(X|\Theta)]^{2}}\]Note que $ var(\widehat{\Theta_{n}})\to 0 $ cuando $ n\to \infty $ . Ver el archivo EMV.Exponencial.r.
> LL <- function(r) { #el log de la función de verosimilitud
> R <- dexp(x, r)
> -sum(log(R))
> }
> rt <- 2.5; N <- 1250; x <- rexp(N, rate=rt)
> optim(rt, LL, method = “Brent”, lower=0.001, upper=100)$par
> tot <- 2000
> a <- c()
> for(i in 1:tot) {
> x <- rexp(N, rate=rt)
> a[i] <- optim(rt, LL, method = "Brent", lower=0.001,
> upper=100)$par
> if(i % %100==0) {print(i)}
> }
> hist(a)
Máxima Verosimilitud: Ajuste de una distribución
Con el comando fitdistr de la librería MASS es posible estimar los parámetros de una distribución mediante el método de máxima verosimilitud. He aquí algunos ejemplos.
> x <- rnorm(500, mean=0, sd=1)
> library(MASS)
> fitdistr(x, "normal")
> x <- rgamma(100, shape=10, scale=0.5)
> fitdistr(x, "gamma")
> x <- rgeom(100, p=0.1)
> fitdistr(x, "geometric")
NotaEn el último ejemplo, el comando
fitdistrse ejecutó con el nombre “geometric” y no con el nombre “geom”. Consulte la siguiente página.
Extracción de información en objetos
Considere nuevamente la tarea del ajuste de una distribución
> x <- rnorm(500, mean=0, sd=1)
> library(MASS)
> fit <- fitdistr(x, "normal")
El comando summary(fit) despliega el contenido en el objeto fit.
| Length | Class | Mode | |
|---|---|---|---|
estimate |
2 | -none- | numeric |
sd |
2 | -none- | numeric |
vcov |
4 | -none- | numeric |
n |
1 | -none- | numeric |
loglik |
1 | -none- | numeric |
Mediante fit$estimate, o fit[[1]], se obtienen las estimaciones obtenidas.
Mediante fit$estimate[[1]], o fit[[1]][[1]], se obtiene el valor estimado para el primero de los parámetros
Error Cuadrático Medio (ECM)
Un estimador $ \widehat{\Theta_{1}} $ es mejor que $ \widehat{\Theta_{2}} $ si $ ECM(\widehat{\Theta_{1}}) $ < $ ECM(\widehat{\Theta_{2}}) $ .
Si $ \widehat{\Theta} $ es insesgado, entonces $ ECM(\widehat{\Theta})= var(\widehat{\Theta}) $ .
Ejemplo. La población: $ X ∼ $ Uniforme $ (0,\Theta) $ . Los estimadores: $ \widehat{\Theta_{1}}= 2\overline{X} $ y $ \widehat{\Theta_{2}}= \frac{n +1}{n}max(X_{1},…,X_{n}) $ .
Las varianzas de los estimadores:
$ var(\widehat{\Theta_{2}})=\frac{\Theta^{2}}{n(n+2)} $ y $ var(\widehat{\Theta_{1}})=\frac{\Theta^{2}}{3n} $ .
Ver el archivo Contraejemplo.r.
El p-ésimo cuantil de una variable aleatoria $ X $ es aquel valor $ \phi_{p}=\phi_{p}(X) $ para el cual:
\[p = P\{ X \le \phi_{p}\}\]Para calcular $ \phi_{0.75} $ de una Normal(0,1):
> qnorm(0.85, 0, 1)
[1] 1.036433
Intervalos de Confianza
Un intervalo $ (L,U) $ del $ (1-\alpha)\% $ de confianza para un parámetro $ \Theta $ es aquel para el cual:
\[P\{ L \le \Theta\le U\}=1-\alpha\]Por ejemplo, el estimador de máxima verosimilitud para $ \Theta $ que se obtiene a partir de una muestra $ X_{1},…,X_{n} $ de la población $ X \sim $ Exponencial $ (\Theta) $ tiene una distribución apróximadamente normal
\[\widehat{\Theta}\sim Normal(\Theta, \frac{1}{nE[\frac{d}{d\Theta}logf(X|\Theta)]^{2}})\]Por lo tanto, un intervalo del 0.95% de confianza está dado por:
\[(\widehat{\Theta}+\frac{\widehat{\Theta}}{\sqrt{n}}\phi_{0.025},\widehat{\Theta}+\frac{\widehat{\Theta}}{\sqrt{n}}\phi_{0.975})\]con $ \phi_{p}=\phi_{p}(Z) $ .
En la figura se muestran 70 intervalos de confianza de nivel 95%.
Los intervalos fueron calculados usando la fórmula de la transparencia anterior. Algunos de los intervalos contienen al valor del parámetro verdadero (marcado en linea negra). Un porcentaje de aproximadamente 5 % de los intervalos, no contienen al parámetro verdadero. Ver archivo IntervaloDeConfianza.nb.
Key Points
First key point. Brief Answer to questions. (FIXME)