Граница Крамера-Рао (CCR) - это минимальная дисперсия, которой может достичь оценка одного параметра при заданных условиях регулярности.
Другими словами, мы ищем дисперсию, наиболее близкую к этому нижнему пределу, чтобы найти лучшую оценку в соответствии со свойствами несмещенности и эффективности.
Рекомендуется ознакомиться со свойствами оценщиков.
Эти свойства используются, когда нам нужно выбрать оценщик для проведения эконометрического анализа. Если мы хотим, чтобы наши результаты были окончательными, как минимум, мы должны потребовать, чтобы оценщик был беспристрастным и имел минимально возможную дисперсию всех несмещенных оценщиков (эффективность).
Хотя мы принимаем во внимание все несмещенные оценки, когда мы ищем оценку минимальной дисперсии, может случиться так, что существует другая несмещенная оценка с меньшей дисперсией.
Чтобы никакая несмещенная оценка с минимальной дисперсией не ускользнула от нас, мы устанавливаем минимальную или нижнюю границу, которую дисперсия несмещенной оценки параметра не может превышать.
Мы смотрим только на несмещенные оценки, потому что смещенные оценки могут иметь дисперсию меньше CCR.
Формулировка
Мы определяем:
f (X; Θ): функция плотности вероятности.
E (·): математическая надежда.
Я (Θ): Информация Фишера о параметре.
Представляет «количество информации» о значении параметра, содержащееся в наблюдении случайной величины X.
Формула:
Не паникуй! Что мы видим с первого взгляда из этой формулы?
- Мы видим, что это нестрогое неравенство (≥) вместо равенства (=). Это связано с тем, что в некоторых случаях мы не находим (не существует) несмещенную оценку, которая достигает границы CCR. Поэтому мы говорим, что ищем дисперсию несмещенной оценки, которая максимально приближена к этому нижнему пределу. Кроме того, CCR сообщает нам, какой будет минимальная дисперсия оценки, ниже этого числа ее невозможно найти.
- Часть справа (var (Θ ’) - это дисперсия оценки нашего параметра.
- Часть слева (1 / J (Θ)) - это непреодолимый минимум дисперсии.
- Если мы ищем (абсолютный) минимум дисперсии оценки, логично, что появляются частные производные (производная по).
- В экономике частные производные используются в условиях первого и второго порядка для оптимизации функций полезности: нахождения относительных и абсолютных максимумов и минимумов соответственно.
- CCR использует первую частную производную параметра Θ на функции плотности вероятности f (X; Θ)
- Для простоты расчета в некоторых случаях для получения CCR используются вторая производная и альтернативная информация Фишера.
Оценки, которые, будучи несмещенными, имеют дисперсию, равную CCR, будут считаться наиболее эффективными. Точно так же те беспристрастные, чья дисперсия ближе, будут считаться относительно более эффективными, чем другие оценщики (более удаленные).