Autocovariance based estimation in the linear regression model

선형회귀 모형에서 자기공분산 기반 추정

  • Received : 2011.08.12
  • Accepted : 2011.09.06
  • Published : 2011.10.01

Abstract

In this study, we derive an estimator based on autocovariance for the regression coefficients vector in the multiple linear regression model. This method is suggested by Park (2009), and although this method does not seem to be intuitively attractive, this estimator is unbiased for the regression coefficients vector. When the vectors of exploratory variables satisfy some regularity conditions, under mild conditions which are satisfied when errors are from autoregressive and moving average models, this estimator has asymptotically the same distribution as the least squares estimator and also converges in probability to the regression coefficients vector. Finally we provide a simulation study that the forementioned theoretical results hold for small sample cases.

이 연구에서는 다중 선형회귀 모형에서 자기공분산에 근거한 회귀 계수의 추정량을 도출하였다. 자기공분산에 근거한 방법은 Park (2009)에 제시된 방법으로 직관적으로 매혹적이지는 않지만, 이것에 근거한 추정량이 회귀 계수의 불편추정량이 된다. 설명변수 벡터가 어떤 정칙조건을 만족한다면, 오차가 자기회귀이동평균 모형을 따르면 만족되는 약한 조건 하에서 이 추정량이 최소제곱 추정량과 점근적으로 동일한 분포를 가지며 또한 회귀 계수에 확률 상 수렴한다는 것을 보였다. 마지막으로 모의실험을 통해 이 성질들이 소표본에서도 성립하는 것을 보였다.

Keywords

References

  1. 심주용, 이장택 (2010). 비선형 평균 일반화 이분산 자기회귀모형의 추정. <한국데이터정보과학회지>, 21, 831-839.
  2. 이정희, 박정수 (2009). 국내 쯔쯔가무시증의 감염자 분포와 유병자수 추정. <한국데이터정보과학회지>, 20, 149-158.
  3. 최영웅, 강기훈 (2010). 단일지표모형에서 계수 추정방법의 비교. <한국데이터정보과학회지>, 21, 1171-1180.
  4. Brockwell, P. J. and Davis, R. A. (2006). Time series: Theory and methods, 2nd Ed., Springer, New York.
  5. Kim, T. Y., Kim, D., Park, B. U. and Simpson, D. (2004). Nonparametric detection of correlated errors. Biometrika, 91, 491-496. https://doi.org/10.1093/biomet/91.2.491
  6. Kim, T. Y., Park, B. U., Moon, M. S. and Kim, C. (2009). Using bimodal kernel for inference in nonparametric regression with correlated errors. Journal of Multivariate Analysis, 100, 1487-1497. https://doi.org/10.1016/j.jmva.2008.12.012
  7. Park, B. U., Lee, Y. K., Kim, T. Y. and Park, C. (2006). A simple estimator of error correlation in nonparametric regression models. Scandinavian Journal of Statistics, 33, 451-462. https://doi.org/10.1111/j.1467-9469.2006.00506.x
  8. Park, C. (2009). An estimation method based on autocovariance in the simple linear regression model. Journal of the Korean Data & Information Science Society, 20, 251-260.
  9. Seber, G. A. F. (1977). Linear regression analysis, John Wiley & Sons, New York.