The Impact of Bootstrap on PCR and PLS Predictive Accuracy under Multicollinearity and Small Sample Sizes: A Simulation Study

Nawal Mohammed Othman Mustafa; Ali Meelad Abd Allateef

doi:10.65405/fbmtrv02

المؤلفون

Nawal Mohammed Othman Mustafa Faculty of Arts and Sciences – Al Marj, University of Benghazi – Libya Author
Ali Meelad Abd Allateef Faculty of Arts and Sciences – Al Marj, University of Benghazi – Libya Author

DOI:

https://doi.org/10.65405/fbmtrv02

الكلمات المفتاحية:

Bootstrap resampling; principal component regression (PCR); partial least squares regression( PLS); multicollinearity; small sample size.

الملخص

في هذا البحث ندرس تأثير تقنية بوتستراب على أداء كلٍ من انحدار المكونات الرئيسية (PCR) وانحدار المربعات الصغرى الجزئية (PLS) في وجود مشكلة التعدد الخطي وصغر حجم العينة , تم اعتماد المحاكاة في المقارنة ،.والتحقق من أداء تم استخدام عدة مقاييس من أبرزها متوسط مربع الخطأ (MSE) ومتوسط التباين (AVAR). ولقد توصلنا من خلال نتائج أن تطبيق بوتستراب على كلٍ من نموذجي PCR وPLS يؤدي إلى تحسين شامل في جودة التقدير, ومن ملاحظة نتائج تبين إن انحدار المربعات الصغرى الجزئية المُحسَّن تفوق على جميع النماذج الأخرى.

التنزيلات

تنزيل البيانات ليس متاحًا بعد.

المراجع

1.Efron, B. (1979). Bootstrap methods: Another look at the jackknife. The Annals of Statistics, 7(1), 1–26.

2. Efron, B., & Tibshirani, R. J. (1994). An introduction to the bootstrap. CRC Press.

3. Efron, B., & Hastie, T. (2016). Computer age statistical inference: Algorithms, evidence,and data science. Cambridge University Press.

4.Hair, J. F., Black, W. C., Babin, B. J., & Anderson, R. E. (2010). Multivariate data analysis (7th ed.). Pearson.

5. James, G., Witten, D., Hastie, T., & Tibshirani, R. (2021). An introduction to statistical learning: With applications in R (2nd ed.). Springer.

6. Jolliffe, I. T. (2002). Principal component analysis (2nd ed.). Springer.

7. Kutner, M. H., Nachtsheim, C. J., Neter, J., & Li, W. (2005). Applied linear statistical models (5th ed.). McGraw-Hill Irwin.

8. Krichene, E., Hmadi, M. S. A., & Al-Gajamiya, S. K. (2026). A Fair Comparative Framework for Time-Series Forecasting Using ARIMAX, XGBoost, and LSTM: Evidence from Libya. Al-Farooq Journal of Sciences, 2(3), 69-85.

9. Montgomery, D. C., Peck, E. A., & Vining, G. G. (2012). Introduction to linear regression analysis (5th ed.). Wiley.

10. Montgomery, D. C., Peck, E. A., & Vining, G. G. (2021). Introduction to linear regression analysis (6th ed.). Wiley.

11. Wold, S., Sjöström, M., & Eriksson, L. (2001). PLS-regression: A basic tool of chemometrics. Chemometrics and Intelligent Laboratory Systems, 58(2), 109–130.. https://doi.org/10.1016/S0169-7439(01)00155-1.