Odabir i regularizacija linearnih modela s primjenom u aktuarstvu

završni specijalistički

• Naslov (engleski): Selection and Regularization of Linear Models With Actuarial Applications
• Autor: Ivan Petrunić
• Mentor: Bojan Basrak (mentor)
• Ustanova koja je dodijelila akademski / stručni stupanj: Sveučilište u Zagrebu; Prirodoslovno-matematički fakultet; (Matematički odsjek); Zagreb
• Datum i država obrane: 2020-07-03, Hrvatska
• Znanstveno / umjetničko područje, polje i grana: PRIRODNE ZNANOSTI; Matematika

Sažetak

U kontekstu linearnih modela, postavlja se pitanje koji od prediktora (kojih može biti vrlo mnogo) su najviše povezani s odazivom. Drugo pitanje koje se javlja je: mogu li se koeficijenti linearnog modela tako prilagoditi, da model daje dobra predviđanja za nove, dosada neviđene podatke? Da bismo dali odgovore na ta pitanja, prvo uvodimo osnovne pojmove i ideje iz područja statistike i statističkog učenja kao što su kompromis između preciznosti predviđanja i interpretabilnosti modela, nadzirano i nenadzirano učenje, mjerenje kvalitete prilagodbe modela te kompromis između pristranosti i varijance. Zatim promatramo klasičan linearni regresijski model metodom najmanjih kvadrata, koji će biti temelj za kasnije proširenje. Nakon toga, opisujemo nekoliko metoda pomoću kojih možemo procijeniti pogrešku na testnom skupu, kao što su metoda validacijskog skupa, pojedinačna unakrsna validacija (LOOCV) te \(k\)-struka unakrsna validacija. U glavnom dijelu rada, prvo promatramo metode odabira podskupa prediktora, kao što su metoda odabira najboljeg podskupa, postupni odabir unaprijed te postupni odabir unatrag. Opisujemo kako odabrati najbolji model korištenjem statistika \(C_p\), BIC i prilagođeni \(R^2\), te pomoću unakrsne validacije. Zatim opisujemo dvije metode smanjenja koeficijenata (regularizacije): ridge i lasso regresiju. Konačno, opisanu teoriju praktično primjenjujemo u slučaju osiguranja od profesionalne odgovornosti liječnika.

Sažetak (engleski)

A question that arises in the context of linear models is: which of the predictors (and there could be many of them) is most closely related to the response? Another question is: could the linear model coefficients be adjusted in a way that the model performs well on previously unseen data? In order to answer these questions, we first introduce basic concepts and ideas from statistics and statistical learning, such as the trade-off between prediction accuracy and model interpretability, supervised and unsupervised learning, measurement of the quality of fit and the bias-variance trade-off. We then consider the classical least squares linear regression model, which will be the basis for further extension. After that, we describe several methods for the test error estimation, such as the validation set approach, the leave-one-out cross-validation (LOOCV), and the \(k\)-fold cross-validation. In the central part of the thesis, we first consider subset selection methods, such as the best subset selection, forward stepwise selection and backward stepwise selection. We describe how to select the best model using the \(C_p\), BIC and adjusted \(R^2\) statistics, as well as using cross-validation. We then describe two shrinkage (or regularization) methods: the ridge regression and the lasso. Finally, we apply the theory to the case of medical malpractice insurance.

• Ključne riječi: linearni modeli; statističko učenje; prediktori; ridge regresija; lasso regresija
• Ključne riječi (engleski): linear models; statistical learning; predictors; ridge regression; lasso
• Jezik: hrvatski
• URN:NBN: urn:nbn:hr:217:054531
• Studijski program: Naziv: Aktuarska matematika; Vrsta studija: sveučilišni; Stupanj studija: poslijediplomski specijalistički; Akademski / stručni naziv: sveučilišni/a specijalist/ specijalistica aktuarske matematike (univ. spec. actuar. math.)
• Vrsta resursa: Tekst
• Način izrade datoteke: Izvorno digitalna
• Prava pristupa: Otvoreni pristup; Datum isteka embarga: 2022-07-08
• Datum i vrijeme pohrane: 2020-07-08 11:31:19