Robusna analiza glavnih komponenti

master's thesis

• Title (english): Robust principal component analysis
• Author: Ela Đimoti
• Mentor: Hrvoje Planinić (mentor)
• Committee member: Hrvoje Planinić (predsjednik povjerenstva)
• Committee member: Siniša Slijepčević (član povjerenstva)
• Committee member: Miljenko Marušić (član povjerenstva)
• Committee member: Željka Milin Šipuš (član povjerenstva)
• Granter: University of Zagreb; Faculty of Science; (Department of Mathematics); Zagreb
• Defense date and country: 2023-07-14, Croatia
• Scientific / art field, discipline and subdiscipline: NATURAL SCIENCES; Mathematics

Abstract

Analiza glavnih komponenti veoma je koristan i poznat alat za smanjivanje dimenzija početnog uzorka. Glavna ideja je rekonstruirati originalni uzorak u manjem, afinom potprostoru koji će sadržavati maksimalnu količinu početne varijance. S obzirom da počima na metodi najmanjih kvadrata koja je notorno osjetljiva na odskočnike, i činjenicu da u praksi imamo posla sa sve više i većim podatacima koje ne možemo preprocesirati ručno, postoji potreba za razvoj robusnih metoda analize glavnih komponenti (RPCA). U ovom radu prvo se prisjećamo klasične analize glavnih komponenti. Iznosimo neka od najrelevantnijih svojstva glavnih komponenti i neke prilagodbe i specifičnosti za slučaj kada uzorak dolazi iz nepoznate populacije. Potom gradimo teoriju robusne statistike za algoritam robusnih glavnih komponenti. Počinjemo s M-procjeniteljima ("maximum-likelihood like") i W-procjeniteljima ("weight like") kao robusnim alternativama za klasičnu metodu minimizacije najmanjih kvadrata. Poput svih M-procjenitelja, metoda značajno ovisi o parametru skaliranja \(\sigma\) kojega također moramo robusno procijeniti. On će biti vrijednost spram koje procjenjujemo je li pojedini piksel odskočnik. Metoda koju ovdje koristimo je apsolutna devijacija medijana (MAD) što je robusna mjera varijabilnosti podataka. Nadalje, dajemo dvije formulacije ciljne funkcije za naš RPCA i dokazujemo da je rješenje intuitivnije funkcije također rješenje funkcije koju je znatno lakše riješiti uz par dodanih uvjeta. Na kraju, sve to sakupljamo u algoritam baziran na metodi najmanjih kvadrata s iterativnim ažuriranjem težina (IRLS) Primjenjujemo algoritam na dva skupa podataka i uspoređujemo ga s algoritmom klasične analize glavnih komponenti. Jedan skup podataka čine slike snimljene statičnom kamerom tokom jednog dana koja, osim promjene u iluminaciji, sadržava i slike raznih ljudi dok prolaze kroz kadar. Drugi skup podataka je dio \textit{Extended Yale B} uzorka i sadržava izrezano lice jednog od subjekata u istoj pozi sa drugačijim osvjetljenjem. Zaključujemo da algoritam prilikom rekonstrukcije originalnih podataka bolje eliminira odskočnike iz prvog skupa podataka jer ih je manje i više su izolirani. U drugom slučaj, i dalje većinski dobivamo bolje rezultate od klasičnog PCA, ali algoritam ne uspjeva u potpunosti ukloniti sjenčanje. Međutim, kada smo dodali tri manje grupe odskočnika na isto mjesto povrh \(20\%\) slika, algoritam ih u potpunosti uspjeva eliminirati.

• Keywords: RPCA; analize glavnih komponenti; iterativno ažuriranje težina (IRLS)
• Language: croatian
• URN:NBN: urn:nbn:hr:217:807926
• Study programme: Title: Mathematical Statistics; Study programme type: university; Study level: graduate; Academic / professional title: sveučilišni magistar matematike (sveučilišni magistar matematike)
• Type of resource: Text
• File origin: Born digital
• Access conditions: Open access
• Created on: 2024-02-08 13:38:00