Semi-supervised neural part-of-speech tagging

diplomski rad

• Autor: Tihana Britvić
• Mentor: Mladen Vuković (mentor)
• Član povjerenstva: Mladen Vuković (predsjednik povjerenstva)
• Član povjerenstva: Goranka Nogo (član povjerenstva)
• Član povjerenstva: Goran Igaly (član povjerenstva)
• Član povjerenstva: Luka Grubišić (član povjerenstva)
• Ustanova koja je dodijelila akademski / stručni stupanj: Sveučilište u Zagrebu; Prirodoslovno-matematički fakultet; (Matematički odsjek); Zagreb
• Datum i država obrane: 2018-03-01, Hrvatska
• Znanstveno / umjetničko područje, polje i grana: PRIRODNE ZNANOSTI; Matematika

Sažetak

We present a simple method for learning part-of-speech taggers for low-resource languages using dictionaries as are reference method. Despite significant recent work, purely unsupervised techniques for part-of-speech (POS) tagging have not achieved useful accuracy required by many language processing tasks. Use of parallel text between resource-rich and resource-poor languages is one source of weak supervision that significantly improves accuracy. However, parallel text is not always available and techniques for using it require multiple complex algorithmic steps. We have shown that we can build POS-tagger by using bi-LSTMs and a freely available and naturally growing resource, the Wiktionary. Across nine languages for which we have labeled data to evaluate results, we achieve accuracy that in some cases exceeds all unsupervised methods, supervised method which uses hidden Markov chains and parallel text methods. We achieve highest accuracy reported for several languages.

Sažetak (hrvatski)

U radu je iznesena i objašnjena jednostavna metoda za učenje morfološkog označivača za nisko resursne jezike oslanjajući se na rječnike tih jezika. Unatoč znatnom broju nedavno objavljenih radova koji oslovljavaju ovaj problem, bez nadzorne metode učenja nisu rezultirale dovoljno velikom točnošću. Jedna od metoda (slabo) nadzirnog učenja je korištenje paralelnog teksta između jezika s bogatih i siromašnim resursima koji znatno poboljšava točnost morfološkog označivanja. Međutim, paralelni tekstovi nisu uvijek dostupni, a tehnike za upotrebu istog zahtijevaju mnogo složenih algoritamskih koraka. U radu smo pokazali kako izgraditi jednostavan morfološki označivač pomoću bi-LSTM neuronskih mreža i slobodno dostupnog i prirodno rastućeg resursa, Wiktionary-a Za devet jezika koje smo označili podatke u svrhu procjene dobivenih rezultata, postižemo točnost koja u nekim slučajevima prelazi sve metode bez nadzora i metode s nadzorom koje koriste skrivene markovljeve lance i paralene korpuse.

• Ključne riječi: part-of-speech taggers; low-resource language; bi-LSTM; neural network; Witkionary
• Ključne riječi (hrvatski): morfološki označivač; nisko resursni jezik; bi-LSTM; neuronske mreže; Wiktionary
• Jezik: engleski
• URN:NBN: urn:nbn:hr:217:169195
• Studijski program: Naziv: Računarstvo i matematika; Vrsta studija: sveučilišni; Stupanj studija: diplomski; Akademski / stručni naziv: magistar/magistra računarstva i matematike (mag. inf. et math.)
• Vrsta resursa: Tekst
• Način izrade datoteke: Izvorno digitalna
• Prava pristupa: Otvoreni pristup
• Datum i vrijeme pohrane: 2018-07-11 09:49:32