Primerjalna analiza napak: Trankit in CLASSLA-Stanza

Testna množica SSJ-UD (1.282 povedi, 25.442 pojavnic)  ·  Stolpci 7–8 (head + deprel)  ·  Metriki LAS in UAS
Verzije modelov: Trankit CLARIN 11356/1997 (trankit-sl-ssj+sst.zip, MD5 0ddfac8d7445f8fa300f59dde1a00352) s trankit==1.1.2  ·  CLASSLA classla==2.2.1 (classla.Pipeline('sl', pos_use_lexicon=True)).

Splošna natančnost

Trankit LAS
94,59
+4,11 pp vs. CLASSLA
CLASSLA LAS
90,48
labeled attachment score
Trankit UAS
95,79
+3,67 pp vs. CLASSLA
CLASSLA UAS
92,12
unlabeled attachment score

Tabela 1  ·  Distribucija napak glede na tip (po vzoru Tabele 3 v Dobrovoljc idr. 2023)

Privzeto je vsak blok napak razvrščen po stolpcu Trankit, od največ do najmanj napak. Klik na glavo stolpca spremeni razvrščanje.
Tip napake Trankit CLASSLA Razlika
Napačno jedro 666 1.202 -536
punct-punct198355-157
advmod-advmod97161-64
nmod-nmod76116-40
conj-conj80108-28
obl-obl3476-42
acl-acl2152-31
cc-cc1539-24
aux-aux1237-25
parataxis-parataxis2737-10
mark-mark1034-24
nsubj-nsubj1330-17
cop-cop1129-18
advcl-advcl2127-6
appos-appos1519-4
csubj-csubj117-16
case-case917-8
obj-obj411-7
amod-amod410-6
expl-expl26-4
nummod-nummod54+1
orphan-orphan14-3
iobj-iobj14-3
ccomp-ccomp41+3
xcomp-xcomp12-1
det-det12-1
vocative-vocative10+1
flat-flat01-1
discourse-discourse01-1
list-list110
dep-dep110
Napačno jedro in oznaka 404 803 -399
obl→nmod4489-45
nmod→obl3962-23
root→cop728-21
nsubj→root1024-14
parataxis→root2123-2
root→parataxis1218-6
cop→root315-12
root→nsubj613-7
advcl→acl912-3
obj→nmod411-7
nsubj→conj010-10
nmod→nsubj210-8
nsubj→parataxis19-8
conj→cop19-8
parataxis→appos89-1
cc→advmod08-8
nsubj→nmod38-5
parataxis→acl37-4
nsubj→acl47-3
acl→advcl57-2
root→ccomp770
root→csubj06-6
obl→root16-5
nsubj→ccomp16-5
ccomp→cop16-5
obl→appos26-4
nmod→flat62+4
conj→nmod26-4
parataxis→nummod36-3
parataxis→nsubj36-3
nmod→appos64+2
nmod→parataxis05-5
cop→parataxis05-5
conj→parataxis15-4
advcl→root15-4
conj→nsubj25-3
advmod→orphan25-3
cop→acl35-2
conj→amod54+1
conj→obl04-4
case→obl04-4
nmod→orphan14-3
det→advmod14-3
appos→obj14-3
appos→flat41+3
appos→conj14-3
root→advmod24-2
orphan→parataxis24-2
orphan→advmod24-2
nmod→conj24-2
iobj→nmod24-2
case→fixed42+2
amod→conj24-2
cop→conj34-1
nmod→obj440
flat→nmod440
appos→nummod440
appos→nmod440
root→amod03-3
parataxis→csubj03-3
obj→nsubj03-3
csubj→root03-3
conj→root03-3
conj→csubj03-3
advmod→nsubj03-3
root→obj13-2
parataxis→amod13-2
conj→flat31+2
ccomp→csubj13-2
appos→parataxis13-2
amod→advmod13-2
advmod→root13-2
acl→parataxis31+2
acl→csubj13-2
root→obl23-1
parataxis→conj23-1
appos→obl23-1
amod→root23-1
advmod→det23-1
advcl→cop23-1
acl→nsubj23-1
acl→cop23-1
mark→fixed330
conj→advmod330
xcomp→cop02-2
root→conj02-2
parataxis→cop02-2
obl→nsubj20+2
obj→conj02-2
nummod→obj20+2
nummod→flat20+2
nsubj→det02-2
nmod→root02-2
det→nsubj02-2
dep→nummod02-2
csubj→conj02-2
cop→advcl02-2
conj→ccomp02-2
conj→advcl02-2
ccomp→root02-2
cc→flat20+2
amod→obl20+2
amod→ccomp02-2
amod→acl02-2
advmod→mark20+2
advmod→cc20+2
advmod→amod02-2
advcl→nsubj02-2
advcl→conj02-2
advcl→ccomp02-2
advcl→aux02-2
acl→xcomp02-2
root→nmod21+1
root→aux12-1
parataxis→orphan12-1
obl→orphan12-1
obl→det12-1
obl→conj12-1
obj→root12-1
obj→iobj21+1
obj→appos12-1
nsubj→obj21+1
cop→ccomp12-1
conj→acl12-1
ccomp→nsubj12-1
amod→nsubj12-1
advmod→appos12-1
root→appos220
parataxis→advmod220
orphan→conj220
obj→advmod220
nummod→conj220
nsubj→appos220
nsubj→amod220
nmod→iobj220
amod→parataxis220
xcomp→obj01-1
xcomp→nmod01-1
root→vocative01-1
root→reparandum10+1
root→expl10+1
root→discourse01-1
root→case01-1
root→advcl01-1
parataxis→aux01-1
orphan→obl10+1
orphan→nmod01-1
orphan→fixed10+1
orphan→ccomp01-1
orphan→cc10+1
obl→flat10+1
obl→ccomp01-1
obl→case10+1
obj→parataxis01-1
obj→flat10+1
obj→det01-1
obj→amod10+1
obj→acl01-1
nummod→obl01-1
nsubj→orphan01-1
nsubj→obl01-1
nsubj→nummod01-1
nsubj→iobj01-1
nmod→xcomp10+1
nmod→list10+1
nmod→case01-1
nmod→advmod01-1
list→flat10+1
iobj→obj01-1
iobj→det01-1
flat→obj01-1
flat→fixed01-1
flat→conj01-1
flat→advmod01-1
fixed→parataxis01-1
fixed→mark10+1
fixed→cc01-1
discourse→root01-1
discourse→ccomp01-1
discourse→advmod01-1
det→obj01-1
dep→obl01-1
dep→discourse10+1
dep→cc01-1
dep→appos01-1
csubj→obl01-1
csubj→advcl01-1
cop→csubj01-1
cop→aux01-1
conj→mark01-1
conj→appos01-1
ccomp→parataxis10+1
ccomp→obl01-1
ccomp→nmod01-1
ccomp→conj01-1
ccomp→amod01-1
case→advmod01-1
aux→advcl01-1
appos→list01-1
appos→case01-1
appos→acl10+1
amod→xcomp10+1
amod→nmod01-1
amod→appos01-1
advmod→xcomp01-1
advmod→parataxis01-1
advmod→obl01-1
advmod→obj01-1
advmod→nmod01-1
advmod→iobj01-1
advmod→acl10+1
advcl→nmod01-1
advcl→csubj01-1
advcl→advmod01-1
acl→obl10+1
acl→obj10+1
acl→mark01-1
acl→conj01-1
acl→ccomp01-1
acl→advmod01-1
xcomp→conj110
xcomp→advmod110
orphan→xcomp110
orphan→root110
orphan→appos110
obj→case110
nummod→root110
nummod→parataxis110
nsubj→case110
nmod→amod110
mark→case110
mark→advmod110
flat→nummod110
fixed→orphan110
fixed→advmod110
det→root110
dep→conj110
dep→case110
csubj→ccomp110
conj→obj110
conj→nummod110
appos→root110
appos→iobj110
appos→advmod110
amod→advcl110
advmod→conj110
advcl→amod110
acl→case110
Napačna oznaka 306 416 -110
obj→nsubj1030-20
obj→iobj1429-15
nsubj→obj1228-16
iobj→obj1910+9
nmod→flat1712+5
conj→parataxis1316-3
obl→nsubj311-8
appos→conj510-5
flat→nmod29-7
cc→advmod59-4
conj→appos28-6
iobj→expl58-3
obl→obj37-4
nmod→obl74+3
nsubj→obl06-6
orphan→advmod62+4
advmod→amod36-3
appos→nmod64+2
advmod→nsubj15-4
advcl→advmod51+4
obl→nmod35-2
advcl→ccomp53+2
nmod→amod45-1
advmod→obl54+1
conj→flat550
parataxis→obl04-4
cc→case04-4
nsubj→iobj14-3
csubj→advcl14-3
parataxis→conj42+2
nmod→conj34-1
advmod→cc34-1
orphan→nmod440
obj→advmod03-3
obl→xcomp13-2
nmod→advmod31+2
ccomp→advcl13-2
appos→parataxis31+2
advcl→xcomp13-2
obl→advmod23-1
nmod→nummod32+1
mark→advmod32+1
expl→iobj23-1
amod→nmod23-1
amod→advmod23-1
advcl→csubj23-1
xcomp→obl330
obj→obl330
mark→cc330
csubj→ccomp330
cc→dep330
advmod→mark330
advcl→conj330
xcomp→nsubj02-2
nummod→nmod02-2
nmod→appos20+2
expl→obj20+2
cop→aux20+2
conj→list20+2
ccomp→csubj02-2
cc→orphan02-2
amod→flat20+2
advmod→discourse20+2
advmod→aux02-2
parataxis→obj21+1
obj→expl12-1
nsubj→xcomp12-1
nsubj→advmod21+1
mark→obj12-1
discourse→advmod21+1
det→amod21+1
csubj→acl12-1
cc→mark12-1
appos→amod12-1
advcl→nsubj12-1
orphan→nummod220
discourse→ccomp220
ccomp→xcomp220
advmod→xcomp220
xcomp→obj10+1
xcomp→csubj01-1
xcomp→advcl01-1
vocative→ccomp01-1
parataxis→nsubj01-1
parataxis→cop01-1
parataxis→ccomp10+1
orphan→conj10+1
orphan→amod01-1
obl→orphan10+1
obl→det01-1
obl→conj01-1
obj→xcomp10+1
obj→conj01-1
obj→amod01-1
nummod→det10+1
nsubj→parataxis01-1
nsubj→nummod01-1
nsubj→conj01-1
nmod→orphan01-1
nmod→obj10+1
nmod→cc01-1
nmod→acl10+1
mark→nsubj10+1
list→flat01-1
list→conj10+1
flat→conj10+1
flat→amod01-1
fixed→orphan10+1
expl→nsubj01-1
expl→advmod10+1
discourse→obl10+1
discourse→mark01-1
det→orphan10+1
det→obl10+1
det→nsubj01-1
det→advmod10+1
dep→orphan10+1
dep→nmod01-1
dep→flat10+1
csubj→orphan01-1
csubj→obj01-1
conj→obj10+1
conj→nmod01-1
conj→ccomp10+1
ccomp→aux01-1
cc→discourse01-1
case→advmod10+1
aux→cop01-1
appos→xcomp01-1
appos→obl10+1
appos→nummod01-1
amod→parataxis10+1
amod→obl01-1
amod→nummod01-1
amod→nsubj01-1
amod→det10+1
amod→acl10+1
advmod→obj01-1
advmod→advcl01-1
advcl→obj01-1
acl→appos01-1
parataxis→appos110
parataxis→advcl110
orphan→det110
nummod→flat110
nsubj→nmod110
nsubj→advcl110
nmod→list110
mark→case110
discourse→orphan110
csubj→xcomp110
conj→obl110
conj→advcl110
aux→ccomp110
appos→list110
advmod→orphan110
advmod→nmod110
advmod→det110
advcl→parataxis110
advcl→obl110
advcl→acl110
acl→orphan110
acl→csubj110
acl→advcl110
VSE NAPAKE 1.376 2.421 -1.045
Barvno ozadje: zelena = Trankit naredi manj napak (Trankit boljši)  ·  modra = CLASSLA naredi manj napak (CLASSLA boljši)  ·  brez ozadja = enako. Pozitivna razlika v stolpcu Razlika pomeni, da Trankit naredi več napak; negativna, da manj.
Klikni relacijo v Tabeli 1 za prikaz primerov.
Prikažejo se vsi primeri za izbrani tip napake in relacijski vzorec.

Trankit

Ni izbrane relacije.

CLASSLA

Ni izbrane relacije.

Tabela 2  ·  Natančnost po relacijah (LAS, v %)

Privzeto je tabela razvrščena po stolpcu Trankit, od najvišje do najnižje vrednosti LAS. Klik na glavo stolpca spremeni razvrščanje.
Relacija Opis Testna Trankit CLASSLA Razlika Vizualizacija
csubjclausal subject78 90,950,3+40,6
discoursediscourse element15 66,750,0+16,7
objobject1.085 95,291,3+4,0
nsubjnominal subject1.312 96,089,0+7,0
copcopula542 95,786,6+9,1
aclclausal modifier of noun437 90,180,7+9,4
obloblique nominal1.722 94,088,3+5,8
auxauxiliary1.162 98,896,3+2,5
conjconjunct1.108 89,083,1+5,9
amodadjectival modifier2.165 98,898,1+0,8
casecase marking2.415 99,498,9+0,5
nmodnominal modifier1.887 90,986,1+4,8
markmarker804 97,494,5+3,0
rootroot1.282 96,692,5+4,1
iobjindirect object145 82,576,0+6,5
orphanorphan83 73,266,3+6,9
listlist16 74,382,3−8,1
fixedfixed multiword expression95 93,894,8−1,0
flatflat multiword expression156 84,686,1−1,5
advmodadverbial modifier1.929 92,888,5+4,3
parataxisparataxis325 76,764,9+11,8
detdeterminer617 98,797,9+0,8
VSE RELACIJE 25.442 94,59 90,48 +4,11
Barvno ozadje: zelena = Trankit boljši  ·  modra = CLASSLA boljši  ·  Miniaturne vrstice: ■ Trankit   ■ CLASSLA. Vrednosti so preproste točnosti (gold count v imenovalcu), ne F1.

Povzetek: kje je kateri model boljši / slabši

Dimenzija Trankit boljši CLASSLA boljši
Jedrne arg. strukture obj (+4,0), nsubj (+7,0), cop (+9,1), iobj (+6,6) — Trankit je boljši pri vseh glavnih argumentnih relacijah —
Stavčni odvisniki csubj (+40,6), parataxis (+11,8), advcl (+9,9), acl (+9,4) — izrazita prednost Trankita pri vseh štirih relacijah —
Prislovna določila advmod (+4,3) — Trankit je tudi tu stabilno boljši na ravni LAS —
Večbesedne enote — fixed (−1,0), flat (−1,5) — CLASSLA je nekoliko boljši pri obeh relacijah
Elipsa / redke str. orphan (+6,9) — Trankit je boljši pri relaciji orphan list (−8,1) — CLASSLA ostaja boljši pri relaciji list
Oznake napak Trankit: manj napak tipa "napačno jedro in oznaka" (803 → 404) in "napačna oznaka" (416 → 306), zlasti pri obl/nmod zamenjavah Pri iobj→obj ima Trankit več specifičnih zamenjav (19 vs. 10), zato je tu boljša CLASSLA
Analiza temelji na pojavnicah, za katere se pokrivata gold in predicted segmentacija (25.442 pojavnic, 1.282 povedi). Metrika je token-level LAS (labeled attachment score), izračunana z enakim postopkom kot v Tabeli 2 članka Dobrovoljc idr. (2023). Razlike pri relacijah z majhnim številom pojavnic (discourse, csubj, list, orphan) so statistično manj zanesljive.