Attention sur les spans pour l'analyse syntaxique en constituants

International audience We introduce an extension to recent neural constituency parsers that consists of providing potential constituents with a vector representation fine-tuned from the context by successive applications of an efficient transformer type module (pooling by attention, then a non-linear transformation). We implement this extension in the parser called CRF introduced by Yu Zhang &Al. We test this extension on two corpora, PTB and FTB, with or without dynamic word vectors : this extension achieves performance gains in all settings Nous présentons une extension aux analyseurs syntaxiques en constituants neuronaux modernes qui consiste à doter les constituants potentiels d'une représentation vectorielle affinée en fonction du contexte par plusieurs applications successives d'un module de type transformer efficace (pooling par attention puis transformation non-linéaire).Nous appliquons cette extension à l'analyseur CRF de Yu Zhang & Al.Expérimentalement, nous testons cette extension sur deux corpus (PTB et FTB) avec ou sans vecteurs de mots dynamiques: cette extension permet d'avoir un gain constant dans toutes les configurations.