Transformer based approach for answer generation

Approche de génération de réponse à base de transformers

Imen Akermi (1) , Johannes Heinecke (1) , Frédéric Herledan (1)

1 Orange Labs

This paper presents an unsupervised approach for Natural Language Generation within the framework of question-answering task. This approach aims at solving the too-short or too-long answer generation problem without requiring annotated data. The proposed approach shows promising results for both English and French.

Cet article présente une approche non-supervisée basée sur les modèles Transformer pour la génération du langage naturel dans le cadre des systèmes de question-réponse. Cette approche permettrait de remédier à la problématique de génération de réponse trop courte ou trop longue sans avoir recours à des données annotées. Cette approche montre des résultats prometteurs pour l’anglais et le français.

Mots clés: natural language generation; question answering systems; dependency analysis

Mots clés: analyse de dépendance.; systèmes de question-réponse; génération du langage naturel

Domaines: Informatique et langage [cs.CL]

Imen Akermi, Johannes Heinecke, Frédéric Herledan. Approche de génération de réponse à base de transformers. 6e conférence conjointe Journées d'Études sur la Parole (JEP, 33e édition), Traitement Automatique des Langues Naturelles (TALN, 27e édition), Rencontre des Étudiants Chercheurs en Informatique pour le Traitement Automatique des Langues (RÉCITAL, 22e édition). Volume 2 : Traitement Automatique des Langues Naturelles, Jun 2020, Nancy, France. pp.2-11. ⟨hal-02784751v3⟩