Modeling Symbolic Music with Natural Language Processing Approaches : Analyzing and Experimenting with Multiple Levels of Representations
Modélisation de la musique symbolique par des approches de traitement automatique du langage naturel : analyse et expérimentations sur différents niveaux de représentation
- Extraction automatique d'information musicale
- Représentations symboliques de la musique
- Traitement automatique du langage naturel
- Apprentissage automatique
- Recherche d’information musicale
- Notation musicale
- Traitement automatique du langage naturel
- Exploration de données
- Apprentissage automatique
- Informatique musicale
- Music Information Retrieval
- Symbolic Music
- Natural Language Processing
- Machine Learning
- Langue : Anglais
- Discipline : Informatique et applications
- Identifiant : 2025ULILB029
- Type de thèse : Doctorat
- Date de soutenance : 03/11/2025
Résumé en langue originale
La musique est souvent comparée à un langage. Cette comparaison est notamment due au fait que musique et langage naturel partagent de nombreuses similarités. Parmi celles-ci figurent leurs représentations respectives à travers la notation musicale symbolique - ou partition musicale - et la forme écrite textuelle du langage. Ainsi, le domaine de la recherche d'information musicale MIR a fréquemment emprunté des outils provenant du domaine du Traitement automatique du langage naturel (TALN) afin de les adapter au traitement de données musicales symboliques. Ce phénomène s'est particulièrement intensifié avec l'essor des modèles de type Transformer dans le domaine du TALN.Cette thèse propose tout d'abord une synthèse structurée des adaptations des méthodes de TALN développées dans le champ du MIR pour le traitement de la musique symbolique. Elles sont présentées selon trois axes, chacun portant sur l'utilisation de différentes représentations de la musique symbolique à divers niveaux. La musique symbolique représentée comme des données séquentielles a conduit au développement de plusieurs stratégies de tokenization, que nous proposons d'organiser au sein d'une taxonomie unifiée. Ces représentations sont ensuite traitées par des modèles, tels que les architectures basées sur des mécanismes de récurrence ou d'attention. Celles-ci, initialement conçues pour les données textuelles, ont donné lieu à de multiples adaptations pour le traitement de la musique symbolique. Enfin, ces représentations abstraites sont utilisées pour accomplir des tâches, où émergent à la fois des parallèles et des spécificités distinctives entre MIR et TALN.Ces aspects structurent ensuite les trois contributions techniques de cette thèse. Dans un premier temps, nous étudions l'expressivité des représentations séquentielles de la musique à travers le développement de stratégies de tokenization basées sur les intervalles musicaux, ainsi que l'analyse d'une stratégie de tokenization en sous-mots, le Byte-Pair Encoding, appliqué aux tokens musicaux symboliques. Nous proposons ensuite un cadre pour l'explicabilité de modèles, qui est utilisé pour l'analyse du mécanisme d'attention d'un modèle basé sur Transformeur, entraîné sur une tâche d'analyse d'harmonie fonctionnelle. Enfin, nous développons un modèle adapté des outils du TALN pour une tâche de ré-orchestration, considérée comme un cas de génération automatique de musique multi-instrumentale.Par ces contributions, cette thèse soutient que les méthodes de TALN restent avant tout une boîte à outils dans laquelle le MIR peut s'inspirer. Malgré les analogies entre ces deux domaines, la principale motivation guidant une étude en MIR devrait avant tout être d'ordre musical.
Résumé traduit
Music is often described as a language because of its similarities to natural language. These include their respective representations through symbolic music notation and textual form. Therefore, the field of Music Information Retrieval (MIR) has often borrowed several tools from the Natural Language Processing (NLP) field to adapt them to process symbolic music data. In particular, this phenomenon has been increasingly popular with the breakthrough of Transformer models in the NLP field.This thesis first provides a structured overview of adaptations of NLP methods developed in the MIR field for symbolic music processing. They are presented along three axes, each addressing the use of diverse representations of symbolic music at different levels. Symbolic music represented as sequential data has lead to the development of several tokenization strategies, which we propose to organize within a unified taxonomy. These representations are subsequently processed through models, such as recurrent or attention-based architectures initially developed for text data, giving rise to multiple adaptations for symbolic music processing. Finally, these abstract representations are used to perform tasks, where both parallels and distinctive characteristics emerge between MIR and NLP.These aspects then structure the three technical contributions of this thesis. First, we study the expressiveness of sequential representations of music through the development of interval-based tokenization strategies, and the analysis of a subword tokenization strategy, Byte-Pair Encoding, applied to symbolic music tokens. We then propose a framework for model explainability which leads to the analysis of the attention mechanism of a Transformer-based model trained for functional harmony analysis. Finally, we develop a model adapted from NLP tools for a task of re-orchestration, framed as a case of multi-track music generation.Ultimately, this thesis defends that NLP methods first remains a toolbox from which MIR studies can take some tools from. Beyond the analogies between music and natural language, the main motivation guiding a MIR study should be musical questions.
- Directeur(s) de thèse : Tommasi, Marc - Bigo, Louis - Keller, Mikaela
- Président de jury : Bas, Patrick
- Membre(s) de jury : Braud, Chloé - Benetos, Emmanouil - Bilasco, Marius
- Rapporteur(s) : Hinaut, Xavier - Huang, Cheng-Zhi Anna
- Laboratoire : Centre de Recherche en Informatique, Signal et Automatique de Lille
- École doctorale : École graduée Mathématiques, sciences du numérique et de leurs interactions (Lille ; 2021-....)
AUTEUR
- Le, Dinh-Viet-Toan



