Note ABES Characterisation of Anomalous Behaviour for Security in Deep-Edge Wireless Systems : Applied Machine Learning From On-Device Jamming Detection to Collaborative Intelligence aCaractérisation des comportements anormaux pour la sécurité dans les systèmes sans-fil Deep-Edge : apprentissage automatique appliqué : de la détection des interférences à l’intelligence collaborative Apprentissage Automatique Augmentation de Données Intelligence Collaborative Attaques de brouillage 5G Security Machine Learning Jamming Attacks Anomaly Detection Data Augmentation Collaborative Intelligence Détection des anomalies (informatique) 5G (téléphonie mobile) Mesures de sûreté Apprentissage supervisé (intelligence artificielle) Exploration de données La prolifération des réseaux de cinquième génération (5G) est essentielle pour la société moderne, mais leur dépendance au spectre radiofréquence ouvert les rend vulnérables aux attaques par brouillage. Les méthodes de détection existantes manquent souvent de scalabilité, de rentabilité et de robustesse pour un déploiement à grande échelle, et leurs performances sont limitées par la rareté des données anomales nécessaires à l'entraînement de modèles d'apprentissage automatique fiables. Cette thèse aborde ces défis en proposant et en validant un framework complet et multi-étapes pour la caractérisation et la détection des comportements anormaux, progressant d'une détection robuste sur appareil à une intelligence collaborative et scalable.Premièrement, ce travail établit la faisabilité d'une approche agnostique du matériel, démontrant qu'une détection de brouillage robuste peut être réalisée en utilisant uniquement les journaux systèmes natifs des équipements utilisateurs (UE) et des stations de base commerciales. Un pipeline holistique de traitement et d'évaluation des données (SHIELD) est introduit, prouvant son efficacité contre des brouilleurs sophistiqués à modulation de puissance, là où les méthodes conventionnelles échouent. Deuxièmement, pour surmonter les limitations critiques de la rareté des données et de la faible généralisation des modèles, un réseau antagoniste génératif conditionnel (GANSec) est développé. Une nouvelle stratégie d'entraînement basée uniquement sur des données synthétiques améliore significativement la robustesse des détecteurs, permettant aux modèles de maintenir de hautes performances dans des conditions réseau inédites. Enfin, la solution est étendue à l'échelle du système grâce à un framework d'intelligence collaborative léger. Cette architecture s'appuie sur des rapports binaires minimalistes provenant d'une multitude d'UE, qui sont agrégés pour obtenir une connaissance situationnelle à l'échelle du réseau, incluant la cartographie de la zone brouillée et la localisation de la menace, avec une surcharge de communication minimale.Les résultats de cette recherche démontrent une solution de bout en bout, pratique et efficace, qui fait progresser l'état de l'art en matière de sécurité sans fil. Servant de composant fondamental au projet MLSysOps financé par l'UE, ce travail fournit les méthodologies de base pour un module de détection d'anomalies de réseau sans fil visant à garantir la résilience et la confiance dans les réseaux hétérogènes. En unifiant la collecte de données sur appareil avec des techniques d'apprentissage automatique avancées pour l'augmentation de données et la détection collaborative, cette thèse présente un paradigme scalable et résilient pour la défense des réseaux de nouvelle génération contre les menaces de la couche physique. The proliferation of Fifth-generation (5G) networks is critical for modern society, yet their reliance on the open radio frequency spectrum makes them persistently vulnerable to jamming attacks. Existing detection methods often lack the scalability, cost-effectiveness, and robustness required for widespread deployment, and their performance is further hindered by the scarcity of anomalous data needed to train reliable machine learning models. This thesis addresses these challenges by proposing and validating a comprehensive, multi-stage framework for characterising and detecting anomalous behaviour, progressing from robust on-device sensing to scalable, collaborative intelligence.First, this work establishes the feasibility of a hardware-agnostic approach, demonstrating that robust jamming detection can be achieved using only native system logs from commercial User Equipment (UE) and base stations. A holistic data processing and evaluation pipeline (SHIELD) is introduced, proving its effectiveness against sophisticated, power-modulated jammers where conventional methods fail. Second, to overcome the critical limitations of data scarcity and poor model generalization, a tailored conditional Generative Adversarial Network (GANSec) is developed. A novel synthetic-only training strategy is shown to significantly enhance detector robustness, enabling models to maintain high performance under unseen network conditions. Finally, the solution is scaled to a system-wide level through a lightweight collaborative intelligence framework. This architecture leverages minimalist binary reporting from a multitude of UEs, which are aggregated to achieve network-wide situational awareness, including jammed area mapping and threat localization, with minimal communication overhead.The results of this research demonstrate a practical and effective end-to-end solution that advances the state of the art in wireless security. Serving as a foundational component of the EU-funded MLSysOps project, this work provides the core methodologies for a wireless network anomaly detection module aimed at ensuring resilience and trust in heterogeneous networks. By uniting on-device data collection with advanced machine learning for both data augmentation and collaborative sensing, this thesis presents a scalable and resilient paradigm for defending next-generation networks against physical layer threats. Electronic Thesis or Dissertation Text en PDF 5884670 https://pepite-depot.univ-lille.fr/LIBRE/EDMADIS/2025/2025ULILB053.pdf https://theses.fr/2025ULILB053/abes https://theses.hal.science/tel-05632615 https://theses.hal.science/tel-05632615 Xu Jiali Xu 1996-10-01 CN 296998362 https://theses.fr/2025ULILB053 2025ULILB053 https://doi.org/10.70675/dfb97bd2z3fd3z4d69za9e4z817caf85db5e 2025-12-03 Informatique et applications Université de Lille (2022-....) 259265152 Doctorat Docteur es non oui Loscrì Valeria MADS_DIRECTEUR_DE_THESE_1 19753399X Rouvoy Romain MADS_DIRECTEUR_DE_THESE_2 111762146 Gallais Antoine MADS_PRESIDENT_DU_JURY 119931141 Dias de Amorim Marcelo MADS_RAPPORTEUR_1 077498755 Vucinic Malisa MADS_RAPPORTEUR_2 223334626 École graduée Mathématiques, sciences du numérique et de leurs interactions (Lille ; 2021-....) MADS_ECOLE_DOCTORALE_1 631 258621362 Centre Inria de l'Université de Lille MADS_PARTENAIRE_DE_RECHERCHE_1 104752 185432247 ddc:004 Loscrì Valeria Rouvoy Romain Gallais Antoine Dias de Amorim Marcelo Vucinic Malisa École graduée Mathématiques, sciences du numérique et de leurs interactions (Lille ; 2021-....) Centre Inria de l'Université de Lille PDF 5884670