Doctorant - projet MAD H/F

Description des missions

L'alignement des grands modèles de langage repose aujourd'hui sur des procédures largement empiriques, dont les fondements mathématiques restent mal compris. Cette thèse vise à en développer une analyse rigoureuse, à l'interface de l'optimisation non lisse, de la statistique en grande dimension et de l'apprentissage profond. On s'intéressera d'abord à l'effet des méthodes de réglage fin par adaptateurs de faible rang sur le comportement du modèle, en cherchant à quantifier le déplacement induit dans l'espace des distributions de sortie. On étudiera ensuite les garanties statistiques que l'on peut espérer d'un alignement construit à partir d'un nombre fini de données de préférence, ainsi que leur robustesse aux imperfections des annotations et aux décalages de distribution. Enfin, on cherchera à formuler l'alignement comme un problème d'optimisation structuré, de manière à en caractériser les solutions et à concevoir des algorithmes dont la convergence puisse être établie. Les développements théoriques seront confrontés à des expériences numériques sur des modèles de langue de taille modérée, afin d'évaluer leur pertinence pratique et d'orienter la conception de procédures d'alignement plus fiables.

Profil recherché

L'alignement des grands modèles de langage repose aujourd'hui sur des procédures largement empiriques, dont les fondements mathématiques restent mal compris. Cette thèse vise à en développer une analyse rigoureuse, à l'interface de l'optimisation non lisse, de la statistique en grande dimension et de l'apprentissage profond. On s'intéressera d'abord à l'effet des méthodes de réglage fin par adaptateurs de faible rang sur le comportement du modèle, en cherchant à quantifier le déplacement induit dans l'espace des distributions de sortie. On étudiera ensuite les garanties statistiques que l'on peut espérer d'un alignement construit à partir d'un nombre fini de données de préférence, ainsi que leur robustesse aux imperfections des annotations et aux décalages de distribution. Enfin, on cherchera à formuler l'alignement comme un problème d'optimisation structuré, de manière à en caractériser les solutions et à concevoir des algorithmes dont la convergence puisse être établie. Les développements théoriques seront confrontés à des expériences numériques sur des modèles de langue de taille modérée, afin d'évaluer leur pertinence pratique et d'orienter la conception de procédures d'alignement plus fiables.Université Côte d’Azur est un grand Établissement Public à Caractère Scientifique Culturel et Professionnel dont les missions fondamentales sont la Formation des étudiantes et des étudiants et des professionnelles et professionnels, une Recherche d’excellence et une Innovation au service de tous et toutes. Depuis le 1er janvier 2020, cet établissement public expérimental vise à développer le modèle du 21ème siècle pour les universités françaises, basé sur de nouvelles interactions entre les disciplines (pluridisciplinarité et transdisciplinarité), avec une volonté de dynamique collective articulant Formation-Recherche-Innovation, ainsi que de solides partenariats locaux, nationaux et internationaux avec les secteurs public et privé. Le ou la doctorant·e sera amené·e à :développer et analyser des modèles mathématiques de l'alignement, en mobilisant les outils de l'optimisation non lisse, de l'analyse variationnelle et de la statistique en grande dimension ;établir des résultats théoriques (bornes, garanties de convergence, conditions d'optimalité) ;concevoir et implémenter des algorithmes, et mener des expériences numériques sur des modèles de langue de taille modérée, y compris sur infrastructures de calcul haute performance (GPU, mésocentres nationaux) ;maintenir un code reproductible et documenté, et contribuer à sa diffusion en accès ouvert rédiger des articles scientifiques et les soumettre dans des conférences et revues internationales du domaine (NeurIPS, ICML, ICLR, JMLR, revues d'optimisation et de statistique) ;effectuer une veille bibliographique active sur un domaine en évolution rapide ;participer à la vie scientifique du laboratoire et interagir avec les autres membres de l'équipe et les collaborateurs du projet ; Le Laboratoire Jean Alexandre Dieudonné se situe parmi les meilleurs centres de recherche internationaux en mathématiques. Sa vocation est de développer les mathématiques fondamentales et appliquées sur un spectre large, leurs applications et interactions avec d’autres disciplines (physique, biologie, neurosciences, médecine, environnement, ...). En parallèle de ses activités en mathématiques, le LJAD développe également des recherches interdisciplinaires, notamment avec la mécanique des fluides, la biologie, la chimie, la physique, et il accueille pour cela des chercheurs et enseignants-chercheurs provenant de disciplines autres que les mathématiques.