| Titre : | Développement d’un Régulateur de Paramètres Avancé basé sur l’Ancrage et une Stratégie Adaptative par Époque (AnchorLoss) pour l’Amélioration de la Robustesse des Modèles Profonds |
| Auteurs : | Benadla Redouane, Auteur |
| Type de document : | texte manuscrit |
| Editeur : | Université de Saïda – Dr. Moulay Tahar – Faculté des Mathématiques, de l’Informatique et des Télécommunications, 2025/2026 |
| Accompagnement : | CD |
| Langues: | Français |
| Index. décimale : | BUC-M 008716 |
| Catégories : |
Master en informatique Spécialité : Intelligence Artificielle Principe et application |
| Mots-clés: | Apprentissage Continu, Oubli Catastrophique, GLSA-H, Stabilité-Plasticité, Gradient Cosinus, Information de Fisher, Deep Learning. |
| Résumé : |
Ce travail traite de la problématique de l’Oubli Catastrophique (Catastrophic Forgetting)
dans les systèmes d’apprentissage Continu (Continual Learning) — ce phénomène qui empêche les réseaux de neurones d’accumuler des connaissances au fil du temps sans perdre ce qu’ils avaient appris auparavant. Dans ce mémoire, nous proposons un algorithme adaptatif hybride connu sous le nom de GLSA-H (Global-Local Structural Plasticity-Stability Alignment — Hybrid), qui démontre une supériorité par rapport aux approches traditionnelles telles qu’EWC. GLSA-H constitue l’abou- tissement d’un parcours de développement progressif : il étend une première formulation, ap- pelée GLSA-S, fondée sur un facteur de conflit cosinus entre gradients, en y intégrant une es- timation diagonale de l’information de Fisher, un lissage par momentum, une mise à l’échelle de type Newton et un mécanisme optionnel d’adaptation du taux d’apprentissage par hyper- gradient. L’algorithme proposé repose ainsi sur un mécanisme dynamique d’équilibre entre Sta- bilité et Plasticité (Stability-Plasticity Balance), combinant le Facteur de Conflit Cosinus (Co- sine Conflict Factor) et l’importance relative des paramètres (Fisher diagonale) pour réguler les mises à jour des poids en temps réel, sans recourir à un stockage d’échantillons des tâches passées (approche rehearsal-free / buffer-free). L’efficacité du noyau algorithmique de GLSA-H a été évaluée à travers deux scénarios expérimentaux : • Apprentissage multi-domaines (Cross-Domain) : en combinant des tâches radicalement différentes comme la classification médicale de tumeurs cérébrales (IRM) et l’analyse des caractéristiques colorées d’images naturelles. • Apprentissage incrémental par classes (Class-Incremental) : en utilisant la base de don- nées de panneaux de signalisation routière allemande (GTSRB), découpée en tâches sé- quentielles. Les résultats expérimentaux montrent la capacité du mécanisme proposé à réduire l’oubli catastrophique et à atteindre une stabilité de performance par rapport aux optimiseurs clas- siques tels qu’Adam, ce qui en fait une avancée prometteuse vers la construction de systèmes d’intelligence artificielle capables d’un apprentissage cumulatif durable dans des environne- ments réels et changeants. La validation empirique exhaustive des composantes avancées de GLSA-H (mise à l’échelle Fisher-Newton, momentum, hypergradient) au-delà du noyau à base de conflit cosinus est identifiée comme une perspective de recherche. |
Exemplaires
| Code-barres | Cote | Support | Localisation | Section | Disponibilité |
|---|---|---|---|---|---|
| aucun exemplaire |
Documents numériques (1)
BUC-M 008716 Adobe Acrobat PDF |
