Codage prédictif dans le cerveau et les réseaux de neurones profonds
- Pang, Zhaoyang (2022)
Thèse de doctorat
- Type de document
- Thèse de doctorat
- Diffusion
- Accès libre
- Titre
- Codage prédictif dans le cerveau et les réseaux de neurones profonds
- Auteur
- Pang, Zhaoyang
- Directeur de thèse
- Vanrullen, Rufin
- Date de soutenance
- 2022-02-28
- Structure de recherche
- Centre de Recherche Cerveau et Cognition (CERCO), UMR 5549
- Discipline
- Neurosciences
- Sujet
- Généralites en Sciences
- Mots-clés en français
- Codage prédictif
- Oscillations cérébrales
- Ondes progressives
- Apprentissage profond
- Contours illusoires
- Traitement visuel
- Résumé en français
- Le codage prédictif est une théorie célèbre et influente dans le domaine des neurosciences. Il indique qu'au lieu de recevoir passivement les informations externes pour former une perception ou une décision, le cerveau utilise un modèle interne hiérarchique qui pourrait interagir activement avec les stimuli externes. Dans cette hiérarchie, chaque niveau prédirait l'activation du niveau inférieur, le niveau le plus bas représentant le monde extérieur ; tandis que le niveau prédit pourrait calculer la différence entre la stimulation réelle et la prédiction et l'envoyer vers le haut pour mettre à jour le modèle pour une meilleure prédiction à l'avenir. Cela pourrait fournir des explications pour un large éventail de phénomènes neurophysiologiques et psychologiques, ce qui conduit à croire que le codage prédictif peut servir de cadre unificateur pour les fonctions cérébrales, notamment la sensation, la perception, la mémoire, etc. Cependant, l'interprétation raisonnable fournie par le codage prédictif ne peut exclure d'autres théories possibles sur la fonction cérébrale. Des preuves supplémentaires sont nécessaires pour prouver que le codage prédictif est un principe unificateur utilisé par le cerveau. D'une part, les chercheurs construisent des modèles informatiques mettant en œuvre une dynamique de codage prédictive et vérifient si un tel système dynamique pourrait générer des résultats similaires observés dans le cerveau biologique. D'autre part, des efforts ont été déployés pour étudier les mécanismes neuronaux du traitement prédictif dans le cerveau. Dans la thèse actuelle, nous avons combiné les deux côtés, expérimental et informatique, en essayant de fournir des preuves plus solides pour le codage prédictif en tant que théorie unificatrice de la fonction cérébrale. Plus précisément, nous avons mené trois études progressives et connexes. La première se concentre sur les activités neuronales dans le cerveau biologique, en particulier les ondes oscillatoires progressives (`oscillatory travelling waves'). Les ondes progressives corticales pourraient-elles sous-tendre les processus prédictifs dans le cerveau ? Nos résultats suggèrent que les ondes ascendantes n'apparaissent qu'en présence de stimuli visuels et disparaissent lorsque les entrées visuelles sont absentes ; tandis que les ondes descendantes, bien qu'elles reçoivent une certaine modulation de l'entrée visuelle externe, sont moins affectées. Nous avons expliqué les résultats dans le cadre du codage prédictif : les ondes progressives oscillatoires pourraient être le mécanisme neuronal du codage prédictif avec des ondes avant portant des erreurs de prédiction et des ondes arrière transmettant des signaux de prédiction. Dans le deuxième projet, nous avons utilisé la technique d'apprentissage profond et construit un réseau de neurones qui pourrait mettre en œuvre une dynamique de codage prédictif. Si le cerveau humain pouvait fonctionner selon un tel principe dynamique, le réseau de codage prédictif devrait montrer certaines performances humaines. Nous avons testé cette hypothèse avec des stimuli d'image de contour illusoires. L'étude suggère que le réseau neuronal piloté par la dynamique de codage prédictif possède une perception illusoire, indiquant la possibilité que la même stratégie dynamique, c'est-à-dire le codage prédictif, pourrait être partagée entre le réseau et le cerveau biologique. Sur la base des résultats des deux premières études : (i) les ondes progressives corticales pourraient servir de mécanisme neuronal de codage prédictif dans le cerveau biologique ; (ii) le réseau de neurones prédictifs affiche une perception similaire à l'humain, dans la troisième étude, nous renforçons davantage la plausibilité biologique du même réseau de neurones prédictif en ajoutant des constantes de temps et des délais et des entre les couches du réseau afin de générer des oscillations. Les résultats préliminaires montrent que le réseau pourrait osciller avec des paramètres temporels biologiquement plausibles. Nous nous attendons à ce qu'un tel réseau de neurones oscillatoire produise des résultats plus humains en termes de profil d'activation d'unité de signal et de sortie de décision finale. En résumé, la thèse énonce la possibilité d'une théorie du codage prédictif en tant que cadre unificateur pour les fonctions cérébrales en combinant les preuves du cerveau biologique et du réseau neuronal informatique.
- Résumé en anglais
- Predictive coding is a famous and influential theory in the field of neuroscience. It states that instead of passively receiving the external information and forming perception or decision, the brain holds a hierarchical internal modal that could actively interact with the external stimuli. In this hierarchy, each level could predict the activation of the lower level, with the lowest level representing the outside world; while the predicted level could compute the difference between real stimulation and the prediction and send it upward to update the model for better prediction in the future. It could provide explanations for a wide range of neurophysiological and psychological phenomena, which leads to the belief that predictive coding may serve as a unifying computational framework for brain functions including sensation, perception, memory, and so on. However, the interpretation provided by predictive coding on brain function is not definite enough. More supportive evidence is needed to establish predictive coding as a unifying principle used by the brain. On one hand, researchers build computational models implementing predictive coding dynamics and check whether such a dynamic system could generate some similar results observed in the biological brain. On the other hand, efforts have been made to investigate the neural mechanisms of predictive processing in the brain. In the current thesis, we combined both sides, experimental and computational, attempting to provide more solid evidence for predictive coding as a unifying theory of brain function. Specifically, we conducted three progressive and related studies. The first one focuses on the neural activities in the biological brain, in particular, the oscillatory traveling waves. Could cortical traveling waves underlie predictive processes in the brain? Our results suggest that the ascending traveling waves only appear with the presence of bottom-up driven visual stimuli and disappear when visual inputs are absent; the descending waves, although they receive some modulation from external visual input, are less affected. We explained the results in the predictive coding framework: oscillatory traveling waves might be a neural signature of predictive coding with forward waves carrying prediction errors and backward waves transmitting prediction signals. In the second project, we utilized the deep learning technique and constructed a neural network which could implement predictive coding dynamics. If the human brain functions according to such a dynamic principle, the predictive coding network should show certain human-like properties. We tested this hypothesis with illusory contour image stimuli. The study suggests the neural network driven by predictive coding dynamics possesses illusory perception, supporting the possibility that the same dynamics strategy, i.e. predictive coding, might be shared between the network and biological brain. Based on the results of the first two studies: (i) cortical traveling waves reflecting the neural mechanisms of predictive coding in the biological brain; (ii) the predictive neural network displaying human-like performance, in the third study, we further update the same predictive neural network by adding biologically plausible time delays and constants between network layers in order to generate oscillations. The preliminary results show that the network could oscillate with biologically plausible time parameters. We expect that such an oscillatory neural network will produce more human-like results in terms of its signal unit activation pattern and final decision output. In summary, the thesis states the possibility of predictive coding theory as a unifying framework for brain functions by combining the evidence from the biological brain and computational neural network.
- Numéro national de thèse
- 2022TOU30037
- Date de publication
- 2022-06-03T10:43:00
Citation bibliographique
Pang, Zhaoyang (2022), Codage prédictif dans le cerveau et les réseaux de neurones profonds [Thèse de doctorat]