Calcul non conventionnel avec des ...
Document type :
Thèse
Title :
Calcul non conventionnel avec des nanocomposants memristifs : du calcul numérique auxaccélérateurs neuromorphiques
English title :
Unconventional Computing Using Memristive Nanodevices: From Digital Computing to Brain-like Neuromorphic Accelerator
Author(s) :
Shahsavari, Mahyar [Auteur]
Centre de Recherche en Informatique, Signal et Automatique de Lille - UMR 9189 [CRIStAL]
Centre de Recherche en Informatique, Signal et Automatique de Lille - UMR 9189 [CRIStAL]
Thesis director(s) :
Pierre Boulet
Defence date :
2016-12-14
Jury president :
Hélène Paugam-Moisy, Michel Paindavoine, Said Hamdioui and Virginie Hoel
Jury member(s) :
Hélène Paugam-Moisy, Michel Paindavoine, Said Hamdioui and Virginie Hoel
Accredited body :
Université de Lille, Sciences et Technologies
Keyword(s) :
Calcul neuro-inspiré
Réseau neuronal spiking
Apprentissage automatique
Réseau neuronal spiking
Apprentissage automatique
English keyword(s) :
Memristor Nanodevice
Machine Learning
Unconventional Computer Architecture
Spiking Neural Network
Neuro-inspired Computing
Neuromorphic Hardware
Machine Learning
Unconventional Computer Architecture
Spiking Neural Network
Neuro-inspired Computing
Neuromorphic Hardware
HAL domain(s) :
Informatique [cs]/Réseau de neurones [cs.NE]
French abstract :
On estime que le nombre d’objets connectés à l’Internet atteindra 50 à 100 milliards en 2020. Larecherche s’organise en deux champs principaux pour répondre à ce défi : l’internet des objets etles grandes masses de données. ...
Show more >On estime que le nombre d’objets connectés à l’Internet atteindra 50 à 100 milliards en 2020. Larecherche s’organise en deux champs principaux pour répondre à ce défi : l’internet des objets etles grandes masses de données. La demande en puissance de calcul augmente plus vite que ledéveloppement de nouvelles architectures matérielles en particulier à cause du ralentissement dela loi de Moore. La raison principale en est est le mur de la mémoire, autrement appelé le gouletd’étranglement de Von Neumann, qui vient des différences de vitesse croissantes entre le processeuret la mémoire. En conséquence, il y a besoin d’une nouvelle architecture matérielle rapide et économeen énergie pour répondre aux besoins énormes de puissance de calcul.Dans cette thèse, nous proposons de nouvelles architectures pour les processeurs de prochainegénération utilisant des nanotechnologies émergentes telles que les memristors. Nous étudions desméthodes de calcul non conventionnelles aussi bien numériques qu’analogiques. Notre contributionprincipale concerne les réseaux de neurones à impulsion (RNI) ou architectures neuromorphiques.Dans la première partie de la thèse, nous passons en revue les memristors existants, étudions leurutilisation dans une architecture numérique à base de crossbars, puis introduisons les architecturesneuromorphiques. La deuxième partie contient la contribution principale : le développement d’unesimulateur d’architectures neuromorphiques (N2S3), l’introduction d’un nouveau type de synapsepour améliorer l’apprentissage, une exploration des paramètres en vue d’améliorer les RNI, et enfinune étude de la faisabilité des réseaux profonds dans les RNI.Show less >
Show more >On estime que le nombre d’objets connectés à l’Internet atteindra 50 à 100 milliards en 2020. Larecherche s’organise en deux champs principaux pour répondre à ce défi : l’internet des objets etles grandes masses de données. La demande en puissance de calcul augmente plus vite que ledéveloppement de nouvelles architectures matérielles en particulier à cause du ralentissement dela loi de Moore. La raison principale en est est le mur de la mémoire, autrement appelé le gouletd’étranglement de Von Neumann, qui vient des différences de vitesse croissantes entre le processeuret la mémoire. En conséquence, il y a besoin d’une nouvelle architecture matérielle rapide et économeen énergie pour répondre aux besoins énormes de puissance de calcul.Dans cette thèse, nous proposons de nouvelles architectures pour les processeurs de prochainegénération utilisant des nanotechnologies émergentes telles que les memristors. Nous étudions desméthodes de calcul non conventionnelles aussi bien numériques qu’analogiques. Notre contributionprincipale concerne les réseaux de neurones à impulsion (RNI) ou architectures neuromorphiques.Dans la première partie de la thèse, nous passons en revue les memristors existants, étudions leurutilisation dans une architecture numérique à base de crossbars, puis introduisons les architecturesneuromorphiques. La deuxième partie contient la contribution principale : le développement d’unesimulateur d’architectures neuromorphiques (N2S3), l’introduction d’un nouveau type de synapsepour améliorer l’apprentissage, une exploration des paramètres en vue d’améliorer les RNI, et enfinune étude de la faisabilité des réseaux profonds dans les RNI.Show less >
English abstract : [en]
By 2020, there will be 50 to 100 billion devices connected to the Internet. Two domains of hot researchto address these high demands of data processing are the Internet of Things (IoT) and Big Data. Thedemands of these new ...
Show more >By 2020, there will be 50 to 100 billion devices connected to the Internet. Two domains of hot researchto address these high demands of data processing are the Internet of Things (IoT) and Big Data. Thedemands of these new applications are increasing faster than the development of new hardwareparticularly because of the slowdown of Moore’s law. The main reason of the ineffectiveness ofthe processing speed is the memory wall or Von Neumann bottleneck which is comming from speeddifferences between the processor and the memory. Therefore, a new fast and power-efficient hardwarearchitecture is needed to respond to those huge demands of data processing.In this thesis, we introduce novel high performance architectures for next generation computingusing emerging nanotechnologies such as memristors. We have studied unconventional computingmethods both in the digital and the analog domains. However, the main focus and contribution is inSpiking Neural Network (SNN) or neuromorphic analog computing. In the first part of this dissertation,we review the memristive devices proposed in the literature and study their applicability in a hardwarecrossbar digital architecture. At the end of part I, we review the Neuromorphic and SNN architecture.The second part of the thesis contains the main contribution which is the development of a NeuralNetwork Scalable Spiking Simulator (N2S3) suitable for the hardware implementation of neuromorphiccomputation, the introduction of a novel synapse box which aims at better learning in SNN platforms,a parameter exploration to improve performance of memristor-based SNN, and finally a study of theapplication of deep learning in SNN.Show less >
Show more >By 2020, there will be 50 to 100 billion devices connected to the Internet. Two domains of hot researchto address these high demands of data processing are the Internet of Things (IoT) and Big Data. Thedemands of these new applications are increasing faster than the development of new hardwareparticularly because of the slowdown of Moore’s law. The main reason of the ineffectiveness ofthe processing speed is the memory wall or Von Neumann bottleneck which is comming from speeddifferences between the processor and the memory. Therefore, a new fast and power-efficient hardwarearchitecture is needed to respond to those huge demands of data processing.In this thesis, we introduce novel high performance architectures for next generation computingusing emerging nanotechnologies such as memristors. We have studied unconventional computingmethods both in the digital and the analog domains. However, the main focus and contribution is inSpiking Neural Network (SNN) or neuromorphic analog computing. In the first part of this dissertation,we review the memristive devices proposed in the literature and study their applicability in a hardwarecrossbar digital architecture. At the end of part I, we review the Neuromorphic and SNN architecture.The second part of the thesis contains the main contribution which is the development of a NeuralNetwork Scalable Spiking Simulator (N2S3) suitable for the hardware implementation of neuromorphiccomputation, the introduction of a novel synapse box which aims at better learning in SNN platforms,a parameter exploration to improve performance of memristor-based SNN, and finally a study of theapplication of deep learning in SNN.Show less >
Language :
Anglais
Collections :
Source :
Files
- https://hal.archives-ouvertes.fr/tel-01451613/document
- Open access
- Access the document
- https://hal.archives-ouvertes.fr/tel-01451613/file/abstract.tex
- Open access
- Access the document
- https://hal.archives-ouvertes.fr/tel-01451613/file/acknowledment.tex
- Open access
- Access the document
- https://hal.archives-ouvertes.fr/tel-01451613/file/ch1.tex
- Open access
- Access the document
- https://hal.archives-ouvertes.fr/tel-01451613/file/ch2.tex
- Open access
- Access the document
- https://hal.archives-ouvertes.fr/tel-01451613/file/ch3.tex
- Open access
- Access the document
- https://hal.archives-ouvertes.fr/tel-01451613/file/ch4.tex
- Open access
- Access the document
- https://hal.archives-ouvertes.fr/tel-01451613/file/ch5.tex
- Open access
- Access the document
- https://hal.archives-ouvertes.fr/tel-01451613/file/ch6.tex
- Open access
- Access the document
- https://hal.archives-ouvertes.fr/tel-01451613/file/ch7.tex
- Open access
- Access the document
- https://hal.archives-ouvertes.fr/tel-01451613/file/conclusion.tex
- Open access
- Access the document
- https://hal.archives-ouvertes.fr/tel-01451613/file/figures.zip
- Open access
- Access the document
- https://hal.archives-ouvertes.fr/tel-01451613/file/images.zip
- Open access
- Access the document
- https://hal.archives-ouvertes.fr/tel-01451613/file/intro.tex
- Open access
- Access the document
- https://hal.archives-ouvertes.fr/tel-01451613/file/myThesis.bbl
- Open access
- Access the document
- https://hal.archives-ouvertes.fr/tel-01451613/file/mythesis.bib
- Open access
- Access the document
- https://hal.archives-ouvertes.fr/tel-01451613/file/myThesis.log
- Open access
- Access the document
- https://hal.archives-ouvertes.fr/tel-01451613/file/myThesis.pdf
- Open access
- Access the document
- https://hal.archives-ouvertes.fr/tel-01451613/file/myThesis.tex
- Open access
- Access the document
- https://hal.archives-ouvertes.fr/tel-01451613/file/Nanoarch16%20%281%29.bib
- Open access
- Access the document
- https://hal.archives-ouvertes.fr/tel-01451613/file/polyglossia.sty
- Open access
- Access the document
- https://hal.archives-ouvertes.fr/tel-01451613/file/Rrate%20%281%29.pdf
- Open access
- Access the document
- https://hal.archives-ouvertes.fr/tel-01451613/file/Rrate%20%281%29.txt
- Open access
- Access the document
- https://hal.archives-ouvertes.fr/tel-01451613/file/Rrate.pdf
- Open access
- Access the document
- https://hal.archives-ouvertes.fr/tel-01451613/file/Rratebeta%20%281%29.pdf
- Open access
- Access the document
- https://hal.archives-ouvertes.fr/tel-01451613/file/Rratebeta%20%281%29.txt
- Open access
- Access the document
- https://hal.archives-ouvertes.fr/tel-01451613/file/Rratebeta.pdf
- Open access
- Access the document
- https://hal.archives-ouvertes.fr/tel-01451613/file/Rratestdp%20%281%29.pdf
- Open access
- Access the document
- https://hal.archives-ouvertes.fr/tel-01451613/file/Rratestdp%20%281%29.txt
- Open access
- Access the document
- https://hal.archives-ouvertes.fr/tel-01451613/file/Rratestdp.pdf
- Open access
- Access the document
- https://hal.archives-ouvertes.fr/tel-01451613/file/Rrateth%20%281%29.pdf
- Open access
- Access the document
- https://hal.archives-ouvertes.fr/tel-01451613/file/Rrateth%20%281%29.txt
- Open access
- Access the document
- https://hal.archives-ouvertes.fr/tel-01451613/file/Rrateth.pdf
- Open access
- Access the document
- https://hal.archives-ouvertes.fr/tel-01451613/file/scala%20%281%29.tex
- Open access
- Access the document
- https://hal.archives-ouvertes.fr/tel-01451613/file/Simulator.bib
- Open access
- Access the document
- https://hal.archives-ouvertes.fr/tel-01451613/file/tikz-uml.sty
- Open access
- Access the document
- https://hal.archives-ouvertes.fr/tel-01451613/file/title_page.tex
- Open access
- Access the document
- https://hal.archives-ouvertes.fr/tel-01451613/document
- Open access
- Access the document
- https://hal.archives-ouvertes.fr/tel-01451613/document
- Open access
- Access the document
- document
- Open access
- Access the document
- Mahyar_shahsavari_pHd_thesis.pdf
- Open access
- Access the document
- abstract.tex
- Open access
- Access the document
- acknowledment.tex
- Open access
- Access the document
- ch1.tex
- Open access
- Access the document
- ch2.tex
- Open access
- Access the document
- ch3.tex
- Open access
- Access the document
- ch4.tex
- Open access
- Access the document
- ch5.tex
- Open access
- Access the document
- ch6.tex
- Open access
- Access the document
- ch7.tex
- Open access
- Access the document
- conclusion.tex
- Open access
- Access the document
- figures.zip
- Open access
- Access the document
- images.zip
- Open access
- Access the document
- intro.tex
- Open access
- Access the document
- myThesis.bbl
- Open access
- Access the document
- mythesis.bib
- Open access
- Access the document
- myThesis.log
- Open access
- Access the document
- myThesis.pdf
- Open access
- Access the document
- myThesis.tex
- Open access
- Access the document
- Nanoarch16%20%281%29.bib
- Open access
- Access the document
- Nanoarch16.bib
- Open access
- Access the document
- polyglossia.sty
- Open access
- Access the document
- Rrate%20%281%29.pdf
- Open access
- Access the document
- Rrate%20%281%29.txt
- Open access
- Access the document
- Rrate.pdf
- Open access
- Access the document
- Rrate.txt
- Open access
- Access the document
- Rratebeta%20%281%29.pdf
- Open access
- Access the document
- Rratebeta%20%281%29.txt
- Open access
- Access the document
- Rratebeta.pdf
- Open access
- Access the document
- Rratebeta.txt
- Open access
- Access the document
- Rratestdp%20%281%29.pdf
- Open access
- Access the document
- Rratestdp%20%281%29.txt
- Open access
- Access the document
- Rratestdp.pdf
- Open access
- Access the document
- Rratestdp.txt
- Open access
- Access the document
- Rrateth%20%281%29.pdf
- Open access
- Access the document
- Rrateth%20%281%29.txt
- Open access
- Access the document
- Rrateth.pdf
- Open access
- Access the document
- Rrateth.txt
- Open access
- Access the document
- scala%20%281%29.tex
- Open access
- Access the document
- scala.tex
- Open access
- Access the document
- Simulator.bib
- Open access
- Access the document
- tikz-uml.sty
- Open access
- Access the document
- title_page.tex
- Open access
- Access the document