augustin64/tipe
1
1
Fork 0
mirror of https://github.com/augustin64/projet-tipe synced 2025-01-23 15:16:26 +01:00
Code Issues Packages Projects Releases Wiki Activity

Add links back to COMPTE_RENDU.md

Browse Source
This commit is contained in:
augustin64 2023-04-28 17:29:44 +02:00
parent 2e183f47e8
commit c23a126faa
1 changed files with 10 additions and 10 deletions
Show Stats Download Patch File Download Diff File Expand all files Collapse all files

20
COMPTE_RENDU.md
View File

@ -2,7 +2,7 @@
Ce fichier recense l'avancement global du projet et les différentes étapes franchies (avec leurs commits et date). Ce fichier recense l'avancement global du projet et les différentes étapes franchies (avec leurs commits et date).
### **22 Avril 2022** MNIST, premiers résultats sur le réseau dense. [b30bedd] ### **22 Avril 2022** MNIST, premiers résultats sur le réseau dense. [b30bedd](../../commit/b30bedd)
Le réseau minimise la fonction d'erreur (différence entre sortie voulue et obtenue). Le réseau minimise la fonction d'erreur (différence entre sortie voulue et obtenue).
Cela donne comme résultat une précision de 10.2% en moyenne soit à peine mieux qu'aléatoire. Cela donne comme résultat une précision de 10.2% en moyenne soit à peine mieux qu'aléatoire.
Chaque image renvoie les mêmes poids sur la dernière couche. Chaque image renvoie les mêmes poids sur la dernière couche.
@ -25,7 +25,7 @@ Voici un tableau comparant la fréquence d'apparition de chaque chiffre et l'act
<br/> <br/>
<br/> <br/>
### **25 Avril 2022** Optimisation de la taille des époques. [698e72f] ### **25 Avril 2022** Optimisation de la taille des époques. [698e72f](../../commit/698e72f)
Le réseau donne des probabilités dont la somme est de 1 (grâce à softmax). Le réseau donne des probabilités dont la somme est de 1 (grâce à softmax).
Un problème de sur-ajustement apparaît, résultant à de mauvais résultats sur des nouvelles données. Un problème de sur-ajustement apparaît, résultant à de mauvais résultats sur des nouvelles données.
Plus le réseau contient de couches, plus sa convergence vers des probabilités convenables est longue. Plus le réseau contient de couches, plus sa convergence vers des probabilités convenables est longue.
@ -43,7 +43,7 @@ Voici un tableau comparant les exactitudes des différentes époques et les dime
<br/> <br/>
<br/> <br/>
### **14 Mai 2022** Implémentation du multithreading. [d40212d] ### **14 Mai 2022** Implémentation du multithreading. [d40212d](../../commit/d40212d)
Le problème qui se posera dans le futur est celui de la puissance de calcul nécessaire. Le problème qui se posera dans le futur est celui de la puissance de calcul nécessaire.
Pour l'optimiser, il faut donc utiliser au maximum les ressources disponibles. Pour l'optimiser, il faut donc utiliser au maximum les ressources disponibles.
@ -51,17 +51,17 @@ Pour l'optimiser, il faut donc utiliser au maximum les ressources disponibles.
<br/> <br/>
<br/> <br/>
### **28 Septembre 2022** Enregistrement des fichiers du CNN [a478a45] ### **28 Septembre 2022** Enregistrement des fichiers du CNN [a478a45](../../commit/a478a45)
Le réseau neuronal simple donnant des résultats convaincants (approximativement 90% de réussite sur l'échantillon de test), Le réseau neuronal simple donnant des résultats convaincants (approximativement 90% de réussite sur l'échantillon de test),
Le réseau neuronal convolutif a commencé à être développé depuis [6532ad2]. Le réseau neuronal convolutif a commencé à être développé depuis [6532ad2](../../commit/6532ad2).
Ce commit introduit l'enregistrement du réseau de neurones convolutif, Ce commit introduit l'enregistrement du réseau de neurones convolutif,
suivi de près par les tests unitaires correspondants [b12a03c] suivi de près par les tests unitaires correspondants [b12a03c](../../commit/b12a03c)
<br/> <br/>
<br/> <br/>
<br/> <br/>
### **30 Novembre 2022** Réparation du NN simple [ffc0c6e] ### **30 Novembre 2022** Réparation du NN simple [ffc0c6e](../../commit/ffc0c6e)
Après un peu de débogage sur le réseau convolutif, on s'est rendu compte que le réseau simple ne fonctionnait pas bien avec des couches intermédiaires et du multithreading. Après un peu de débogage sur le réseau convolutif, on s'est rendu compte que le réseau simple ne fonctionnait pas bien avec des couches intermédiaires et du multithreading.
Le problème principal étant la découpe des batches étant la même à chaque époque. Le problème principal étant la découpe des batches étant la même à chaque époque.
Après implémentation d'un mélange de Knuth, tout est rentré dans l'ordre donnant des résultats encore plus satisfaisants pour les couches intermédiaires. (De l'ordre de 70% avec deux couches intermédiaires et utilisation du multithreading). Après implémentation d'un mélange de Knuth, tout est rentré dans l'ordre donnant des résultats encore plus satisfaisants pour les couches intermédiaires. (De l'ordre de 70% avec deux couches intermédiaires et utilisation du multithreading).
@ -70,7 +70,7 @@ Après implémentation d'un mélange de Knuth, tout est rentré dans l'ordre don
<br/> <br/>
<br/> <br/>
### **25 Janvier 2023** Premiers résultats sur la seconde implémentation [220d0a7] ### **25 Janvier 2023** Premiers résultats sur la seconde implémentation [220d0a7](../../commit/220d0a7)
Premiers résultats sur le réseau `simple_one` qui suit la structure du premier réseau. Premiers résultats sur le réseau `simple_one` qui suit la structure du premier réseau.
La backpropagation des poids ne fonctionne cependant pas sur les couches de convolution et de pooling. La backpropagation des poids ne fonctionne cependant pas sur les couches de convolution et de pooling.
@ -78,7 +78,7 @@ La backpropagation des poids ne fonctionne cependant pas sur les couches de conv
<br/> <br/>
<br/> <br/>
### **18 Février 2023** Amélioration des résultats sur la seconde implémentation [a461e07] ### **18 Février 2023** Amélioration des résultats sur la seconde implémentation [a461e07](../../commit/a461e07)
Améliorations significative des résultats sur le réseau `simple_one` atteignant: Améliorations significative des résultats sur le réseau `simple_one` atteignant:
-92% avec une linéarisation et une dense (1x32x32, 80, 10) -92% avec une linéarisation et une dense (1x32x32, 80, 10)
La backpropagation fonctionne également sur la convolution. La backpropagation fonctionne également sur la convolution.
@ -88,5 +88,5 @@ Le réseau LeNet5 donne 60% de réussite environ
<br/> <br/>
<br/> <br/>
### **27 Mars 2023** Implémentation d'Adam Optimizer [5f684d9] ### **27 Mars 2023** Implémentation d'Adam Optimizer [5f684d9](../../commit/5f684d9)
Adam Optimizer est complètement implémenté, donnant jusqu'à 97.5% de réussite sur MNIST (avec LeNet-5) avec un bon choix de paramètres. (détaillés dans le README) Adam Optimizer est complètement implémenté, donnant jusqu'à 97.5% de réussite sur MNIST (avec LeNet-5) avec un bon choix de paramètres. (détaillés dans le README)