Conférence: Catalyseurs de l'Intelligence Artificielle et Écosystème des Framework de Machines et Deep Learning
30 j'aime10,710 vues
Le document présente les catalyseurs de l'intelligence artificielle, notamment les frameworks de machine et deep learning, ainsi que le rôle croissant des data scientists face à l'explosion des données. L'apprentissage automatique est décrit comme une méthode permettant aux ordinateurs d'apprendre à partir de données expérimentales pour effectuer des prédictions, soutenue par des architectures de calcul modernes comme les GPU. Enfin, des défis et des avancées dans les réseaux de neurones sont abordés, mettant en lumière l'importance des ressources et de l'optimisation pour le succès des algorithmes d'intelligence artificielle.
![Perceptron [Frank Rosenblatt ,1957]
Modèle d’apprentissage supervisé, classifieurs binaires (séparant deux classes).
Le perceptron reçoie un ensemble d’entrées pondérées par des poids synaptiques
wi et produit une sortie binaire en sortie.
La sortie est produite en :
• Additionnant les entrées xi pondérées par les poids synaptiques du perceptron wi
• 𝑺 = σ𝒊=𝟏
𝒎
𝒙𝒊 𝒘𝒊
• Ensuite on applique à cette somme une fonction d’activation non linéaire qui produit une
sortie binaire. : Exemple Seuillage
• 𝒀 = ቊ
𝟏 𝒔𝒊 𝑺 ≥ 𝜽
−𝟏 𝒔𝒊 𝑺 < 𝜽
Dans la phase d’apprentissage,
• err= Yp - Yt
• mise à ajour des poids : 𝒘𝒊(t)=𝒘𝒊(t-1)+μ err
• μ : vitesse d’apprentissage (entre 0 et 1)](https://image.slidesharecdn.com/catalyseursiaecosystemeframeworksmachinesdeeplearning-190224132626/85/Conference-Catalyseurs-de-l-Intelligence-Artificielle-et-Ecosysteme-des-Framework-de-Machines-et-Deep-Learning-11-320.jpg)
![Qu’en est ils, pour le cas de classification des images ?
Pour le cas des images
deux approches:
◦ Machines Learning :
Passer par un algo d’extraction
de caractéristiques qui vont
alimenter le réseaux (Réseaux
de dimension faible)
◦ DeepLearning :
Alimenter le réseaux avec tous
les pixels des images brutes en
ajoutant beaucoup de couches
cachées au réseau
Fully Connected (MLP)
Convolution Neural Network
(CNN)
Algo Extraction Caractéristiques
500 x 400 = 200 000 Pixels
MLP : Fully Connected
CNN : [ Convolution, RELU, MAX PULLING ] [ Fully Connected ]
500 x 400 = 200 000 Pixels](https://image.slidesharecdn.com/catalyseursiaecosystemeframeworksmachinesdeeplearning-190224132626/85/Conference-Catalyseurs-de-l-Intelligence-Artificielle-et-Ecosysteme-des-Framework-de-Machines-et-Deep-Learning-13-320.jpg)
![Tensors.JS : Core API => Tensors tf.tensor (values, shape?, dtype?)
let t1=tf.tensor([2,6,7,8,9,5],[2,3]);
console.log("Tensor t1 [2x3]:");
t1.print();
let t2=tf.tensor([2.7,6,1,2,1,4],[3,2]);
console.log("Tensor t2 [3x2]:");
t1.print();
console.log("Tensor t3 transposée de t1:");
let t3=t1.transpose();
t3.print();
console.log("Tensor t4: t1 x t2 ");
let t4=t1.matMul(t2);
t4.print();
t1.dispose();t2.dispose();t3.dispose();t4.dispose();
t1
2 6 7
8 9 5
2.7 6
1 2
1 4
t2
X
Tensor t1 [2x3]:
[ [2, 6, 7],
[8, 9, 5] ]
Tensor t2 [3x2]:
[[2, 6, 7],
[8, 9, 5]]
Tensor t3 transposée de t1:
[[2, 8],
[6, 9],
[7, 5]]
Tensor t4: t1 x t2
[[18.3999996, 52],
[35.5999985, 86]]](https://image.slidesharecdn.com/catalyseursiaecosystemeframeworksmachinesdeeplearning-190224132626/85/Conference-Catalyseurs-de-l-Intelligence-Artificielle-et-Ecosysteme-des-Framework-de-Machines-et-Deep-Learning-30-320.jpg)
![Libérer les Tensors :
tensor.dispose(); ou bien tf.tidy(()=>{});
tf.tidy(()=>{
let t1=tf.tensor([2,6,7,8,9,5],[2,3]);
console.log("Tensor t1 [2x3]:");
t1.print();
let t2=tf.tensor([2.7,6,1,2,1,4],[3,2]);
console.log("Tensor t2 [3x2]:");
t1.print();
console.log("Tensor t3 transposée de t1:");
let t3=t1.transpose();
t3.print();
console.log("Tensor t4: t1 x t2 ");
let t4=t1.matMul(t2);
t4.print();
});
t1
2 6 7
8 9 5
2.7 6
1 2
1 4
t2
X
Tensor t1 [2x3]:
[ [2, 6, 7],
[8, 9, 5] ]
Tensor t2 [3x2]:
[[2, 6, 7],
[8, 9, 5]]
Tensor t3 transposée de t1:
[[2, 8],
[6, 9],
[7, 5]]
Tensor t4: t1 x t2
[[18.3999996, 52],
[35.5999985, 86]]](https://image.slidesharecdn.com/catalyseursiaecosystemeframeworksmachinesdeeplearning-190224132626/85/Conference-Catalyseurs-de-l-Intelligence-Artificielle-et-Ecosysteme-des-Framework-de-Machines-et-Deep-Learning-31-320.jpg)
![1. Création d’un Modèle
const model=tf.sequential();
model.add(tf.layers.dense( {
units:5,
activation:'sigmoid',
inputShape:[2]
}));
model.add(tf.layers.dense({
units:1,
activation:'sigmoid'
}));
let learningRare=0.1;
model.compile({
optimizer:tf.train.sgd(learningRare),
loss:tf.losses.meanSquaredError
});
const xs=tf.tensor2d([ [0,0], [0.5,0.5], [1,1] ]);
const ys=tf.tensor1d([ 1, 0.5, 0]);
const numberOfEpochs=1000;
model.fit(xs,ys,{
epochs:numberOfEpochs,
callbacks:{onEpochEnd:logProgress }
}).then(modelTrained);
function logProgress(epoch,resp){
console.log(epoch+"=>"+resp.loss);
}
function modelTrained(){
console.log("Model trained");
let data=[0.5,0.5] ;
const input=tf.tensor2d([data],[1,2]);
let predicted=model.predict(input);
let output=predicted.dataSync()[0];
console.log("x1="+data[0]+",x2="+data[1]+", output="+output);
}
2. Entrainement du modèle
3. Prédiction
Layers API](https://image.slidesharecdn.com/catalyseursiaecosystemeframeworksmachinesdeeplearning-190224132626/85/Conference-Catalyseurs-de-l-Intelligence-Artificielle-et-Ecosysteme-des-Framework-de-Machines-et-Deep-Learning-33-320.jpg)
![app.js
let mobilenet
let image;
function setup(){
createCanvas(640,480);
image=createImg('images/cat3.jpg',function(){
image(image,10,10);
}); image.hide(); background(0);
mobilenet=ml5.imageClassifier('MobileNet', function(){
mobilenet.predict(image,function(err,result){
if(err) console.log(err);
else{
console.log(result); let label=result[0].className;
let p=result[0].probability*100; fill(255);
textSize(20); text(label+" ( "+p.toFixed(2)+"% )",10,height-60);
createP(label); createP(p);
}})})
}](https://image.slidesharecdn.com/catalyseursiaecosystemeframeworksmachinesdeeplearning-190224132626/85/Conference-Catalyseurs-de-l-Intelligence-Artificielle-et-Ecosysteme-des-Framework-de-Machines-et-Deep-Learning-40-320.jpg)
![Version avec Vidéo
let mobilenet; let video; let label="";
function setup(){
createCanvas(640,480);
video=createCapture(VIDEO); video.hide();
background(0);
mobilenet=ml5.imageClassifier('MobileNet',video,ready);
}
function ready(){ mobilenet.predict(gotResults); }
function gotResults(err,results){
if(err) console.log(err);
else{
label=results[0].className;
let p=results[0].probability*100;
mobilenet.predict(gotResults);
}
}
function draw(){
background(0); image(video,10,10,320,240);
fill(255); textSize(20);
text(label,10,height-60);
}](https://image.slidesharecdn.com/catalyseursiaecosystemeframeworksmachinesdeeplearning-190224132626/85/Conference-Catalyseurs-de-l-Intelligence-Artificielle-et-Ecosysteme-des-Framework-de-Machines-et-Deep-Learning-41-320.jpg)
Conférence: Catalyseurs de l'Intelligence Artificielle et Écosystème des Framework de Machines et Deep Learning
- 1. Catalyseurs de l’Intelligence Artificielle et l’ecosystème des Framework de Machines et Deep Learning By : Mohamed YOUSSFI & Omar BOUATTANE Lab. SSDIA, ENSET Mohammedia, Hassan II University of Casablanca Morocco IA Conférence à l’ENSET Mohammedia sous le thème IOT et Intelligence Artificielle : Le 20/02/2019
- 2. Data science Automatisation et Généralisation de l’extraction des connaissance à partir des données massives et complexes provenant des sources de données hétérogènes
- 3. Métier Data Scientiste • Objectif du parcours Data Science : • Générer, Explorer, Traiter les données • Visualiser et analyser les données, • Concevoir et analyser des modèles et des algorithmes de • Traitements de données. • Apprentissage automatique • Prédictions • Prérequis : • Mathématiques appliquées (Probabilités, Optimisation, Algèbre linéaire, Recherche opérationnelle) • Statistique et optimisation statistique • Informatique: • Algorithmique et Programmation • Bases de données et Big Data • Technologie Web et Mobile • IOT • Traitement du signal et de l'image. • Intelligence artificielle : • Machine et Deep Learning,
- 4. Métier Data Scientiste Le métier de data Scientist est apparu pour trois raisons principales : • L'explosion de la quantité de données produites et collectées (Big Data, IOT, Applications Mobiles) • L'amélioration et l'accessibilité plus grande des algorithmes de machine Learning ( Frameworks de Machines Learning) • L'augmentation exponentielle des capacités de calcul des ordinateurs • Architectures massivement parallèles (GPUs) • Middlewares pour les Systèmes Distribués
- 5. Métier Data Scientiste • Un Baromètre LinkedIn de Juillet 2017 indique que : • Le métier de Data Scientist est l’un des métiers les plus recherchés et les plus rémunérés • En terme de salaire, à la sortie de l’école un data Scientiste peut toucher un salaire mensuel autour de 4000 Euro (En Europe) • Le nombre de lauréats dans cette discipline est encore très faible • Tous les secteurs sont concernés (Médecine, Agriculture, Justice, Education, Industrie , Finance, Politique, etc..)
- 6. Machines Learning L'apprentissage automatique est un champ d'étude de l'intelligence artificielle qui se fonde sur des approches statistiques pour donner aux ordinateurs: • La capacité d’apprentissage à partir de données expérimentales (Entrées et Sorties connues) • Effectuer des prédictions sur de nouvelles entrées Algorithmes Machines Learning Automatisation Extraction de La connaissance Entrées Sorties
- 7. Prérequis du Machines Learning 35% 25% 15% 15% 10% Prérequis du Machines Learning Algèbre linéaire Probabilités et statistiques Calculs de hautes performances Algorithmique et complexité Pré-traitement de données
- 8. 0 0,5 1 1,5 2 2,5 3 3,5 4 4,5 5 0 5 10 15 20 25 30 35 40 Courant (A) Exemple très simple expliqué aux artisans Imaginez que vous ne connaissez pas la relation physique qui existe entre le courant et la tension dans des circuits électriques. Vous décidez de prendre des mesures du courant électrique I en fonction de la tension appliquées U d’alimentation en utilisant un ampèremètre. 5 ? Prédiction / Deviner Mesures Expérimentales Tracer une droite comme modèle pour généraliser à partir des données de l’expérience : Apprentissage Machines Learning c’est faire la même chose pour des problèmes complexes en utilisant des algorithmes • Phase d’apprentissage : Chercher les valeurs de a et b qui permettent de définir une droite qui colle aux nuages de points • Phase de prédiction : Pour une entrée x quelconque, le modèle calcule la sortie y correspondante X Y Y= a x + b Modèle a b Tension (V) Courant (A) 6 0,75 3 0,39 2 0,3 9 1,33 12 1,5 24 3 15 1,8 18 2,5 36 4,5
- 9. Comment paramétrer ce modèle pour un artisan: Initialiser a et b par des valeurs aléatoires Donner au modèle la rension V En entrée X et constater la sortie obtenue Y Comparer la sortie prédite Y à la sortie attendue I . Calculer l’erreur (Err=Y-I) Faire tourner les boutons jusqu'à ce que la sortie Y corresponde à la valeur I attendue Pour chaque ligne des mesures Mesure suivante? Nouvelle époque? Fin de l’entrainement du modèle X : Tension Y : Courant Y= a x + b Modèle a b ∑ Avec beaucoup d’expérience ou un peu de maths • Pour le réglage du bouton a : a= a + X*erreur * µ • µ entre 0 et 1 : Learning rate (Vitesse d’apprentissage) • Pour le réglage du bouton b : b= b + β*erreur * µ • β s’appelle le BIAIS qui est toujours égale à 1 • Au lieu de régler les boutons a et b pour chaque mesure, prendre le temps de noter les erreurs obtenues pour N mesures et par la suite trouver une formule qui permet de trouver le bon réglage à faire sur les boutons a et b qui permet de minimiser l’erreur pour toutes les mesures : N représente le Batch size X : Tension Y : 1 : Biais Y= a x + b Modèle a b ∑ Tension (V) Courant (A) 6 0,75 3 0,39 2 0,3 9 1,33 12 1,5 24 3 15 1,8 18 2,5 36 4,5
- 10. Neurone Artificiel Un neurone artificiel (NA) est une unité de calcul élémentaire (fonction mathématique ) permet de mettre en relations des entrées Xi avec une sortie Y X1 X2 X3 Y W1 W2 W3 Un neurone artificiel est représentation approximative d’un neurone biologique ◦ Additionne ses entrées xi pondérées par des poids wi , ◦ compare la somme résultante à une valeur seuil selon un fonction d’activation, ◦ répond en émettant un signal si cette somme est supérieure ou égale à ce seuil (modèle ultra-simplifié du fonctionnement d'un neurone biologique). ◦ Ces neurones sont par ailleurs associés en réseaux dont la topologie des connexions est variable : réseaux proactifs, récurrents, etc. ◦ Enfin, l'efficacité de la transmission des signaux d'un neurone à l'autre peut varier : on parle de « poids synaptique », et ces poids peuvent être modulés par des règles d'apprentissage (ce qui mime la plasticité synaptique des réseaux biologiques). Un neurone reçoit des signaux venant de d’autres neurones à travers ses dendrites(connexions) Emit un signal ou non à travers son Axone selon les entrées reçues et les poids synaptiques. • Sum=x1w1+x2w+x3w3 • Si Sum>Seuil => Y=1 Si non Y=0
- 11. Perceptron [Frank Rosenblatt ,1957] Modèle d’apprentissage supervisé, classifieurs binaires (séparant deux classes). Le perceptron reçoie un ensemble d’entrées pondérées par des poids synaptiques wi et produit une sortie binaire en sortie. La sortie est produite en : • Additionnant les entrées xi pondérées par les poids synaptiques du perceptron wi • 𝑺 = σ𝒊=𝟏 𝒎 𝒙𝒊 𝒘𝒊 • Ensuite on applique à cette somme une fonction d’activation non linéaire qui produit une sortie binaire. : Exemple Seuillage • 𝒀 = ቊ 𝟏 𝒔𝒊 𝑺 ≥ 𝜽 −𝟏 𝒔𝒊 𝑺 < 𝜽 Dans la phase d’apprentissage, • err= Yp - Yt • mise à ajour des poids : 𝒘𝒊(t)=𝒘𝒊(t-1)+μ err • μ : vitesse d’apprentissage (entre 0 et 1)
- 12. Exemple un peu plus complexe : Prédiction du diabète Pr Gluc BP ST Ins BMI DPF Age Output 6 148 72 35 0 33.6 0.627 50 1 1 85 66 29 0 26.6 0.351 31 0 8 183 64 0 0 23.3 0.672 32 1 1 89 66 23 94 28.1 0.167 21 0 0 137 40 35 168 43.1 2.288 33 1 5 116 74 0 0 25.6 0.201 30 0 3 78 50 32 88 31 0.248 26 1 10 115 0 0 0 35.3 0.134 29 0 Inputs : 1. Pregnancies : Nombre de grossesses 2. Glucose : La taux de Glucose dans le sang 3. Blood Pressure : La pression du sang 4. Skin Thickness : Epaisseur de la peau 5. Insulin : Le taux de l’insuline présent dans le sang 6. BMI : Indice de masse corporel 7. Diabetes Pedigree Function Antécédents de diabète sucrégénitique. 8. Age : Age du patient Output : Présence ou non du diabète G BP ST IN Pr B m 1 2 3 Output : Diabète (0, 1) 4 5 6 Dp 7 A 8 ? Layer 1 Layer 2 Layer 2 Multi Layer Perceptron : Fully Connected • 8 Entrées • 1 Sortie • 3 Couches de neurones • Layer 1 : 4 neurones • Layer 2 : 3 neurones • Layer 3 : 1 neurone • Nre Cxions : 8x4+4x3+3=47 Pour ajuster les poids de connexions: Algo de Rétro Propagation du Gradient : (SGD, ADAM, etc.)
- 13. Qu’en est ils, pour le cas de classification des images ? Pour le cas des images deux approches: ◦ Machines Learning : Passer par un algo d’extraction de caractéristiques qui vont alimenter le réseaux (Réseaux de dimension faible) ◦ DeepLearning : Alimenter le réseaux avec tous les pixels des images brutes en ajoutant beaucoup de couches cachées au réseau Fully Connected (MLP) Convolution Neural Network (CNN) Algo Extraction Caractéristiques 500 x 400 = 200 000 Pixels MLP : Fully Connected CNN : [ Convolution, RELU, MAX PULLING ] [ Fully Connected ] 500 x 400 = 200 000 Pixels
- 14. Problème des réseaux de neurones Pour avoir un modèle qui représente plus la réalité, il faudrait bien choisir : • Le bon type du modèle (MLP, CNN, RNN, etc.) • Le bon nombre de couches de neurones • Pour chaque couche il faut choisir : • Le nombre de neurones adéquat • La bonne fonction d’activation (RELU, SIGMOID, …) • Le nombre de filtres, la taille des filtres, types filtres • La bonne valeur de la vitesse d’apprentissage (Entre 0 et 1) • La bonne fonction de perte (Loss Function) produisant l’erreur à minimiser (Mean squared error, Cross entropy, etc.) • Le bon algorithme de rétropropagation du gradient permettant de mettre à jour les poids des connexions en minimisant la fonction de perte : SGD, ADAM, etc... • Et surtout un data set de très grande taille pour représenter le maximum d’échantillons de la réalité.
- 15. Problème des réseaux de neurones • Ce qui fait que pendant la phase d’apprentissage, • Avec une grande quantité de données, • Un grand nombre de neurones, • Les algorithmes d’entrainement nécessitent beaucoup de calculs avec beaucoup d’itérations. • Consomment énormément de temps pour chaque exécution, voire parfois mission impossible quand une s’agit d’un simple ordinateur. • Pour sauver les réseaux de neurones et donner un nouveau souffle à l’intelligence artificielle, il fallait des architectures de calcul de hautes performances permettant d’accélérer les algorithmes d’entrainement des réseaux de neurones. • Il fallait attendre jusqu’au début des années 2000 pour assister au début de l’émergence des premiers catalyseurs de l’intelligence artificielle à savoir les architectures parallèles et distribuées.. Quelle Type de machines qui va faire tous ces calculs ?
- 16. Evénement important : Compétitions de reconnaissance des images : Large Scale Visual Recognition Challenge 2010 : • NEC : 28% • XRCE : 34% • ISIL : 45% • UCI : 47% • Hminmax : 54% 2011 : ◦ XRCE : 26% ◦ UV A : 31% ◦ ISI : 36% ◦ NII : 50% 2012 : (Algo de Deep Learning l’emporte) ◦ Super Vision : 16% (DL) ◦ ISI : 26% ◦ VGG : 27% ◦ XRCE : 27 % ◦ UV A : 30% 2013 : (Algos de Deep Learning écrase la compétition) ◦ Clarifi (DL) : 12% ◦ NUS (DL) : 13% ◦ Zeiler fergus (DL) : 13% ◦ A.HOWARD (DL) : 13% ◦ OverFeat (DL) : 14%
- 17. Catalyseurs de l’IA IOT et Systèmes embarqués Systèmes Distribués Middlewares Framework de ML Big Data App Web & Mobiles Virtualisation & Cloud Computing CNN, RNN Architectures Parallèles HPC NVIDIA GPU AMD GPU
- 18. Catalyseurs de l’IA : Ressources de Calcul et de Stockage ➢ Architectures massivement parallèles HPC • Vers 2000 , GPU de NVIDIA pour les jeux vidéos • Scientifiques et HPC Architectures MP théoriques imaginables • Course à l’ordinateur le plus puissant coyant à la loie de MOORE • Vers 2010, Nvidia GeForce 3 ouvre ses GPU pou GP GPU avec CUDA • Autres constructeurs on suivi NVIDIA pour GP GPU: • AMD avec sa carte Radeon • IntelHD : Circuits intégrés dans le CPU • OpenCL pour GPGPU Cross Platform • OpenGL pour GPGPU pour les systèmes embarqués • WebGL pour GPGPU dans les navigateurs Web IOT et Systèmes embarqués Systèmes Distribués Middlewares Framework de ML Big Data App Web & Mobiles Virtualisation & Cloud Computing CNN, RNN Architectures Parallèles HPC NVIDIA GPU AMD GPU
- 19. Catalyseurs de l’IA : Ressources de Calcul et de Stockage • Systèmes Distribués • Middlewares RMI, CORBA, JMS, MPI • Grilles de Clacul • App : Accélérateur de particule • Problèmes de Grilles de calcul • Protocoles de messageries asynchrones: • AMQP, MQTT, STOMP • Brokers : RabbitMQ, ActiveMQ • Caches mémoires Distribués : Hazelcast • Middlewares SMA : JADE IOT et Systèmes embarqués Systèmes Distribués Middlewares Framework de ML Big Data App Web & Mobiles Virtualisation & Cloud Computing CNN, RNN Architectures Parallèles HPC NVIDIA GPU AMD GPU
- 20. Catalyseurs de l’IA : Ressources de Calcul et de Stockage • Virtualisation et Le Cloud Computing • Virtualisation des machines : VMWare • Cloud Computing (Systèmes Distribués) • SaaS, IaaS, PaaS • Google, Microsoft, Amazon, Facebook, IBM,… • Cloud Micro-services avec Spring Cloud • Docker : Conteneurs légers • Kubernetes pour l’orchestration des micro-services IOT et Systèmes embarqués Systèmes Distribués Middlewares Framework de ML Big Data App Web & Mobiles Virtualisation & Cloud Computing CNN, RNN Architectures Parallèles HPC NVIDIA GPU AMD GPU
- 21. Catalyseurs de l’IA : Disponibilité des données ➢ Disponibilité des données : • Big Data : • HDFS : Hadoop • NoSQL : MongoDB, Casandra, etc.. • Neo4J • MapReduce, Spark, KAFKA, Hazelcast • IOT : Sensors, Cartes Arduino, Raspberry PI • App Web et Mobile : Smartphones, Cordova, PhoneGap IOT et Systèmes embarqués Systèmes Distribués Middlewares Framework de ML Big Data App Web & Mobiles Virtualisation & Cloud Computing CNN, RNN Architectures Parallèles HPC NVIDIA GPU AMD GPU
- 22. Catalyseurs de l’IA : Framework et Algo de Machines et Deep Learning • Framework Machines et Deep Learning • Loin des laboratoires de recherche des universités : Google, Facebook, etc.. • Mise en pratique les algo de l’IA en exploitant les GPUs et les SD. • API de calcul parallèle sur GPU des algo de l’algèbre linéaire basée sur C (CUDA, OpenCL) • API de haut niveau avec Python, C++, Java • 2015 : Framework de ML : TensorFlow • API de haut niveau : KERAS (Python et C++) • PyTorch, ML.Net(C#), DL4J (Java), TensorFlow.JS • Algo basés sur les RN: MLP, CNN et RNN IOT et Systèmes embarqués Systèmes Distribués Middlewares Framework de ML Big Data App Web & Mobiles Virtualisation & Cloud Computing CNN, RNN Architectures Parallèles HPC NVIDIA GPU AMD GPU
- 23. Catalyseurs de l’IA • Réseaux et Télécommunication (4G, 5G, Wireless, Fibre Optique ) et • L’Open Source IOT et Systèmes embarqués Systèmes Distribués Middlewares Framework de ML Big Data App Web & Mobiles Virtualisation & Cloud Computing CNN, RNN Architectures Parallèles HPC NVIDIA GPU AMD GPU
- 24. Comment démarrer l’apprentissage des concepts et dela pratique de Machines et Deep Learning • Pour comprendre les bases Machines et Deep Learning, ii serait important de commencer par : • Créer une implémentation basique d’un perceptron en utilisant votre langage de préférence : Java, Java Scrpit, Python, C#, C++, PHP • Créer une implémentation d’un réseaux de neurones multicouches de perceptrons en utilisant votre langage de préférence : Java, Java Scrpit, Python, C#, C++, PHP • Cohoisir un Framewok de Machines et Deep Learning en fonction de votre langage de préférence : • Pour JAVA : DeepLearning4J de SkyMind • Pour Java Script et NodeJS : TensorFlow.JS de Google et ML5.JS • Pour Python : • TensorFlow, KERAS • PyTorch de FaceBook • Pour C++ : • TensorFlow • Caffe • Pour les développeur .NET (C#) : ML.NET • Pour PHP : PHP-ML
- 25. Exemple pour débuter: Implémentation java du perceptron https://github.com/mohamedYoussfi/perceptron-java-fx
- 26. TensorFlow.JS • TensorFlowJS est un Framework de machines et Deep Learning basée sur JavaScript • Ce Framework s’appuie sur WebGL qui permet d’utiliser les GPUs pour accélérer les calcul
- 27. Architecture de TensorFlow Signification : • Tensor : • Object représentant une structure mathématique qui peut représenter : • un nombre scalaire, Un vecteur, Une matrice 2D, Une matrice 3D, 4D, … nD • Avec des opérations de l’algèbre linéaire permettant différents calcul matriciels pouvant exploiter les CPUs et les architectures massivement parallèles à base des GPUs. • Flow : signifie Débit ou Flux Votre Application Application CUDA | OpenCL (C) Matériel de calcul : CPUs et GPUs TF : Low Level API en C OpenGL WebGL TF: Python TF: C++ TF: Java TensorFlow.JS Core API KERASML5.JS • La couche bas niveau de TensorFlow est développée en C car la programmation parallèle sur les GPU de Nvidea utilise CUDA qui est basé sur le langage C. • Il existe plusieurs implémentations de API de haut niveau permettant programmer des applications de faire du machines learning basées sur TensorFlow : • API Python, API C++, API Java • KERAS est une API de haut niveau qui permet de faire du machines Learning avec TensorFlow d’une manière plus simple • TensorFlow.JS est une implémentation Java Script de TensorFlow basée sur WebGL TF.JS LAYER API
- 28. TensorFlow.JS • Tensorflow.js est une bibliothèque construite sur deeplearn.js pour créer des modules d'apprentissage en profondeur directement sur le navigateur. • Créer des modèles d’apprentissage CNN, RNN, etc. Les entrainer directement sur le navigateur en utilisant la puissance de traitement du GPU du client. • Par conséquent, un GPU de serveur n'est pas nécessaire pour former le NN.
- 29. Intégration de TensorFlow.JS dans une page HTML Intégration de TensorFlow.JS dans HTML <script src="https://cdn.jsdelivr.net/npm/@tensorflow/tfjs@0.14.1/dist/tf.min.js"> </script> Télécharger la librairie TensorFlowJS : ◦ npm install --save @tensorflow/tfjs <script src="node_modules/@tensorflow/tfjs/dist/tf.min.js"></script>
- 30. Tensors.JS : Core API => Tensors tf.tensor (values, shape?, dtype?) let t1=tf.tensor([2,6,7,8,9,5],[2,3]); console.log("Tensor t1 [2x3]:"); t1.print(); let t2=tf.tensor([2.7,6,1,2,1,4],[3,2]); console.log("Tensor t2 [3x2]:"); t1.print(); console.log("Tensor t3 transposée de t1:"); let t3=t1.transpose(); t3.print(); console.log("Tensor t4: t1 x t2 "); let t4=t1.matMul(t2); t4.print(); t1.dispose();t2.dispose();t3.dispose();t4.dispose(); t1 2 6 7 8 9 5 2.7 6 1 2 1 4 t2 X Tensor t1 [2x3]: [ [2, 6, 7], [8, 9, 5] ] Tensor t2 [3x2]: [[2, 6, 7], [8, 9, 5]] Tensor t3 transposée de t1: [[2, 8], [6, 9], [7, 5]] Tensor t4: t1 x t2 [[18.3999996, 52], [35.5999985, 86]]
- 31. Libérer les Tensors : tensor.dispose(); ou bien tf.tidy(()=>{}); tf.tidy(()=>{ let t1=tf.tensor([2,6,7,8,9,5],[2,3]); console.log("Tensor t1 [2x3]:"); t1.print(); let t2=tf.tensor([2.7,6,1,2,1,4],[3,2]); console.log("Tensor t2 [3x2]:"); t1.print(); console.log("Tensor t3 transposée de t1:"); let t3=t1.transpose(); t3.print(); console.log("Tensor t4: t1 x t2 "); let t4=t1.matMul(t2); t4.print(); }); t1 2 6 7 8 9 5 2.7 6 1 2 1 4 t2 X Tensor t1 [2x3]: [ [2, 6, 7], [8, 9, 5] ] Tensor t2 [3x2]: [[2, 6, 7], [8, 9, 5]] Tensor t3 transposée de t1: [[2, 8], [6, 9], [7, 5]] Tensor t4: t1 x t2 [[18.3999996, 52], [35.5999985, 86]]
- 32. TensorFlow.JS : Layers API Layers API est la couche de haut niveau du Framework TensorFlow.JS Cette couche s’appuie sur la couche de bas niveau qui est Core API Cette API définit toutes les opérations nécessaire pour machines Learning: • Créer des modèles de réseaux neurones • Configurer les modèles • Entrainer les modèles • Tester les modèles • Effectuer les prédictions • Etc…
- 33. 1. Création d’un Modèle const model=tf.sequential(); model.add(tf.layers.dense( { units:5, activation:'sigmoid', inputShape:[2] })); model.add(tf.layers.dense({ units:1, activation:'sigmoid' })); let learningRare=0.1; model.compile({ optimizer:tf.train.sgd(learningRare), loss:tf.losses.meanSquaredError }); const xs=tf.tensor2d([ [0,0], [0.5,0.5], [1,1] ]); const ys=tf.tensor1d([ 1, 0.5, 0]); const numberOfEpochs=1000; model.fit(xs,ys,{ epochs:numberOfEpochs, callbacks:{onEpochEnd:logProgress } }).then(modelTrained); function logProgress(epoch,resp){ console.log(epoch+"=>"+resp.loss); } function modelTrained(){ console.log("Model trained"); let data=[0.5,0.5] ; const input=tf.tensor2d([data],[1,2]); let predicted=model.predict(input); let output=predicted.dataSync()[0]; console.log("x1="+data[0]+",x2="+data[1]+", output="+output); } 2. Entrainement du modèle 3. Prédiction Layers API
- 34. 4. Enregistrement du modèle function onSaveModel(){ model.save('localstorage://my-model-1’) .then( (result)=>{ console.log("model saved :"+result); }); } function onloadModel(){ tf.loadModel('localstorage://my-model-1’) .then(m=>{ model=m; let config={ optimizer:tf.train.sgd(learningRate), loss:'meanSquaredError' } model.compile(config); }); } 5. Chargement du mdoèle TensorFlow.JS : Layers API
- 35. Application TensorFlow.JS : https://github.com/mohamedYoussfi/machines-learning-tensorflow-js med@youssfi.net | ENSET Université Hassan II
- 36. Exemple de classification : DataSet IRIS Iris Plants Database • Attribute Information: • 1. sepal length in cm • 2. sepal width in cm • 3. petal length in cm • 4. petal width in cm • 5. class: • -- Iris Setosa • -- Iris Versicolour • -- Iris Virginica 5.1,3.5,1.4,0.2,Iris-setosa 4.9,3.0,1.4,0.2,Iris-setosa 4.7,3.2,1.3,0.2,Iris-setosa 4.6,3.1,1.5,0.2,Iris-setosa .... 7.0,3.2,4.7,1.4,Iris-versicolor 6.4,3.2,4.5,1.5,Iris-versicolor 6.9,3.1,4.9,1.5,Iris-versicolor 5.5,2.3,4.0,1.3,Iris-versicolor 6.5,2.8,4.6,1.5,Iris-versicolor … 6.3,3.3,6.0,2.5,Iris-virginica 5.8,2.7,5.1,1.9,Iris-virginica 7.1,3.0,5.9,2.1,Iris-virginica 6.3,2.9,5.6,1.8,Iris-virginica 6.5,3.0,5.8,2.2,Iris-virginica ……. https://github.com/mohamedYoussfi/machines_learning_TFJS_IRIS
- 37. ML5.JS • ml5.js est une librairie de haut niveau qui s’appuie sur TensorFlow.js • Elle permet de faciliter la création des application de Machines et Deep Learning
- 38. Exemple d’application avec ML5.JS : Réutilisation de modèles pré-entrainés Classifieur d’images : MobileNet • MobileNets, Présente des modèles de réseaux de neurones convolutionnels (CNN) pré-entrainés basés sur TensorFlow : • Détection d’objet (personne, bus, avion, voiture, chien, chat, écran TV, etc…) • Visages (attributs d’un visage notamment) • Classification « fine-grained » , c’est-à-dire entre des espèces d’une même race (chien, chat, rouge-gorge, …) • Reconnaissance de lieux et de paysages • Caractéristiques : • Extrêmement légers et petits (en termes de ligne de code et de poids des modèles) • Infiniment rapides • Précision redoutable, surtout pour les ressources consommées • Facilement configurables pour améliorer la précision de la détection • Dédiés à l’embarqué et aux smartphones, pour déporter les calculs comme on l’a vu avec l’avènement d’AngularJS et du Front Office
- 39. Index.html <!DOCTYPE html> <html lang="en"> <head> <meta charset="UTF-8"> <title>ML5</title> <script src="https://cdnjs.cloudflare.com/ajax/libs/p5.js/0.7.3/p5.js"></script> <script src="https://cdnjs.cloudflare.com/ajax/libs/p5.js/0.7.3/addons/p5.dom.min.js"></script> <script src="app.js"></script> <script src="https://unpkg.com/ml5@0.1.1/dist/ml5.min.js"></script> </head> <body> </body> </html>
- 40. app.js let mobilenet let image; function setup(){ createCanvas(640,480); image=createImg('images/cat3.jpg',function(){ image(image,10,10); }); image.hide(); background(0); mobilenet=ml5.imageClassifier('MobileNet', function(){ mobilenet.predict(image,function(err,result){ if(err) console.log(err); else{ console.log(result); let label=result[0].className; let p=result[0].probability*100; fill(255); textSize(20); text(label+" ( "+p.toFixed(2)+"% )",10,height-60); createP(label); createP(p); }})}) }
- 41. Version avec Vidéo let mobilenet; let video; let label=""; function setup(){ createCanvas(640,480); video=createCapture(VIDEO); video.hide(); background(0); mobilenet=ml5.imageClassifier('MobileNet',video,ready); } function ready(){ mobilenet.predict(gotResults); } function gotResults(err,results){ if(err) console.log(err); else{ label=results[0].className; let p=results[0].probability*100; mobilenet.predict(gotResults); } } function draw(){ background(0); image(video,10,10,320,240); fill(255); textSize(20); text(label,10,height-60); }
- 42. Extraction des caractéristiques avec MobileNet : Images Extraite d’une vidéo
- 43. Index.html <!DOCTYPE html> <html lang="en"> <head> <meta charset="UTF-8"> <title>ML5</title> <script src="https://cdnjs.cloudflare.com/ajax/libs/p5.js/0.7.3/p5.js"></script> <script src="https://cdnjs.cloudflare.com/ajax/libs/p5.js/0.7.3/addons/p5.dom.min.js"></sc ript> <script src="sketch.js"></script> <script src="https://unpkg.com/ml5@0.1.1/dist/ml5.min.js"></script> </head> <body> </body> </html>
- 44. Version avec Vidéo let mobilenet; let video; let label=""; let classifier; let addImageButton; let textInputLabel; let imagesCount=0; let trainButton; function setup(){ createCanvas(640,480); video=createCapture(VIDEO); video.hide(); background(0); mobilenet=ml5.featureExtractor('MobileNet',modelReady); textInputLabel=createInput("bouteille"); addImageButton=createButton("Add Image"); trainButton=createButton("Train The model"); addImageButton.mousePressed(function(){ let labelValue=textInputLabel.value(); classifier.addImage(labelValue); ++imagesCount; console.log(imagesCount+" : "+labelValue); }); trainButton.mousePressed(function(){ classifier.train(function(loss){ if(loss==null){ console.log("Model trained"); classifier.classify(gotResults()); } else{ console.log(loss); } })}); } function draw(){ background(0); image(video,10,10,320,240); fill(255); textSize(20); text(label,10,height-60); } function modelReady(){ console.log("model ready"); classifier=mobilenet.classification(video,videoReady); //mobilenet.predict(gotResults); } function videoReady(){ console.log("video ready"); } function gotResults(err,results){ if(err) console.log(err); else{ label=results; mobilenet.classify(gotResults); } }
- 45. Quelques Applications de Deep Learning • Reconnaissance de formes • Reconnaissance vocale • Traduction vocale • Modèles génératifs (Donner une série d’images à un réseaux profond et le forcer à y voir autres choses) • Etc. http://www.divertissonsnous.com/2017/11/24/un-systeme-de- reconnaissance-des-formes-applique-a-times-square/ https://deepdreamgenerator.com/
- 46. Références : • Yann LeCun : https://www.youtube.com/watch?v=2WiPx6thH2E • https://deeplearning4j.org/ • https://js.tensorflow.org/ • Daniel Shiffman : https://www.youtube.com/watch?v=XJ7HLz9VYz0&list=PLRqwX-V7Uu6Y7MdSCaIfsxc561QI0U0Tb&index=1 • https://ml5js.org/ • https://keras.io/ • https://p5js.org/ • https://www.lafabriquedunet.fr/blog/definition-data-science/ • https://www.youtube.com/watch?v=oU7tSpvDOIs • https://www.youtube.com/watch?v=trWrEWfhTVg