Workshop GPU @CC-IN2P3

3 avr. 2019, 10:00 → 5 avr. 2019, 17:30 Europe/Paris

Amphi (CC-IN2P3)

Le CC-IN2P3 propose un workshop dédié aux utilisateurs de sa ferme GPU. Cet événement se tiendra sous la double forme de rencontre-échange d'une part et d'un tutoriel sur le Machine Learning d'autre part.

Le temps du workshop sera donc partagé entre des présentations d'utilisateurs, des discussions sur des sujets d'intérêt et un tutoriel avec des exercices pratiques de Machine Learning.

Deux formats de présentation sont proposés pour les intervenants : un format de 20 mins (présentation) + 10 mins (discussion) plutôt pour les retours d'expérience, et un second format de 10 mins (présentation) + 5 mins (discussion) pour les personnes débutant en calcul avec GPU (ou souhaitant débuter).

Le programme est en cours de préparation et sera mis-à-jour au fur et à mesure de sa finalisation.

L'ensemble du matériel (au moins pour les tutoriels) sera en anglais. Le workshop sera quant à lui en français, mais les questions et discussions seront également possible en anglais.

All the workshop material will be in English (at least for the tutorials). The workshop itself will be mostly held in French, but questions and discussions are also welcome in English.

Formateurs

Introduction aux réseaux de neurones : Bastien Arcelin (APC) et Alexandre Boucaud (APC)

Soumission sur la ferme GPU@CC-IN2P3 : Bertrand Rigaud (CC-IN2P3), Gino Marchetti (CC-IN2P3) et Sébastien Gadrat (CC-IN2P3)

Contenu de la formation

Deux ateliers seront proposés le vendredi matin et après-midi.

 

Le premier consistera à écrire un réseau de neurones en Python en utilisant la librairie numpy, afin de bien comprendre les différents enjeux soulevés. Ce réseau sera ensuite utilisé pour résoudre quelques exercices simples. La fin du TP sera consacrée à résoudre ces mêmes problèmes de manière plus succincte grâce aux librairies spécialisées TensorFlow et PyTorch.

 

Le deuxième atelier se concentrera sur l’utilisation des ressources de la ferme GPU du CCIN2P3. Vous serez guidés depuis la connexion au CC jusqu’au lancement des jobs en passant par le choix des conteneurs (singularity) et l’écriture de votre script de job. Pour tirer pleinement parti de cet atelier, vous pouvez même, si vous le désirez, venir avec votre propre code à faire tourner.

Pour tout renseignement, il est possible de contacter directement les organisateurs via le courriel ci-dessous.

Environnement de travail pour le tutoriel

Le tutoriel utilisera la ferme GPU du CC-IN2P3. Ce dernier fournira la pile logicielle requise (le tutoriel se concentrera sur l'utilisation de TensorFlow).

Il vous sera néanmoins demandé d'apporter votre ordinateur portable équipé d'un logiciel vous permettant de vous connecter à la ferme de calcul du CC-IN2P3 (utilisation de SSH).

Modalités pratiques

L'inscription est gratuite mais obligatoire.

Cette formation est néanmoins exclusivement réservée aux utilisateurs du CC-IN2P3, aux entités académiques et partenaires du CC-IN2P3 et du CNRS plus généralement. Toute inscription ne répondant pas à ce critère pourra être refusée.

Le nombre de place étant limité, il est préférable de s'inscrire au plus vite. Si l'inscription n'est plus possible, vous pouvez nous contacter sur le courriel donné ci-dessous pour être inscrit sur la liste d'attente.

La formation s'étalera sur 3 jours : elle débute le mercredi 3 avril à partir de 11h (un café de bienvenue sera servi dès 9h00), et se termine vendredi 5 avril vers 17h. Il ne s'agit pas d'une formation CNRS, les participants doivent donc faire une demande de mission (et non pas de formation). L'hébergement et les repas sont à la charge des participants.

Concernant les repas, ces derniers seront pris dans le restaurant administratif à proximité du CC-IN2P3. Le prix varie entre 10,69€, 11,20€ et 11,70€ en fonction de la formule choisie (3, 4 ou 5 éléments, le plat principal comptant pour 2). On peut soit payer en monnaie, soit en carte bleue (méthode préférable si l'on n'a pas l'appoint).

Pour des raisons de sécurité, dès votre arrivée, il vous faudra vous présenter à l'accueil et y déposer une pièce d'identité. Il vous sera alors donné un badge que vous devrez conserver et porter pendant tout votre temps de présence au sein du CC-IN2P3. Il devra être rendu chaque soir lors de votre départ pour récupérer votre pièce d'identité.

Les informations pratiques concernant les transports pour se rendre au CC-IN2P3 peuvent être trouvées dans la page contact du site du CC-IN2P3 (une version anglaise y est également disponible) : https://cc.in2p3.fr/fr/contact/

Sondage sur le workshop

Pour nous aider à améliorer les réunions et formations proposées par le CC-IN2P3, merci de remplir le sondage suivant :

https://survey.in2p3.fr/index.php/624316

 

mercredi 3 avril

10:00 → 11:00 Accueil des participants

11:00 → 12:30 Présentation de la ferme GPU et de son utilisation

11:00 Mot de bienvenue

Orateur: Pierre-Etienne Macchi (CC-IN2P3)

11:30 Présentation de la ferme GPU

Le CC-IN2P3 propose une ferme de 10 machines Intel(R) Xeon(R) CPU E5-2640 (16 cores) / 128GB RAM / 40 GPUs Nvidia Tesla K80.

Un point sera également fait sur la nouvelle ferme GPUs en cours de déploiement basée sur des V100.

Orateur: Nicolas Fournials (CC-IN2P3)

gpus_cc_workshop.pdf

12:00 Abstraction logicielle pour la ferme GPU

Le CC-IN2P3 propose des images Singularity qui permettent d'utiliser différentes versions des drivers CUDA et de TensorFlow, afin de satisfaire au mieux les besoins des utilisateurs.

Orateur: Bertrand Rigaud (USR6402)

GPU_Job_SubmissionCC.pdf

12:30 → 14:00 Déjeuner

14:00 → 15:30 Présentations des utilisateurs

14:00 Comment installer pytorch et tensorflow en python avec Cuda

Orateur: Thomas BAUDIER (Creatis / Centre Léon Bérard)

GPUin2p3.pdf

14:15 Une approche à base de Deep Learning pour la cosmologie observationnelle

Orateur: Johanna Pasquet (CPPM)

workshop_pasquet.pdf

14:45 Reconnaissance individuelle de mammifères à partir de photos

Orateur: Vincent Miele (CNRS)

ccin2p3_miele030119.pdf

15:00 Deblending galaxies with Variational Autoencoder: a multi-bands, multi-instruments analysis

Orateur: Bastien Arcelin (APC)

Pres_03-04_Workshop_GPU_eng.pdf

15:30 → 16:00 Pause café

16:00 → 17:30 Présentations des utilisateurs

16:00 LISA: Data analysis for observing gravitational wave sources from space

Orateur: Antoine Petiteau (APC - Université Paris-Diderot)

Petiteau_LISA_CCGPU190403.pdf

16:15 GPUification avec OpenAcc section efficace de capture d'électrons dans les supernovæ

Orateur: Vincent LAFAGE (CNRS)

CC_GPU_2019.pdf

16:45 Solving source separtion problem for LISA data analysis with autoencoders

Orateur: Natalia Korsakova (Observatoire Cote d'Azur )

talk_lyon.pdf

17:00 Utilisation d'un réseau de neurones pour la discrimination gamma/neutron sur le détecteur NEDA

Orateur: Guillaume BAULIEU (IPNL)

190403_gpu_ccin2p3_baulieu.pdf

NeuralScanner_MLP.gif

NeuralScanner_RNN.gif

jeudi 4 avril

09:30 → 10:30 Présentations des utilisateurs

09:30 Usage of GPU for the ATLAS experiment

Orateur: Frederic DERUE (LPNHE Paris)

GPU-Workshop-ATLAS-04042019.pdf

10:00 ML/DL pour la physique des accélérateurs

Orateur: Hayg Guler (LAL)

ML-GPUWorkshop-HG.pptx

10:15 Inférence de réseaux de régulation de gènes à partir de données dynamiques multi-échelles/niveaux

Orateur: arnaud bonnaffoux (CNRS/ENS/LBMC)

10:30 → 11:00 Pause café

11:00 → 12:30 Tutoriel

Président de session: Alexandre Boucaud (Paris-Saclay Center for Data Science / LAL)

11:00 Généralités sur les réseaux de neurones

Après un bref historique sur les réseaux de neurones ainsi que des exemples récents d’application, je décomposerai avec vous la structure d’un réseau de neurone simple (neural network), puis celle d’un réseau de neurones profond convolutionnel (deep convolutional network). J’évoquerai la terminologie propre à ce domaine et illustrerai le tout avec des exemples de code. Enfin, je terminerai en vous donnant des clés de lecture de codes de deep learning afin que vous puissiez adapter ce que vous trouverez en ligne à votre problématique.

Orateur: Alexandre Boucaud (APC / IN2P3)

Introduction aux réseaux convolutionnels

12:30 → 14:00 Déjeuner

14:00 → 15:00 Visite des salles machine

15:00 → 15:45 Présentations des utilisateurs

15:00 Experiences running Deep Reinforcement Learning on the IN2P3 GPU Cluster

Orateur: Edward Beeching (INRIA)

Edward_Beeching_Deep_RL_PhD_in2p3_pres_201900404.pdf

15:15 Applications multi-GPUs au CC-IN2P3 pour les analyses et simulations : apports, expériences

Orateur: Gilles Grasseau (LLR IN2P3/CNRS)

GPU-Workshop-3-5avril-CC.pdf

15:45 → 16:15 Pause café

16:15 → 17:00 Présentations des utilisateurs

16:15 Le service Data Analytics du projet PRACE

Orateur: Agnes ANSARI (CNRS/IDRIS)

PRACEDataAnalyticsService-WKSH-GPU-CC.pdf

16:45 Deep learning for inverse problems: Application to spectral CT

Orateur: Juan Felipe Perez Juste Abascal (CREATIS)

2019_MatDec_Unet_IN2P3.pdf

vendredi 5 avril

09:30 → 10:00 Accueil & café

10:00 → 12:00 Tutoriel

10:00 Soumission sur la ferme HPC

Le tutoriel se déroulera en amphi.
Le matériel pour ce tutoriel est disponible au lien ci-dessous

Orateurs: Bertrand Rigaud (USR6402), Gino Marchetti (CC-IN2P3 / CNRS), Sébastien Gadrat (CC-IN2P3)

Materiels

10:00 TP : écriture d'un réseau de neurones avec numpy

Ce TP fait suite au cours introductif de la veille et amènera à comprendre, en les codant, les éléments clés d'un réseau de neurones, de sa construction jusqu'à son entraînement. Le réseau ainsi construit servira à résoudre quelques problèmes simples. Enfin, ces mêmes problèmes seront résolus à l'aide des librairies de deep learning PyTorch & TensorFlow afin d'en comprendre l'utilisation.

Le tutoriel se déroulera en 202 (salle à côté de l'accueil).
Le matériel pour ce tutoriel est disponible au lien ci-dessous

Orateurs: Alexandre Boucaud (APC / IN2P3), Bastien Arcelin (APC)

Backpropagation_Workshop_CC_GPU.pdf

TP neural networks

12:00 → 14:00 Déjeuner

14:00 → 16:00 Tutoriel

14:00 Soumission sur la ferme HPC

Le tutoriel se déroulera en amphi.
Le matériel pour ce tutoriel est disponible au lien ci-dessous

Orateurs: Bertrand Rigaud (USR6402), Gino Marchetti (CC-IN2P3 / CNRS), Sébastien Gadrat (CC-IN2P3)

Materiels

14:00 TP : écriture d'un réseau de neurones avec numpy

Ce TP fait suite au cours introductif de la veille et amènera à comprendre, en les codant, les éléments clés d'un réseau de neurones, de sa construction jusqu'à son entraînement. Le réseau ainsi construit servira à résoudre quelques problèmes simples. Enfin, ces mêmes problèmes seront résolus à l'aide des librairies de deep learning PyTorch & TensorFlow afin d'en comprendre l'utilisation.

Le tutoriel se déroulera en 202 (salle à côté de l'accueil).
Le matériel pour ce tutoriel est disponible au lien ci-dessous

Orateurs: Alexandre Boucaud (APC / IN2P3), Bastien Arcelin (APC)

Backpropagation_Workshop_CC_GPU.pdf

simple_nn_library-solution.ipynb

TP neural networks

16:00 → 16:30 Pause café

16:30 → 17:30 Bilan et conclusions