DIRAC Project meeting
Vanessa HAMAR GONZALEZ is inviting you to a scheduled Zoom meeting.
Topic: DIRAC@IN2P3
Time: Aug 1, 2023 02:00 PM Paris
Join Zoom Meeting
https://cnrs.zoom.us/j/97111785369?pwd=MzFxYm9CMlovRk9mRG5PWnRudmtvQT09
Meeting ID: 971 1178 5369
Passcode: 87daL7
Meeting minutes: https://etherpad.in2p3.fr/p/DIRAC%40IN2P3-01082023
---
One tap mobile
+33170379729,,97111785369#,,,,*476353# France
+33170950103,,97111785369#,,,,*476353# France
---
Dial by your location
• +33 1 7037 9729 France
• +33 1 7095 0103 France
• +33 1 7095 0350 France
• +33 1 8699 5831 France
• +33 1 7037 2246 France
Meeting ID: 971 1178 5369
Passcode: 476353
Find your local number: https://cnrs.zoom.us/u/ahyfbhKlA
---
Join by SIP
• 97111785369@zoomcrc.com
---
Join by H.323
• 162.255.37.11 (US West)
• 162.255.36.11 (US East)
• 213.19.144.110 (Amsterdam Netherlands)
• 213.244.140.110 (Germany)
Meeting ID: 971 1178 5369
Passcode: 476353
Compte rendu réunion DIRAC@IN2P3
Mardi 1 août 2023
Présents :
Andrei, Alice, Luisa, Natthan
Secrétaire :
Vanessa
Ordre du Jour :
- État du Projet
- DIRAC X Discussion
- Projets
- Publications / Conférences
- Consortium news
- AOB
1. État du Projet
1.1 Versions :
2 patchs releases :
- v7r3p38 - "last" patch :
- Job state machine updates
- 8.0.25 :
- Minor fixes : https://github.com/DIRACGrid/DIRAC/blob/v8.0.25/release.notes
- Gestion des tags de CE's
- Support Authlib v1.2.1
- Factorisation de submitJob()
- Audience support in SiteDirector
- Minor token fixes
- Prerelease 8.1.0a15
- Le prochain hackathon certification le 3 août
1.2 Développements :
- OIDC/OAuth2
- NTR
- Pilot
- Installation DIRAC de CVMFS (https://github.com/DIRACGrid/Pilot/pull/187)
- Transformation
- Améliorer le support pour opérations bulk (A regarder : Andrei et Luisa)
- Fluent-Bit
- Documentation ? (A demander à Bertrand)
- CTA
- Le développement d'un agent a été commencé. Cet agent aura pour objectif de gérer les basculements (failovers) des transformations. L'idée est que l'agent soit capable de prendre des décisions en fonction des informations issues des jobs des transformations ayant rencontré des problèmes, et d'exécuter des actions en conséquence. Un autre avantage sera la corrélation avec les données d'Elasticsearch.
- Exemples des uses cases : - les fichiers ne sont pas téléchargés (trouvés), des jobs « failed ».
- Un possible sujet de discussion en DIRAC pour partager des idées et concrétiser les besoins.
- Le développement d'un agent a été commencé. Cet agent aura pour objectif de gérer les basculements (failovers) des transformations. L'idée est que l'agent soit capable de prendre des décisions en fonction des informations issues des jobs des transformations ayant rencontré des problèmes, et d'exécuter des actions en conséquence. Un autre avantage sera la corrélation avec les données d'Elasticsearch.
1.3. Services EGI :
- Operations normales, ~8M jobs exécutés
- Production "complex" le dernier mois
- ES Monitoring à réparer
- Gestion de VO avec les token (biomed, km3net.org)
- Support aux VO's:
- km3net.org: validation des sites
- complex: support utilisateurs
- usegalaxy.eu : développement des outils de soumission des pilotes
1.4. Européen/Nationaux Projets :
- GreenDIGIT approuvé. Optimisations d'utilisation des ressources pour diminuer l'impacte environmental.
Le projet est passé au stage "Grant Agreement preparation".
L'implication du CNRS :
CPPM + IPHC.
CPPM : embauche d'un ingénieur, 18 PMs
- PEPR STEEL approuvé. La réunion kick-off le 7 septembre. Data-aware job scheduling
L'implication du CNRS:
CPPM + IPHC
CPPM : embauche d'un ingénieur, 18 PMs
2. DIRACX
- Le hackathon 4-5 juillet : https://indico.cern.ch/event/1292289/ :
- Attendants : Vanessa, Bertrand, Andrei
- Les premieres contributions dans le repo: https://github.com/DIRACGrid/diracx
- Apprentissage de nouveau framework qui est très préliminaire encore.
- refresh token management
- job sandboxes
- Le prochain DiracX hackathon au CERN le 4-5 septembre. Enregistrement est ouvert.
- Attendants: Andrei, ... ??
3. Projets
3.1 CTA
- CWL Travail en cours pour récupérer les lignes de commande en CWL
3.2 Biomed
- RAS
3.3. Juno
- Mis à jour de l'installation (8.0.24)
- Setup soumission pilotes avec tokens (CNAF, Lyon, JINR, IHEP)
- Serveur IAM-Juno est en place
- Le support pour les operation bulk avancées dans le systeme de Transformations est nécessaires
- La discussion autours du service DIRAC multi-VO est en cours.
3.4 BESIII
- Installation dediée à Torino pour BESIII est en cours.
4. Conference, workshop, publications
- ISGC’23 paper envoyé => DIRAC: OIDC/OAuth2 based security framework => En attendant les reviewers.
- CHEP
- L'écriture du paper a été entamée.
- Joint DIRAC + Rucio Workshop (KEK) 16-20 Octobre 2023 https://indico.cern.ch/event/1252369/
L’enregistrement est en cours !
5. Consortium
- L’extension est déjà signée pour le CNRS, l’Imperial College, le CERN et l'IHEP. Après la signature par KEK ce sera accompli.
6. AOB
Prochaine réunion le jeudi 14 septembre 2023 à 14h.