DIRAC Project meeting

Europe/Paris
Visio Zoom

Visio Zoom

Vanessa Hamar (CC-IN2P3 / CNRS)
Description

DIRAC@IN2P3

Time May 22, 2023 02:00 PM Paris

Meeting ID 967 7700 5831

Passcode f7AGKV

Participants
  • Andrei Tsaregorodtsev
  • Gino Marchetti
  • Jerome Pansanel
  • Johan Bregeon
  • Luisa Arrabito
  • Sorina POP
  • Vanessa Hamar
  • Yannick Patois

Compte rendu réunion DIRAC@IN2P3

Lundi 29 juin 2023

Étaient présents : 

  • Andrei TSAREGORODTSEV
  • Axel 
  • Bertrand RIGAUD
  • Johan BREGEON
  • Luisa ARRABITO
  • Natthan PIGOUX

Étaient absents :

  • Alice FAURE
  • Gino MARCHETTI
  • Sorina POP

Secrétaire :

  • Vanessa HAMAR

Ordre du Jour :

  • État du Projet
  • DIRAC X Discussion
  • Update CTA
  • Update Biomed
  • Update EGI-ACE
  • Publications / Conférences

1. État du Projet

      Versions :

  • 2 patchs releases :
    • V7r3p37 -> Fixes liés à AREX CE
    • 8.0.23 -> Fixes liés à AREX CE, PushJobAgents,Remote Runner
    • 8.1.0a14 -> Compilé, à tester dans le prochaine hackaton le 6 juillet

1.2 Développements :

  • OAUTH/OIDC AuthN/AuthZ
    • Biomed use case :
      • Biomed_[user,pilot] groups definis avec l’entitlements dans Check-In
      • Soumission des jobs avec tokens Check-In
        • Ok pour HTCondor-CE with Check-IN Validator
        • KO at CC
        • Tests pour ARC7 site UIOCloud
    • Autres Vos
      • Auger (Perun community management)
      • WeNMR : En train de revoir le portail des applications et les crédenciales des utilisateurs.
      • Galaxy : pas d’avance 1 seul utilisateur.
  • WMS avec tokens :
    • Tous les services WMS son ten HTTPS sur la ferme de test du CC, inclus le sandbox store
    • Toutes les opérations avec tokens ont été testes.
    • A faire : Prendre les tokens des utilisateurs pour les pilotes.
  • FluentD/bit
    • Le problème a été contourne en effacent les fichiers, les noms de fichiers doivent changer et faire quelques modifications a la configuration.

1.3 Services EGI :

  • 5.5M jobs depuis 2022, ~1000 jobs en moyen pendant le mois dernier. 
  • Version DIRAC 8.0 sans changement
  • Monitoring Elastic Search ne marche pas, a résoudre.
  • Le hosting de l’Instance DIRAC-EGI serai maintenu en « best effort » jusqu’au decembre

1.4 Européen/Nationaux Projets : 

  • GreenDIGIT : procédure d’acceptation n’a pas fini. Forte chance d’être accepté. 
  • PEPR STEEL accepté, 15PMs pendant 3 ans. Placement des données et envoi des jobs aux sites ou les données sont stockes. 
  • Autres projets : 
    • ESCAPE : RAS
    • GALAXY : Discussions pendant le workshop EGI-ACE, une bonne synergie entre GALAXY – ARC – DIRAC, proche a projets comme VIP. 

1.5 Workshops :

  • DIRAC Community workshop pendant la conference EGI (propose par EGI) – 18-23 juin 2023 
    • 1 Demo pendant la pause café
    • 1 session de formation de 90 minutes utilisant Jupyter terminal, 2 participants mais très motives.
    • Le report GDB :
      • Utilisation des tokens pour la soumission des pilotes OK
      • Utilisation des tokens pour interagir avec les services DIRAC OK
    • Multiples discussions : Data access, AuthZ, support a la communauté.
  • ISGC’23 paper envoyé => DIRAC: OIDC/OAuth2 based security framework => En attendant les reviewers.
  • CHEP 
    • Date limite pour écrire le paper est septembre.
  • DiracX Hackaton 4-5 juillet au CERN
  • Joint DIRAC + Rucio Workshop (KEK) 16-20 Octobre 2023

 

1.6 Consortium :

  • L’extension est déjà signée pour le CNRS, l’Imperial College et le CERN
  1. DIRACX
  • Aujourd’hui c’est une proposition, la décision n’est pas prise mais à faire dans les jours qui viennent. 
  • La proposition est de faire une révision complète de l’implémentation de DIRAC, voir les liens : 
  • https://indico.cern.ch/event/1297397
  • https://indico.cern.ch/event/1292287
  • https://indico.cern.ch/event/1285339 
  • Essentiellement un projet avec succès qui arrive à la fin de vie technologique.
    • Pour sa réussite la simplification du code et la procédure du déploiement doit être fait, aussi comme adopter des standards apparus plus récents que quand les décisions pour DIRAC ont été faits il y a 15 ans, comme par exemple le graphisme.
    • Passage de DIPS a HTTPS a été un échec, problèmes avec le hyperthreading. A continuer avec DIPS.
    • Le cout de maintenir software fait maison deviens très important. 
  • Le plan pour DIRACX
    • 2 hackathons pour les développeurs
      • 1-2 juin au CERN, idée introduit par Chris Burr et Christophe Haen.
      • 4-5 juillet au CERN, pour apprendre à utiliser les nouvelles technologies et préciser un plan de migration en cas ou la décision soit prise. 
      • En cas où, la première instance à utiliser DIRACX serai l’instance DIRAC utilise par la VO LHCb et la première instance multi VO sera l’Instance DIRAC EGI.
      • Le rôle du projet DIRAC@IN2P3 doit être défini. Comment consolider les forces pour réussir à apprendre le système de base comme migrer les contributions par exemple : le système de transformation de CTA et le file catalogue ou le check-in utilisé par EGI.
  • Des questions/commentaires autour de DIRACX
    • CTA ne peut pas contribuer au développement du Framework, il y a quelques taches à développer pour DIRAC 8. A moyen/longue terme des contributions pourront être faits. 
    • Il faudra créer un dynamisme/synergie entre les personnes qui connaissent bien le système et les jeunes développeurs qui connaissent les outils. 
    • La migration à DIRAC v8 va continuer, la MAJ serai à travers des patchs.
    • DIRAC v8 et DIRACX seront compatibles ? les deux versions pourraient être installés et travailler ensemble ? Il faut redémarrer du scratch ?
    • Pour le workshop au KEK serai bien avoir quelques services base a montrer.
    • Il y a un repo dans GitHub déjà avec les développements faits. Tous ont les mêmes privilèges dans le repo.
    • Le déploiement de la version DIRACX serai une procédure standard et plus moderne. 

 

 

 

  1. Retour CTA

 

RAS 

 

  1. Retour Biomed

 

RAS

 

 

Prochaine réunion 01 aout a 14h

 

 

Il y a un compte-rendu associé à cet événement. Les afficher.
    • 1
      Etat du projet
      • Tour de table
      • Update Dirac v8
      Orateurs: Dr Andrei Tsaregorodtsev (Aix Marseille Univ, CNRS/IN2P3, CPPM, Marseille, France), Vanessa Hamar (CC-IN2P3 / CNRS)
    • 2
      DIRAC X discussion
      Orateur: Dr Andrei Tsaregorodtsev (Aix Marseille Univ, CNRS/IN2P3, CPPM, Marseille, France)
    • 3
      Update CTA
      Orateur: Luisa Arrabito (LUPM)
    • 4
      Update Biomed
      Orateur: Sorina POP (CNRS)
    • 5
      Update EGI-ACE
      Orateurs: Dr Andrei Tsaregorodtsev (Aix Marseille Univ, CNRS/IN2P3, CPPM, Marseille, France), Gino Marchetti (CC-IN2P3 / CNRS)
    • 6
      Publications / Conférences

      Publications

      • Transformation System
      • Meta Query

      Conferences

      • EGI !
      • Joint DIRAC+Rucio workshop in October 2023 at KEK
      Orateurs: Dr Andrei Tsaregorodtsev (Aix Marseille Univ, CNRS/IN2P3, CPPM, Marseille, France), Vanessa Hamar (CC-IN2P3 / CNRS)