Jul 10 – 13, 2023
Annecy / LAPP
Europe/Paris timezone

Précision numérique

Jul 10, 2023, 3:00 PM
30m
Auditorium Marcel Vivargent (Annecy / LAPP)

Auditorium Marcel Vivargent

Annecy / LAPP

Speaker

Vincent Lafage (CNRS)

Description

  • En calcul entier tout va bien
  • Arnaque des scientifiques, les réels n'existent pas
  • En calcul flottant, ça se corse (float64, float32, float16, float8, TF16, BF32)
  • Comment on s'en sort
  • Précision et Performances

Author

Presentation materials