10–13 juil. 2023
Annecy / LAPP
Fuseau horaire Europe/Paris

Précision numérique

10 juil. 2023, 15:00
30m
Auditorium Marcel Vivargent (Annecy / LAPP)

Auditorium Marcel Vivargent

Annecy / LAPP

Orateur

Vincent Lafage (CNRS)

Description

  • En calcul entier tout va bien
  • Arnaque des scientifiques, les réels n'existent pas
  • En calcul flottant, ça se corse (float64, float32, float16, float8, TF16, BF32)
  • Comment on s'en sort
  • Précision et Performances

Auteur principal

Documents de présentation