Gray Scott battle : Programmation et Optimisation sur Architectures Hétérogènes

Session

Précision du calcul

Jul 10, 2023, 3:00 PM

Auditorium Marcel Vivargent (Annecy / LAPP)

Description

Quitte à avoir un résultat faux autant aller vite

11. Précision numérique

Vincent Lafage (CNRS)

7/10/23, 3:00 PM

• En calcul entier tout va bien
• Arnaque des scientifiques, les réels n'existent pas
• En calcul flottant, ça se corse (float64, float32, float16, float8, TF16, BF32)
• Comment on s'en sort
• Précision et Performances

12. Évaluer la précision d'un calcul

Vincent Lafage (CNRS)

7/10/23, 3:30 PM

• À la main (calcul dans un sens et dans l'autre)
• Verrou
• Cadena