Contenu

# Précision de calcul LibreOffice

## Problème de précision inhérent

LibreOffice Calc, comme la plupart des autres tableurs, utilise les fonctions mathématiques en virgule flottante disponibles sur le matériel. Étant donné que la plupart des matériels actuels utilisent l'arithmétique binaire à virgule flottante avec une précision limitée définie dans la norme IEEE 754, de nombreux nombres décimaux - y compris aussi simples que 0,1 - ne peuvent pas être représentés avec précision dans LibreOffice Calc (qui utilise en interne des nombres double précision 64 bits).

Les calculs avec ces nombres entraînent nécessairement des erreurs d'arrondi, et celles-ci s'accumulent à chaque calcul.

Ce n'est pas un bogue, mais il est attendu et actuellement inévitable sans utiliser des calculs complexes dans le logiciel, ce qui entraînerait des pénalités de performances inappropriées, et est donc hors de question. Les utilisateurs doivent en tenir compte et utiliser l'arrondi et les comparaisons avec la machine epsilon (ou arrondi unitaire) si nécessaire.

Un exemple avec des nombres :

| A
1 | 31000.99
2 | 32000.12
3 | =A1-A2

Cela se traduira par -999,129999999997 en A3, au lieu de -999,13 attendu (vous devrez peut-être augmenter les décimales affichées dans le format de cellule pour voir cela).

Rubriques connexes

FRACTION.ANNEE, fonction