Indhold

# LibreOffice Beregningsnøjagtighed

## Iboende nøjagtighedsproblem

LibreOffice Calc benytter som det meste anden regnarkssoftware, de flydende komma matematiske kapaciteter, der er tilgængelige på hardwaren. Forudsat at den meste hardware bruger binær flydende komma-aritmetik med begrænset præcision som defineret i standarden IEEE 754 kan mange decimaltal – herunder nogle så simple som 0,1 – ikke repræsenteres præcist i LibreOffice Calc (der bruger 64-bit dobbelt-præcisionstal internt).

Beregning med de tal resulterer nødvendigvis i afrundingsfejl og de forøges med hver beregning.

Dette er ikke en programfejl, men er forventelige og aktuelt uundgåelige uden anvendelse af komplekse beregninger i softwaren, som ville medføre urimelige nedsættelser af hastigheden, og derfor ikke kommer på tale. Brugerne er nødt til at tage højde for det anvende afrunding og sammenligninger med maskin-epsilon (eller enheds-afrunding) efter behov.

Et eksempel med tal:

| A
1 | 31000.99
2 | 32000.12
3 | =A1-A2

Dette vil resultere i -999.129999999997 i A3, i stedet for det forventede -999.13 (det er eventuelt nødvendigt, at du forøger antallet af viste decimalpladser i celleformatet for at se dette).

Relaterede emner

RÅSUBTRAHER (på engelsk: RAWSUBTRACT)

Støt os venligst!