Faq/Calc/Accuracy/da

From The Document Foundation Wiki
< Faq‎ | Calc
Jump to: navigation, search
This page is a translated version of the page Faq/Calc/Accuracy and the translation is 100% complete.

Other languages:
čeština • ‎dansk • ‎English


Iboende problem med nøjagtighed

Calc benytter, ligesom den meste anden software til regneark, den kapacitet til regning med flydende komma, der findes i hardwaren. Givet at den meste samtidige hardware bruger binær aritmetik med flydende komma med begrænset nøjagtighed, defineret i IEEE 754, kan mange decimaltal - herunder så enkelt som 0,1 - ikke repræsenteres i Calc (som internt bruger 64-bit-tal med dobbelt præcision). Beregninger med disse tal med nøjagtighed resulterer nødvendigvis i afrundingsfejl, og de vokser med hver enkelt beregning. Dette er ikke en fejl, men er forventet og aktuelt uundgåeligt uden anvendelse af komplekse beregninger i softwaren, som ville medføre urimelige indskrænkelser af ydelsen, og derfor urealistiske. Brugerne må tage højde for dette og benytte af afrunding og sammenligninger med epsilon om nødvendigt.

Et eksempel:

A
1 31000.99
2 32000.12
3 =A1-A2

Dette vil give resultatet -999.129999999997 i A3, i stedet for det forventede -999.13 (du kan være nødt til at forøge celleformatets antal af viste decimaler for at se dette).