Merkwürdige Rechnung

Das Tabellenkalkulationsprogramm

Moderator: Moderatoren

Gismo
Beiträge: 5
Registriert: Mo, 26.12.2016 21:58

Merkwürdige Rechnung

Beitrag von Gismo » Di, 10.01.2017 23:28

Hi.

Ich hab in meiner Tabelle u.a. eine eigene Fehlersuche eingebaut, die verschiedene Zellen auf Gleichheit prüft oder gegenrechnet und ggf. eine Fehlermeldung anzeigt.
Nun hab ich das Problem, wenn ich größere Zahlen (500+) eingebe, dass mir ein Fehler angezeigt wird, dass zwei Zellen nicht mit einander übereinstimmen, die aber gleich sein sollten.
Beide Zellen sind als Währung formatiert und haben somit zwei Nachkommastellen und sollten bei den eingegebenen Zahlen "21,40€" ergeben.
Beide Zellen zeigen aber "21,40€" an, also habe ich die Nachkommastellen auf 20 erweitert und stellte fest dass sich in der einen Zelle an 13.Stelle eine 1 befindet :shock: die jedoch bisher in keiner Zelle zuvor auftauchte..

Desto größere Zahlen ich eingebe, umso größer wird die Abweichung....dabei ist dass eine simple Subtraktions-Rechnung :?

Mittlerweile habe ich alles aus der Tabelle gelöscht, so dass nur noch beiden Zellen die von einander subtrahiert werden sollen und die Zelle in der die Berechnung stattfindet übrig sind.

Stell ich mich nur gerade irgendwie blöd an oder was is da los?
Ich steh grad völlig aufm Schlauch :(

Subtrahiert werden sollen
3522,78 - 3501,38
und als Ergebniss gibt es 21,4000000000001 :?:


Grüße
test.ods
(14.44 KiB) 19-mal heruntergeladen

Karolus
********
Beiträge: 7020
Registriert: Mo, 02.01.2006 19:48
Kontaktdaten:

Re: Merkwürdige Rechnung

Beitrag von Karolus » Mi, 11.01.2017 00:13

Hallo

Das übliche Problem bei der Fliesskommaarithmetik von Computern… Dezimalzahlen können mit 64Bit Floats (dual) nicht exakt abgebildet werden.
Reduziere das Zahlenfomat auf eine sinnvolle Anzahl von Dezimalstellen ( 2 ) und arbeite mit der Option →Extras→Optionen→Calc→Berechnen→→[x]Genauigkeit wie angezeigt
AOO4, LO4.3, LO4.4 LinuxMint17.2

Gismo
Beiträge: 5
Registriert: Mo, 26.12.2016 21:58

Re: Merkwürdige Rechnung

Beitrag von Gismo » Mi, 11.01.2017 14:23

Joa...sowas dachte ich mir schon fast.
Danke!

Hat nur leider nicht ganz geholfen.
Vorher war der Fehler mit der Zelle in denen die 21,4 standen.
Die wird ja mit einer andere verglichen. Dieser Fehler ist weg.

Nun wird mir angezeigt, dass die Subtraktion (3522,78-3501,38) nicht 21,4 entspricht :lol:
Hab diese Anfrage jetzt aber rausgenommen, da darf man eh nix an den Formeln ändern und soweit stimmt alles so wie es angezeigt wird.

Antworten

Wer ist online?

Mitglieder in diesem Forum: Google [Bot] und 5 Gäste