Merkwürdige Rechnung

Antwort erstellen


Um automatische Eingaben zu unterbinden, musst du die nachfolgende Aufgabe lösen.

BBCode ist eingeschaltet
[img] ist ausgeschaltet
[flash] ist ausgeschaltet
[url] ist eingeschaltet
Smilies sind ausgeschaltet

Die letzten Beiträge des Themas
   

Ansicht erweitern Die letzten Beiträge des Themas: Merkwürdige Rechnung

Re: Merkwürdige Rechnung

von Gismo » Mi, 11.01.2017 14:23

Joa...sowas dachte ich mir schon fast.
Danke!

Hat nur leider nicht ganz geholfen.
Vorher war der Fehler mit der Zelle in denen die 21,4 standen.
Die wird ja mit einer andere verglichen. Dieser Fehler ist weg.

Nun wird mir angezeigt, dass die Subtraktion (3522,78-3501,38) nicht 21,4 entspricht :lol:
Hab diese Anfrage jetzt aber rausgenommen, da darf man eh nix an den Formeln ändern und soweit stimmt alles so wie es angezeigt wird.

Re: Merkwürdige Rechnung

von Karolus » Mi, 11.01.2017 00:13

Hallo

Das übliche Problem bei der Fliesskommaarithmetik von Computern… Dezimalzahlen können mit 64Bit Floats (dual) nicht exakt abgebildet werden.
Reduziere das Zahlenfomat auf eine sinnvolle Anzahl von Dezimalstellen ( 2 ) und arbeite mit der Option →Extras→Optionen→Calc→Berechnen→→[x]Genauigkeit wie angezeigt

Merkwürdige Rechnung

von Gismo » Di, 10.01.2017 23:28

Hi.

Ich hab in meiner Tabelle u.a. eine eigene Fehlersuche eingebaut, die verschiedene Zellen auf Gleichheit prüft oder gegenrechnet und ggf. eine Fehlermeldung anzeigt.
Nun hab ich das Problem, wenn ich größere Zahlen (500+) eingebe, dass mir ein Fehler angezeigt wird, dass zwei Zellen nicht mit einander übereinstimmen, die aber gleich sein sollten.
Beide Zellen sind als Währung formatiert und haben somit zwei Nachkommastellen und sollten bei den eingegebenen Zahlen "21,40€" ergeben.
Beide Zellen zeigen aber "21,40€" an, also habe ich die Nachkommastellen auf 20 erweitert und stellte fest dass sich in der einen Zelle an 13.Stelle eine 1 befindet :shock: die jedoch bisher in keiner Zelle zuvor auftauchte..

Desto größere Zahlen ich eingebe, umso größer wird die Abweichung....dabei ist dass eine simple Subtraktions-Rechnung :?

Mittlerweile habe ich alles aus der Tabelle gelöscht, so dass nur noch beiden Zellen die von einander subtrahiert werden sollen und die Zelle in der die Berechnung stattfindet übrig sind.

Stell ich mich nur gerade irgendwie blöd an oder was is da los?
Ich steh grad völlig aufm Schlauch :(

Subtrahiert werden sollen
3522,78 - 3501,38
und als Ergebniss gibt es 21,4000000000001 :?:


Grüße
test.ods
(14.44 KiB) 46-mal heruntergeladen

Nach oben