[erledigt] signifikante Stellen und Rundungsverhalten

Antwort erstellen


BBCode ist eingeschaltet
[img] ist ausgeschaltet
[url] ist eingeschaltet
Smileys sind ausgeschaltet

Die letzten Beiträge des Themas
   

Ansicht erweitern Die letzten Beiträge des Themas: [erledigt] signifikante Stellen und Rundungsverhalten

Re: [HILFE] signifikante Stellen und Rundungsverhalten

von drbrode » Di, 12.12.2017 10:06

Ich verstehe nicht warum Du mit solch monströsen Nachkommazahlen arbeitest.
Tu ich ja gar nicht. Ich arbeite in der Praxis schon mit der Datumsdarstellung. Die Kommaschreibweise habe ich nur gewählt, um das Problem zu verdeutlichen. darauf gekommen bin ich ja auch erst nachdem meine oben erwähnte Abfrage nicht funktioniert hat.
Und nun gibst Du z.B. in D5 folgende Formel ein.

Code: Alles auswählen

=D4+ZEIT(0;10;0)
So hatte ich es noch nicht probiert und es scheint wirklich zu funktionieren. Es tauchen bei manchen Werten zwar immer noch die erwähnten Rundungsfehler auf, jedoch scheinen diese nun mit der direkten Zeiteingabe identisch zu sein. Die Abfrage funktionert jedenfalls nun.

Damit hast du mein praktisches Problem anscheinend gelöst. Danke dafür!

Prinzipiell finde ich das Rundungsverhalten von calc aber immer noch ungenügend. Aber diese Diskussion ist nun eher pedantischer Natur.

Ich danke allen für die Hilfe und die Bereitschaft zur Diskussion! Hat Spaß gemacht ;-)

Re: [HILFE] signifikante Stellen und Rundungsverhalten

von Stephan » Mo, 11.12.2017 21:14

Aber das Du ein kleiner "Hobby-Zerspaner" warst, ist mir neu.
Nö, ich war eigentlich nur Modellflieger, bloß in der DDR gabs nicht immer alle Ersatzteile für Modellmotoren zu kaufen und so drehte man sich selbst Kolben und ähnliche Teile.
Es ging um diese Art Motoren:

Bild



Gruß
Stephan

Re: [HILFE] signifikante Stellen und Rundungsverhalten

von balu » Mo, 11.12.2017 16:45

Hallo.
Stephan hat geschrieben: Gut so?
Ja doch ;-)


Stephan hat geschrieben: Nö, "Ra" sagt mir spontan nichts (außer ein Papyrusboot von Heyerdahl hieß "Ra" :lol: )
Na hö' ma'! Du kennst den alten altägyptischen Sonnengott nicht? :lol:


Stephan hat geschrieben: Auch wollte ich Dich wirklich nicht belehren.
Hast Du doch auch nicht. Ist alles in Ornung.
Aber das Du ein kleiner "Hobby-Zerspaner" warst, ist mir neu. Dafür hast Du meinen Bild


Genug gelacht, und amüsiert. Back to Thema.

drbrode hat geschrieben: Trotzdem denke ich, wenn man als Programmierer eine (willkürliche) Anzahl signifikanter Stellen festlegt, sollte man doch dafür sorgen, dass sich das Programm im Rahmen dieser Willkür richtig verhält.
Ich verstehe dich wohl, aber es gibt Dinge die sich wahrlich nur sehr langsam ändern. Ich versuche das ganze mal mit meinen eigenen Worten zu erklären.

Als erstes schmeiß ich jetzt mal ein Blödes wort in den Raum.

Abwärtskompatibilität

Und nun noch eine Beschreibung.

Ohne mathematischen Co-Prozessor.


Und nun ergibt sich folgendes Bild.
Zu Zeiten wo es die CPU noch ohne den mathematischen Co-Prozessor gab, musste alles die CPU erledigen. Egal ob die Grafikausgabe geregelt werden musste, oder ob mathematische Rechenoperationen durchgeführt wurden, alles machte die CPU ohne zusätzliche Unterstützung. Und die paar MHz die die CPU damals schaffte, z.B. 33 MHz, ging sehr schnell in die Knie, wenn mathematische Komplexe Berechnungen durchgeführt wurden. Da zählte also so wenig Rechenleistung wie nur möglich der CPU abzuverlangen. Und dementsprechend wurde die Software so prgrammiert, das es zu keiner starken CPU-Auslastung kam.

Irgendwann wurden die PCs bedeutend schneller weil sie unter anderem Serienmäßig mit einem mathematischem Co-Prozessor ausgerüstet wurden, aber die Softwareentwickler mussten die Programme Abwärtskompatibel anpassen. Da eine damalige Software schneller umgeschrieben, beziehungsweise neu geschrieben wurde als die Weiterentwicklung der CPU und deren Verkauf von statten ging, wurden halt bestimte Punkte in der Softwareentwicklung sehr lange nicht angerührt. Und ferner kommt noch hinzu, das ein ehemaliger Marktführer in der Softwarebranche von einem anderen überholt wurde. Und der nun neue Marktführer bietet in seinem Programm die Möglichkeit an die Dateien vom alten Marktführer zu öffnen und zu bearbeiten. Dabei musste das aber Kompatibel zu dem alten Programm und deren Dateien seien.

Auch wenn der ehemalige Marktführer nix mehr zu melden hat, so achtet der neue Marktführer darauf das eine Abwärtskompatibilität gegeben ist. Einerseits zu dem anderen Programm, und anderseits, was wichtiger ist, zu seinen eigenen alten Dateien. Und so werden weiterhin bestimmte Punkte einfach nicht angerührt um die Software zu ändern / zu verbessern, weil es so "einfacher" ist die Abwärtskompatibilität zu gewährleisten.

Was dabei schlußendlich heraus kommen kann, das siehst Du ja jetzt selber.

drbrode hat geschrieben: An einer anderen Stelle führe ich jetzt eine Abfrage dieser Tabelle durch und benutze hier für den Befehl "SVERWEIS". Wenn ich in das Abfragefeld nun ein "Datum+10 min" (also z.B. 42840,0069444444) eigebe, findet er den dazugehörigen Eintrag nicht, da in meiner Liste ja der fehlerhaft gerundete Wert 42840,0069444445 steht.

Ich weiß auch, dass ich mir hier im Rahmen einer bestimmten Genauigkeit durch weitere Rundungen weiterhelfen kann.
Ich verstehe nicht warum Du mit solch monströsen Nachkommazahlen arbeitest. Calc kann doch sehr gut mit Datum und Zeit umgehen/rechnen.

Angenomen in D4 steht folgendes "Datum & Zeit" drin.

Code: Alles auswählen

15.04.2017 00:10:00
Alo nix mit Kommazahl.

Und nun gibst Du z.B. in D5 folgende Formel ein.

Code: Alles auswählen

=D4+ZEIT(0;10;0)
D5 wird genau so formatiert wie D4.

Und was bekommst Du wohl in D5 angezeigt?

Richtig!

Das hier!

Code: Alles auswählen

15.04.2017 00:20:00
Es wurden ganz easy 10 minuten zu dem vorherigen Datum dazu addiert.

Meiner Meinung nach machst Du dir das Leben mit den Nachkomazahlen selber nur unnötig schwer. Dabei bleibe ich so lange bis das Du mich vom Gegenteil überzeugt hast.



Gruß
balu

Re: [HILFE] signifikante Stellen und Rundungsverhalten

von Stephan » Mo, 11.12.2017 14:33

Was soll ich denn da reininterpretieren?
Das hatte ich doch geschrieben. Verkürzt gesagt: Du erwartest irgendeinen tieferen Grund warum das Programm ungenau rundet. Meines Erachten gibt es diesen Grund aber garnicht, sondern die Programmierer waren nur zu faul entsprechende Anstrengungen zu unternehmen das das Programm das tut.
Trotzdem denke ich, wenn man als Programmierer eine (willkürliche) Anzahl signifikanter Stellen festlegt, sollte man doch dafür sorgen, dass sich das Programm im Rahmen dieser Willkür richtig verhält.
und das tut es, was ich nun zum dritten Male sage. Das Programm ist nur nicht in der Lage mit mehr als 15 signifikanten Stellen zu rechnen AUCH NICHT eine Rundung genau zu berechnen.

Bezüglich Deines Rechenbeispiels ist nun einmal 42840,0069444444 die größtmögliche Zahl mit der noch richtig gerechnet wird, hingegen ist Calc nicht in der Lage eine Zahl mit 16 signifikanten Stellen (z.B. 42840,00694444444) noch richtig zu runden, weil die Zahl 15 signifikante Stellen überschreitet.

Ich habe das Ganze übrigens eben nochmal in MS Office 2010 ausprobiert. Auch hier stell ich Rundungsfehler fest. Allerdings andere als bei calc.
stimmt, so ist es


Gruß
Stephan

Re: [HILFE] signifikante Stellen und Rundungsverhalten

von drbrode » Mo, 11.12.2017 14:07

Stimmt, aber wohl weil Du viel zu viel reininterpretierst
Was soll ich denn da reininterpretieren? Durch meine Frage wollte ich schlichtweg ergründen ob hinter der von mir beobachteten Feststellung irgendeine Art von reproduzierbarer Logik steht. In diesem Fall hätte man das in seinen Formeln ja vielleicht irgendwie berücksichtigen können. Wenn dem nicht so ist, in Ordnung. Dann muss ich damit leben und mir einen anderen Weg suchen. Nur bis dato wusste ich das ja nicht.

Trotzdem denke ich, wenn man als Programmierer eine (willkürliche) Anzahl signifikanter Stellen festlegt, sollte man doch dafür sorgen, dass sich das Programm im Rahmen dieser Willkür richtig verhält.

(Ich habe das Ganze übrigens eben nochmal in MS Office 2010 ausprobiert. Auch hier stell ich Rundungsfehler fest. Allerdings andere als bei calc. Verrückt... ;-))

Re: [HILFE] signifikante Stellen und Rundungsverhalten

von Stephan » Mo, 11.12.2017 13:47

Das ist irgendwie nicht einzusehen.
Stimmt, aber wohl weil Du viel zu viel reininterpretierst, wohingegen sich die Programmierer überhaupt nicht soviele Gedanken gemacht haben.
Zumindest ich nehme jedenfalls an der Hintergrund ist banal: man sah (oder wusste) das Calc nur bis 15 Stellen richtig rechnete und erklärte das als garantierte Grenze bis zu der Calc richtig rechnet. Das dann Calc bei höheren Stellenzahlen plötzlich doch wieder richtig rechnet interessierte niemanden mehr, weil das ja quasi schon oberhalb der (willkürlich) festgelegten Stellenobergrenze ist.


Gruß
Stephan

Re: [HILFE] signifikante Stellen und Rundungsverhalten

von quotsi » Mo, 11.12.2017 13:40

Und was machte man früher, in der Anfangszeit des Computers? Man multiplizierte anfangs mit einer so großen Zahl, so dass die Dezimalzahl zur Ganzen wurde, dann rechnete man und schließlich teilte man durch den Eingangsmultiplikator. So wurde aus der Dezimalarithmetik (die sowieso keine im Prozessor war) wieder eine Ganzzahlarithmetik mit abschließender Umrechnung. Hierdurch trat ein Rundungsfehler nur einmal auf.
Ob das bei deinem Problem allerdings jetzt hilfreich ist, habe ich nicht geprüft.

Re: [HILFE] signifikante Stellen und Rundungsverhalten

von Stephan » Mo, 11.12.2017 13:23

Ich wollte eher ausdrücken, dass die EDV die Regeln der Mathematik exakt anwenden muss und hierzu gehört auch das Runden.
Und was nutzt diese Feststellung wenn das ein bestimmten Programm einfach nicht tut, weil da ein Programmfehler oder eine Begrenzung ist?



Gruß
Stephan

Re: [HILFE] signifikante Stellen und Rundungsverhalten

von drbrode » Mo, 11.12.2017 12:57

Na da hab ich jetzt ja anscheinend eine Grundsatzdiskussion ausgelöst.

Auch wenn es ein wenig am ursprünglichen Thema vorbei geht möchte ich auch nochmal kurz darauf eingehen.

Ich bleibe bei meiner Aussage: Mathematik ist eine exakte (genaue) Wissenschaft! In der Praxis müssen wir selbstverständlich des Öfteren auf "ungenaue Modelle" zurückgreifen und dagegen ist auch nichts einzuwenden, solange das Ergebnis mit einer für uns ausreichenden Genauigkeit erreicht wird. (Stichwort Kreisberechnung: natürlich brauche ich pi nicht mit 2,4 Billionen stellen verwenden, wenn ich den Kreisumfang eines Bierdeckels auf 1 mm genau ausrechnen möchte, nichtsdestotrotz könne die Mathematik es leisten, ein exaktes Ergebnis mit unendlich vielen Nachkommastellen zu errechnen)
Es ist der Fehler Deines Vorredners gewesen zu glauben EdV sei so genau wie Mathematik
Vielleicht habe ich mich in der Eile da ein wenig missvertändlich ausgedrückt. Ich wollte nicht behaupten, dass die EDV genauso exakt wie die Mathematik ist. (Das habe ich mit meinem obigen Beispiel glaube ich dargelegt.) Ich wollte eher ausdrücken, dass die EDV die Regeln der Mathematik exakt anwenden muss und hierzu gehört auch das Runden. Hier gibt es dann tatsächlich nicht ein "bisschen richtig". 3x3 ergibt 9 und nicht "ungefähr 10" (auch wenn das für den ein oder anderen vielleicht "ausreichend genau" sein könnte ;-)) und 1,4 wird auf 1 abgerundet! Das muss die EDV doch leisten können...

Nun aber zurück zum Thema.

Woran ich mich gestört habe ist die Tatsache, dass in meinem beschriebenen Beispiel offenbar eine fehlerhafte mathematische Operation von calc durchgeführt wurde. Wie Toxitom auch schon aufführte:
42840 + 0,000694444444444444 -> 42840,00069444444
42840 + 0,00694444444444444 -> 42840,00694444445
Das ist irgendwie nicht einzusehen. Wenn calc nur mit 15 signifikanten Stellen umgehen kann ist das ja in Ordnung und selbstverständlich muss dann auch an irgendweinere Stelle gerundet werden aber man sollte doch erwarten können, dass diese Operation dann korrekt ausgeführt wird. Und wenn die relevante Stelle einer zu rundenen Zahl auf die Ziffer "4" lautet, dann bedeutet das mathematisch korrekt, dass abgerundet wird. Da gibt es doch nichts dran zu rütteln. Ob der Fehler jetzt im Prozessor oder im Code von OpenOffice zu suchen ist sei mal dahingestellt, bin kein Informatiker. (Ich bin allerdings der laienhaften Meinung, dass eine solche "Rundung" nicht durch die Hardware begrenzt ist... ;-))

Nochmal zum Hintergrund meines Problems:

Ich habe in einer Tabelle eine Spalte mit Zeitstempeln im 5-Minuten-Abstand. Diese habe ich so generiert, dass ich zu einem variablen Startwert in jeder neuen Zeile immer der Wert 1/288 addiere. Die Tabelle enthält dann in den weiteren Spalten Einträge zu den jeweiligen Zeitpunkten.
An einer anderen Stelle führe ich jetzt eine Abfrage dieser Tabelle durch und benutze hier für den Befehl "SVERWEIS". Wenn ich in das Abfragefeld nun ein "Datum+10 min" (also z.B. 42840,0069444444) eigebe, findet er den dazugehörigen Eintrag nicht, da in meiner Liste ja der fehlerhaft gerundete Wert 42840,0069444445 steht.

Ich weiß auch, dass ich mir hier im Rahmen einer bestimmten Genauigkeit durch weitere Rundungen weiterhelfen kann. Allerdings ging es mir schon ein wenig um den Grundssatz meiner Feststellung.

Re: [HILFE] signifikante Stellen und Rundungsverhalten

von Toxitom » Fr, 08.12.2017 11:53

Hey drbrode,
Hmm, das finde ich nicht gerade zufriedenstellend. Gerade bei der EDV hatte ich gedacht, dass diese (wenn keine Schnitzer in der Software stecken) absolut fehlerfrei arbeiten sollte. Es gibt in der Mathematik schließlich nicht "ein bisschen richtg".
Genauer? Fehlerfrei? Offensichtlich bist Du in keinem der Themen wirklich drin. "Genauer" und "Fehlerfrei" gibt es in beiden Disziplinen nicht. "annäherung" ist das Thema:)

Ganz einfaches Beispiel:

Ein ganzes wird in drei gleicheTeile aufgeteilt - ein ganz einfaches Problem des Alltags. Die drei gleichen Teile werden wieder zum Ganzen zusammengefügt. Logisch, für jeden nachvollziehbar. Und wir lernen schon in der Grundschule:
Das Ganze in drei gleiche Teile: ein Teil = 1/3 -> 3* 1/3 oder genauer 1/3 + 1/3 +1/3 = 3/3 = 1. Passt und ist logisch:)

Und nun setze es in ein Zahlensystem um:

1 dividiert durch 3 = 0,333333 ---- und je mehr stellen Du berechnest - jede wird immer 3 sein. Unendlich.

Jetzt addieren wir die 3 Teile wieder : 0,33 + 0,33 + 0,33 = 0,99 egal wieviel Stellen du berechnest. 1 kommt nie wieder raus.

Ein Prozessor auf Transitorbasis macht auch nix anderes (EDV) - nur mehr und schneller;) Trotzdem kommt da nie wieder 1 raus ... es sei denn, man rundet. UNd da beginnt halt die "Unschärfe" - wann runden? Wie runden? Nimm nicht die einfache Rechnung sondern komplexe - 100000fache Additionen und Subtraktionen - da vervielfältigst Du auch die Fehler.

Für gute Programmierer heisst das dann auch: Nie glatte Zahlen als Grenzen (Bedingungen) direkt zuweisen... das wird immer zu Fehlern führen.

Nimm das obrige Beispiel:

n = 1 / 3 ' n wird eine Fliesskommazahl mit dem WErt 0,33333.....
n2 = 0,0 'auch eine Fließkommazahl

do while not n2=1
n2 = n2 + n
loop

Wird die Abbruchbedingung nie erreichen - Rechner hängt sich auf....

Hier müssen dann "unscharfe" Bedingung geprüft werden, etwa soetwas wie

do while not n2>= 1
....

Das sind die Themen, mit denen Du Dich beschäftigen musst - ist kein Programmierfehler in AOO(LO.

Viele Grüße
Tom

Re: [HILFE] signifikante Stellen und Rundungsverhalten

von Stephan » Fr, 08.12.2017 08:44

Hallo Balu,
aber im Kontext "Rundungsfehler und EDV"

Man kann mit den was man hat nicht genauer arbeiten/rechnen, als es möglich ist
Genau das ist richtig, aber genau das ist EdV und Praxis und dem gegenüber stehen Mathematik und Theorie.

Es ist der Fehler Deines Vorredners gewesen zu glauben EdV sei so genau wie Mathematik, nur Du (Balu) hattest Dich, meiner Meinung nach, missverständlich ausgedrückt, denn zitiert hattest Du Mathematik gemeint aber EdV.
Meine persönliche Meinung. Man kann es auch mit der Genauigkeit übertreiben.
Das ist sogar mehr als Deine Meinung, nämlich ein Faktum, denn es wird in Praxis richtigerweise immer so genau gearbeitet wie nötig und nicht wie möglich, gleichzeitig hat in Praxis jedes Maß seine Toleranz.

z.B. ist es in Praxis unmöglich eine Tomatenspirale von absolut genau 1,80 m herzustellen und aber gleichzeitig auch unnötig Selbige mit einer Genauigkeit von 1800 +- 0,001 mm herstellen zu wollen, sondern es genügt beispielsweise 1800 +- 5 mm (wobei Toleranzen nicht immer symmetrisch sein müssen)

Gut so?

in Ra ausgegeben
Nö, "Ra" sagt mir spontan nichts (außer ein Papyrusboot von Heyerdahl hieß "Ra" :lol: ). Auch wollte ich Dich wirklich nicht belehren.
Ich selbst bin aber auch nicht nur ein 'Studierter' sondern weiß als Autodidakt auch viel über Praxis. Was Metallbearbeitung betrifft habe ich z.B. viel von einem Formenbauer (Metallformen für Plastspritzguss) gelernt und beispielsweise in meiner Jugend selbst Kolben für Modellmotoren gedreht.


Gruß
Stephan

Re: [HILFE] signifikante Stellen und Rundungsverhalten

von balu » Fr, 08.12.2017 01:44

Hallo Stephan,
Entschuldigung Balu, aber Du missverstehst Deinen Vorredner, Mathematik ist so genau weil man theoretisch etwas genau beschreiben (berechnen, darstellen ...) kann,
Entschuldigung bitte, aber im Kontext "Rundungsfehler und EDV" ergibt die Aussage
drbrode hat geschrieben: Es gibt in der Mathematik schließlich nicht "ein bisschen richtg".
einen anderen Sinn, als den Du darlegst. Denn für mich heißt das, das an der richtigen, und nicht an einer willkürlichen Stelle gerundet werden muss und dazu auch noch nach der richtigen Rundungsmethode: 0 bis 4 Abrunden und 5 bis 9 Aufrunden.

Ich finde leider gerade kein Bild einer Metalloberfläche
Das brauchst Du mir doch nicht zu zeigen ;-) , bin doch schließlich Metaller. Egal wie stark und wie oft man z.B. eine Aluminium Oberfläche schleift und poliert, sie wird nie wirklich Glatt. Und das kann man sogar mit einem speziellen Gerät messen, und das Ergebnis wird z.B. in Ra ausgegeben,.... Aber lassen wir das, das geht sonst zu sehr ins unverständliche (für Laien) Off-Topic.


Fakt ist: Man kann mit den was man hat nicht genauer arbeiten/rechnen, als es möglich ist. Und ob sich ein wie gezeigter Rundungsfehler überhaupt bemerkbar macht, zeigt sich erst in der Praxis. Will man es genauer, dann muss man z.B. mindestens eine andere Software einsetzen.

Meine persönliche Meinung. Man kann es auch mit der Genauigkeit übertreiben. Denn es bringt mir doch nix, wenn ich weis das meine Armbanduhr in 100 Jahren 0,5 Sekunden nachgeht, ich aber nur 73 Jahre alt werde.



Gruß
balu

Re: [HILFE] signifikante Stellen und Rundungsverhalten

von Stephan » Do, 07.12.2017 22:16

Oh doch! Das gibt es!
Wie? Du glaubst mir nicht?

Beispiele:
In der Metallverarbeitende Industrie ist es richtig, das Maßangaben bis zu 3 Stellen nach dem Komma angegeben werden können, manchmal reichen auch 2, aber das hängt vom Bearbeitungsverfahren ab.
Entschuldigung Balu, aber Du missverstehst Deinen Vorredner, Mathematik ist so genau weil man theoretisch etwas genau beschreiben (berechnen, darstellen ...) kann, im Gegensatz zur Praxis wo man das eben nicht kann. Mathematisch kann man eine exakte Kugel berechnen, aber niemand kann eine exakte Kugel bauen, aus keinem Material der Welt, denn spätestens wenn Du Dir die Oberfläche unter einem Elektronenmikroskop ansieht siehst Du irgendwann die 'Huckel' der einzelnen Atome und die kannst Du nicht 'glattschleifen'.

Ich finde leider gerade kein Bild einer Metalloberfläche, aber hier im Bild siehst Du eine Graphitoberflöche und die verschwommenen 'Berge' sind die einzelnen Kohlenstoffatome des Graphits:

Bild


das geht also nicht glatter zu bearbeiten. Mathematik hingegen kann die Oberfläche natürlich vollkommen glatt beschreiben mittels einer Formel.


Gruß
Stephan

Re: [HILFE] signifikante Stellen und Rundungsverhalten

von balu » Do, 07.12.2017 18:36

Hallo drbrode,

Es gibt in der Mathematik schließlich nicht "ein bisschen richtg".
Oh doch! Das gibt es!
Wie? Du glaubst mir nicht?

Beispiele:
In der Metallverarbeitende Industrie ist es richtig, das Maßangaben bis zu 3 Stellen nach dem Komma angegeben werden können, manchmal reichen auch 2, aber das hängt vom Bearbeitungsverfahren ab.

So und nun das Non-Plus-Ultra Paradebeispiel schlechthin dafür das "auch ein bischen richtig" richtig ist.

"Ab wann ist es richtig eine unendlich Lange Nachkomazahl verkürzt darzustellen?"

Ich sage nur ein Wort Pi (π)!

Der momentan aktuelle Weltrekord liegt bei 22,4 Billionen Stellen nach dem Komma. Es ist aber wohl nicht verkehrt, also es ist wohl richtig, das man Pi nicht unbedingt auf dem aktuellen Weltrekord-Niveau ausschreiben muss um mit π zu rechnen. Und dadurch ist es ein "bisschen" richtig, das z.B. 6 Stellen nach dem Komma ausreichen, obwohl π unendlich ist. Und mit diesen 6 Stellen nach dem Komma kann man sehr genaue Berechnungen anstellen, ohne das das Ergebniss Falsch ist, weil es ja nicht mit Zich-Millionen, oder sogar mit Sextillion Stellen berechnet wurde.

Aber je nach gefordeter Genauigkeit kann man sich aussuchen ob 6, oder 12 Stellen zur Berechnung herangezogen werden müssen.

Was mich jetzt aber verwirrt, ist folgendes.
Stört dich das mit dem "ungenauen Runden" allgemein, oder geht es dir doch nur um den speziellen Fall mit der Zeit-Addition?



Gruß
balu

Re: [HILFE] signifikante Stellen und Rundungsverhalten

von F3K Total » Do, 07.12.2017 18:30

Moin,
ich verstehe das Problem nicht, bin da eher der Pragmatiker.
Wenn ich in Zelle A1 genau heute, Tag 43076 der Calc-Zeitrechnung eintrage und in Zelle B1 die 10 Min mit 1/144 eintrage, dann diesen Wert bis in Zeile 1.048.576 jeweils vom Vorgänger abziehe, also quasi alle 10 Min seit heute durch Subtraktion vom Vorgängerwert darstelle, lande ich am Ende beim 30.12.1997 05:30:00, also vor knapp 20 Jahren und der Rechenfehler liegt bei 73,2419081032276 /1000 Sekunden.
Eigentlich wollte ich eine Beispieldatei anhängen, die ist jedoch bei 1.048.576 Zeilen bereits größer als 10 MB, was für das Forum zu viel ist.
Gruß R

Nach oben