Seite 1 von 1

Genauigkeit bei Funktion / Exponentialfunktion

Verfasst: Sa, 02.07.2005 17:23
von sungamoipics
Hallo,

ich berechne in OOo Calc Werte der sog. Gumbelverteilung. Dabei wird die Funktion EXP verwendet. Das Ergebnis wird allerdings recht stark (und das wohl zwischendurch) schon gerundet. Wie stelle ich das ab?
Wenn ich dieselbe Gleichung mit den gleichen Werten eingebe, dann kommt in meinem Taschenrechner eine andere, genauere Zahl heraus....
Also ich will auf die gleiche Zahl wie im Taschenrechner kommen.

Danke für Hilfe!

Verfasst: So, 03.07.2005 00:22
von Stephan
Wie stelle ich das ab?


Calc rechnet max. mit 15 Stellen numerischer Genauigkeit insgesamt, um die zu erreichen solltest Du:
Extras>Optionen>Tabellendokument>Berechnen und dort "Genauigkeit wie angezeigt" deaktivieren.
Wenn ich dieselbe Gleichung mit den gleichen Werten eingebe, dann kommt in meinem Taschenrechner eine andere, genauere Zahl heraus....
Also ich will auf die gleiche Zahl wie im Taschenrechner kommen
Ja, das ist gut möglich das der Taschenrechner über eine höherere numerische Genauigkeit verfügt.
Das Einzige was Dir bliebe wäre mit Strings zu rechnen, dann müßtest Du Deine Berechnung aber auf Dein Problem abstimmen eine allgemeine Anleitung kann ich Dir nicht geben.


Gruß
Stephan

Verfasst: Mo, 04.07.2005 09:32
von sungamoipics
Danke für die Hinweise!