Medien & Phantastik > Multimedia - Software & Betriebsysteme

C# Fließkommazahlen mit über 1000 Stellen

<< < (2/3) > >>

Waldgeist:

--- Zitat von: fuchsgesicht am 26.06.2014 | 09:11 ---Calc geht da bis E+9999 und das fand ich ziemlich bemerkenswert.

--- Ende Zitat ---

Ich mag ja mathematisch nicht auf der Höhe sein, aber E+9999 sagt doch nichts über die Genauigkeit (also die Anzahl der Stellen, ob jetzt vor oder nach dem Komma), sondern nur darüber, wie groß die Zahl an sich sein kann. Ich glaube kaum, dass Calc so viele Stellen tatsächlich genau ist.

fuchsgesicht:

--- Zitat von: Waldgeist am 26.06.2014 | 09:18 ---Ich mag ja mathematisch nicht auf der Höhe sein, aber E+9999 sagt doch nichts über die Genauigkeit (also die Anzahl der Stellen, ob jetzt vor oder nach dem Komma), sondern nur darüber, wie groß die Zahl an sich sein kann. Ich glaube kaum, dass Calc so viele Stellen tatsächlich genau ist.

--- Ende Zitat ---

Selbst diese Zahl muss aber auch irgendwo reinpassen, angezeigt wird es ohnehin nicht, da in meinem Programm alle Zahlen, die über die Displaygröße gehen, im Exponentenformat als String geparsed werden. Aber diese Zahl muss trotzdem irgendwo hinterlegt sein. Für Vorkommastellen könnte ich natürlich bei einem BigInt bleiben, aber wenn es um Nachkommastellen bis e-9999, dann nicht mehr, da es dann nicht richtig formatiert wird. Und unterscheiden will ich auch nicht.

Pyromancer:
Ach so, ich hatte schon gedacht, dass du eine Genauigkeit von 1000 Stellen brauchst.
So kannst du auch einfach normal mit float rechnen und die Zehnerpotenzen als int separat mitführen. Fallunterscheidung für's Display brauchst du so oder so.

fuchsgesicht:

--- Zitat von: Pyromancer am 26.06.2014 | 09:28 ---Ach so, ich hatte schon gedacht, dass du eine Genauigkeit von 1000 Stellen brauchst.
So kannst du auch einfach normal mit float rechnen und die Zehnerpotenzen als int separat mitführen. Fallunterscheidung für's Display brauchst du so oder so.

--- Ende Zitat ---

Ich bin mir da nicht so sicher, was dann mehr Arbeit macht, die Library importieren und damit arbeiten oder extrem abstrakte Methoden für die Darstellung zu schreiben.

Oh, ich seh grad, dass mein Taschenrechner dann besser wär. Mit CTRL+C kopiert der ja nicht das Exponentenformat, sondern das normale NumberStyles.Float :D

Pyromancer:

--- Zitat von: fuchsgesicht am 26.06.2014 | 09:31 ---Ich bin mir da nicht so sicher, was dann mehr Arbeit macht, die Library importieren und damit arbeiten oder extrem abstrakte Methoden für die Darstellung zu schreiben.

--- Ende Zitat ---

Wie gesagt, ich hab von C# keinen Plan, in anderen Sprachen wäre das kein allzu großer Aufwand - und würde wahrscheinlich schneller gehen, als eine halbe Stunde lang Internet-Foren nach einer fertigen Lösung zu durchstöbern. ;)

Edit: Protipp von meinem Betreuer damals: Vorher eine Maximal-Zeit festsetzen, die man im Internet nach einer Lösung sucht. "Wenn ich in 20 Minuten nix gefunden habe, dann mach ich das selbst." Das spart oft Zeit.

Navigation

[0] Themen-Index

[#] Nächste Seite

[*] Vorherige Sete