Thread 123 -> 123.00 bzw. 1.2 -> 1.20 (19 answers)
Opened by Thomas at 2010-02-10 13:59

murphy
 2010-02-10 15:56
#132536 #132536
User since
2004-07-19
1776 Artikel
HausmeisterIn
[Homepage]
user image
Es ist gut möglich, dass Du hier auf das altbekannte Problem stößt, dass nicht jeder Dezimalbruch exakt als binäre Fließkommazahl repräsentiert werden kann, Berechnungen mit Fließkommazahlen meist mit einer gewissen Ungenauigkeit behaftet sind und Vergleiche zwischen Fließkommazahlen auf Gleichheit daher im Allgemeinen keine gute Idee sind.

Man sollte entweder auf "Fastgleichheit" mit passender Toleranz prüfen (z.B. abs($x - $y) < 0.001) oder, wenn man exakte Ergebnisse braucht, nicht nur exakt vergleichen sondern auch exakt rechnen, also mit Ganzzahlen oder exakten Brüchen.
When C++ is your hammer, every problem looks like your thumb.

View full thread 123 -> 123.00 bzw. 1.2 -> 1.20