Thread Kleines Rätsel (14 answers)
Opened by sid burn at 2007-06-11 12:38

moritz
 2007-06-11 12:51
#77433 #77433
User since
2007-05-11
923 Artikel
HausmeisterIn
[Homepage]
user image
Das mit der Fließkommadarstellung stimmt:

Code: (dl )
1
2
perl -e 'printf "%.15f\n", 2.4/0.2'
11.999999999999998


Wenn 12 statt 11 herausbekommen willst, musst du mit
Code: (dl )
int(0.5+$irgendwas)
runden.

Welche Zahl wie dargestellt wird, sieht man so:

Code: (dl )
1
2
3
4
$ perl -e 'printf "%.20f\n", 2.4'
2.39999999999999991118
$ perl -e 'printf "%.20f\n", 0.2'
0.20000000000000001110

View full thread Kleines Rätsel