Perl Bug bei int? - #166228 (Allgemeines zu Perl)

Raubtier

2013-03-05 15:45

User since
2012-05-04
1077 Artikel
BenutzerIn
[default_avatar]

Sorry, was meinst du mit das mit "das gibt nur mit sprintf korrekt 1"?

Code: (dl )

$ perl -E'say sprintf("%.13f",((1 - 0.9999) * 10000))'
0.9999999999999
$ perl -E'say sprintf("%.12f",((1 - 0.9999) * 10000))'
1.000000000000

Du hast hier also immer noch 12 Dezimalstellen Genauigkeit, nicht 4.

Mein Standpunkt ist einfach:
* Bei doubles nie direkt mit == vergleichen, sondern immer differenz < epsilon abfragen
* Wenn man was genaueres will, dann muss man eben eine Bibliothek nehmen, die exakt rechnet.

Außerdem wichtig zu wissen: es gibt auch Komma-Zahlen, die exakt dargestellt werden können. Zum Beispiel:

Code: (dl )

$ perl -E'say sprintf("%.18f",0.125)'
0.125000000000000000
$ perl -E'say sprintf("%.18f",0.25)'
0.250000000000000000

Andere dagegen nicht:

Code: (dl )

1
2

$ perl -E'say sprintf("%.18f",0.3)' 
0.299999999999999989