Thread Rechenfehler mit Perl ausgleichen (71 answers)
Opened by bianca at 2013-04-27 13:42

bianca
 2013-04-27 18:48
#167306 #167306
User since
2009-09-13
7016 Artikel
BenutzerIn

user image
2013-04-27T12:53:56 Raubtier
Ich glaube, es ist viel wichtiger, dass du genau beschreibst, wie eigentlich gerundet werden soll, wenn du Fließkommazahlen verwendest.

In diesem Fall will ich gar nicht runden.
Da ich schon gelernt habe, dass PC's nicht korrekt mit Fließkommazahlen rechnen können haben wir ja seinerzeit extra eine zuverlässige integer Funktion erarbeitet. Damit multipliziere ich also alle meine Euro Werte erst mit 100, addiere sie dann und dividiere sie am Ende wieder durch 100. In jedem Zwischenschritt verwende ich die gezeigte integer Funktion. Am Ende bei der Division durch 100 verwende ich erst eine kfmrunden Funktion die wir in einem anderen Thread erarbeitet hatten.

Bisher kam ich damit gut zurecht.
Leider hat sich dann heute wieder eine Konstellation ergeben, bei der das nun doch wieder nicht klappte. Und der Code zeigt die Konstellation nachvollziehbar.
Mir wäre also daran gelegen, wenn es eine Möglichkeit gäbe, aus der integer Funktion tatsächlich einen integer heraus zu bekommen mit dem man weiter richtig rechnen kann und nicht irgend einen versteckten Wert an der zigsten Stelle hinter dem Komma der am Ende dazu führt, dass 100000 nicht == 100000 ist.
10 print "Hallo"
20 goto 10

View full thread Rechenfehler mit Perl ausgleichen