230005
19.11.2009, 23:49:28
Napotkałem dziwny problem - czasem przy dodawaniu do siebie liczb typu float, (to akurat przykład z życia) np. 100 + 45.9 + 315 + 200.2 otrzymuję wynik w postaci 661.0999999999999, po odjęciu wszystkiego od siebie dostaję -8.526512829121202e-14. Ktoś wie co jest grane i co z tym fantem zrobić, oprócz oczywiście manualnego zaokrąglania tej końcówki do właściwej postaci?
skowron-line
19.11.2009, 23:59:36
Cytat(230005 @ 19.11.2009, 23:49:28 )

zaokrąglania tej końcówki do właściwej postaci?
Chyba chodzi tobie bardziej o ustawienie na sztywno ilości miejsc po przecinku ( toFixed(2) ) No ale...
230005
20.11.2009, 00:08:10
Właśnie to co napisałeś + zaokrąglenie tego co zostanie, np. 09 do 1. To jednak generalnie nie rozwiązuje problemu.
seth-kk
20.11.2009, 10:18:44
problemem jest reprezentacja czesci ulamkowych i lezy on silniku JS
mozna go uniknac zaokraglajac wynik, odcinajac zbedne miejsca po przecinku lub bazowac na liczbach calkowitych (1000+459+315+2002) w zaleznosci od sytuacji
To jest wersja lo-fi głównej zawartości. Aby zobaczyć pełną wersję z większą zawartością, obrazkami i formatowaniem proszę
kliknij tutaj.