floating-point-precision

8calore

1risposta

Differenza tra/fp: strict e/fp: preciso?

Quando si usa fp: strict rispetto a fp: preciso? È meglio usare il primo se voglio calcoli "più precisi" ed evitare errori di arrotondamento? Qual è l'euristica che sta dietro usando?

c++ visual-c++ floating-point floating-point-precision visual-studio-2010 2012-09-20

---

7calore

1risposta

Qualunque equivalente di "esteso" per C#?

Sto lavorando a una nuova versione del mio Mandelbrot screensaver e sto esaurendo la precisione in virgola mobile: i valori semplici double non hanno cifre significative sufficienti per le mie esigenz

c# performance double floating-point-precision 2012-09-23

---

7calore

6risposta

Come convertire il valore flottante in intero con precisione esatta come da 123.3443 a 1233443?

Codice Esempio: int main() { float f = 123.542; int i = (int)f; printf("%d\n",i); }

c floating-point type-conversion floating-point-precision 2012-03-10

---

16calore

3risposta

Come poggiare o gettare in sicurezza un CGFloat su int?

Spesso ho bisogno di eseguire il floor o il ceil a CGFloat su un int, per il calcolo di un indice di array. Il problema che vedo in modo permanente con floorf(theCGFloat) o ceilf(theCGFloat) è che ci

ios math floating-point floating-accuracy floating-point-precision 2012-08-16

---

5calore

3risposta

Il punto alla fine di un galleggiante suggerisce una mancanza di precisione?

Quando metto a punto il mio software in VS C++ facendo un passo il codice che ho notato che alcuni calcoli galleggiante si mostrano come un numero con un punto finale, vale a dire: 1232432. Un'opera

c++ visual-studio floating-point floating-point-precision 2011-12-15

---

7calore

6risposta

Come contare da 0.0001 a 1 in rubino?

Voglio contare da 0,0001 a 1 con incrementi di 0,0001 in rubino. Ho scritto questo codice ma entra in un ciclo infinito. In qualche modo l'interprete fa una sommatoria sbagliata. x = 0.0001 while x !

ruby floating-point-precision 2011-12-16

---

27calore

1risposta

Perché in ColdFusion 0.06 + 0.01 = 0.07?

Perché le operazioni matematiche in ColdFusion sembrano essere influenzate da problemi matematici in virgola mobile? Prendere il codice: result = 0.06 + 0.01; writedump(result); writedump(result.ge

java coldfusion floating-point-precision cfml 2011-09-14

---

9calore

5risposta

Perché la variabile flottante salva il valore tagliando le cifre dopo il punto in un modo strano?

Ho questa semplice riga di codice: float val = 123456.123456; quando stampo questo val o guardo allo scopo, esso memorizza il valore 123456,13 Ok, va bene, non è possibile memorizzare tutte quelle c

c++ floating-point ieee-754 floating-point-precision digits 2012-02-17

---