floating-point

5calore

2risposta

58.85 visualizza come 58.84999999999

Sto costruendo una calcolatrice con BSP. Come ho provato con vari numeri, mi sono imbattuto in un problema che i numeri decimali non vengono visualizzati correttamente. Ad esempio. 58,85 -> 58,849999.

floating-point decimal calculator abap 2012-09-13

---

7calore

5risposta

Come convertire float in double (entrambi memorizzati nella rappresentazione IEEE-754) senza perdere precisione?

Cioè, per esempio, hanno il seguente numero codificato in IEEE-754 precisione singola: "0100 0001 1011 1110 1100 1100 1100 1100" (approximately 23.85 in decimal) Il numero binario di cui sopra è mem

c++ qt floating-point double ieee-754 2012-09-17

---

5calore

1risposta

Java IEEE 64-bit 754 double, valori da evitare

Ho una situazione in cui le prestazioni sono estremamente importanti. Al centro del mio algoritmo c'è un metodo che fa alcuni calcoli di base con due primitive double. Questo metodo è chiamato oltre d

java performance floating-point double 2012-08-01

---

47calore

2risposta

somma Float con javascript

Eventuali duplicati: Is JavaScript's Math broken? Sto calcolando la somma di diversi valori float che utilizzano JavaScript e ... Ho notato una cosa strana mai visto prima. L'esecuzione di questo codi

javascript math floating-point 2012-09-20

---

13calore

2risposta

Numpy dot prodotto molto lento con inti

scusate per così tante domande. Sto eseguendo Mac OSX 10.6 su Intel core 2 Duo. Sto conducendo alcuni benchmark per la mia ricerca e mi sono imbattuto in un'altra cosa che mi confonde. Se corro python

python floating-point numpy int dot-product 2012-08-08

---

7calore

4risposta

Rappresenta un float in un singolo byte

Ho una situazione che richiede di rappresentare un float in un singolo char. L'intervallo che questo 'minifloat' deve rappresentare è da 0 a 10e-7, quindi possiamo sempre presumere che il numero sia +

c++ floating-point 2012-08-13

---

16calore

3risposta

Come poggiare o gettare in sicurezza un CGFloat su int?

Spesso ho bisogno di eseguire il floor o il ceil a CGFloat su un int, per il calcolo di un indice di array. Il problema che vedo in modo permanente con floorf(theCGFloat) o ceilf(theCGFloat) è che ci

ios math floating-point floating-accuracy floating-point-precision 2012-08-16

---

7calore

3risposta

Come vengono rappresentate le frazioni nei computer?

Poiché i computer pensano in termini di "1" e "0" come calcolano e rappresentano frazioni come 7.50? Conosco Java e JavaScript e se necessario per la risposta è possibile utilizzarli come esempio. Edi

java language-agnostic floating-point bits fractions 2012-08-17

---

18calore

4risposta

Quali tipi di numeri sono rappresentabili in virgola mobile binario?

Ho letto molto sui float, ma è tutto inutilmente coinvolto. Io penso li ho più o meno capito, ma c'è solo una cosa che vorrei sapere con certezza: So che, frazioni di forma 1/pow(2,n), con n un intero

math language-agnostic floating-point 2012-08-25

---

7calore

1risposta

Perché c'è GLint e GLfloat?

Ho capito che Open GL ha bisogno di usare i numeri, ma perché non usare solo normali ints e float o le classi wrapper già esistenti (a prescindere da quale sia l'intero mondo di Open GL per adattarsi

class opengl floating-point int primitive-types 2012-09-07

---