ieee-754

8calore

3risposta

Esistono piattaforme moderne con formati float non IEEE C/C++?

Sto scrivendo un videogioco, Humm and Strumm, che richiede un componente di rete nel suo motore di gioco. Sono in grado di gestire facilmente le differenze di endianness, ma ho tentato di affrontare i

c++ memory network-programming types ieee-754 2010-04-27

---

13calore

7risposta

Do-s e Don't-s per l'aritmetica in virgola mobile?

Quali sono alcuni buoni do-do e don -t-s per l'aritmetica in virgola mobile (IEEE754 in caso di confusione) per garantire una buona stabilità numerica e un'elevata precisione nei risultati? So che alc

c floating-point ieee-754 2010-06-23

---

5calore

4risposta

Rappresentazione testuale esatta di un "doppio" IEEE

Ho bisogno di rappresentare un numero in virgola mobile IEEE 754-1985 doppio (64-bit) in una forma testuale leggibile dall'uomo, con la condizione che il modulo testuale possa essere analizzato in esa

floating-point floating-accuracy ieee-754 2010-03-19

---

7calore

5risposta

Come modificare il doppio con il suo più piccolo incremento

C'è qualcosa di rotto o non riesco a capire cosa sta succedendo? static String getRealBinary(double val) { long tmp = Double.doubleToLongBits(val); StringBuilder sb = new StringBuilder();

java double ieee-754 2010-10-10

---

14calore

4risposta

CLR Le ottimizzazioni JIT violano la causalità?

Stavo scrivendo un esempio istruttivo per un collega per mostrargli perché testare i galleggianti per l'uguaglianza è spesso una cattiva idea. L'esempio che ho seguito è stato aggiungere .1 dieci volt

.net floating-point clr equality ieee-754 2010-02-08

---

6calore

5risposta

definisce la doppia costante come esadecimale?

Mi piacerebbe avere il numero più vicino sotto 1.0 come un punto in virgola mobile. Leggendo l'articolo di wikipedia su IEEE-745 sono riuscito a scoprire che la rappresentazione binaria per 1.0 è 3FF0

c++ floating-point floating-accuracy ieee-754 notation 2010-10-16

---

10calore

4risposta

Numero di galleggianti tra due galleggianti

Dire che ho due float Python a e b, c'è un modo semplice per scoprire quanti numeri reali rappresentabili sono tra i due nella rappresentazione IEEE-754 (o qualsiasi rappresentazione utilizzata dalla

python floating-point ieee-754 2010-08-27

---

46calore

3risposta

Utilità di segnalazione NaN?

Recentemente ho letto un bel po 'di IEEE 754 e dell'architettura x87. Stavo pensando di usare NaN come "valore mancante" in un certo codice di calcolo numerico su cui sto lavorando, e speravo che l'ut

c++ visual-c++ floating-point ieee-754 x87 2010-02-11

---

10calore

4risposta

Questo C++ convertirà PDP-11 in IEEE?

Sto mantenendo un programma che prende i dati da un programma PDP-11 (emulato!) E lo inserisce in un moderno sistema basato su Windows. Stiamo riscontrando problemi con alcuni dei valori dei dati ripo

floating-point ieee-754 2010-02-12

---

7calore

4risposta

la rappresentazione esadecimale dei Carri in Haskell

voglio convertire un Haskell Float in una stringa che contiene la rappresentazione esadecimale a 32 bit del galleggiante in formato standard IEEE. Non riesco a trovare un pacchetto che farà questo per

haskell floating-point hex ieee-754 2010-02-15

---