ieee-754

8calore

4risposta

>>> float(str(0.65000000000000002)) 0.65000000000000002 >>> float(str(0.47000000000000003)) 0.46999999999999997 ??? Cosa sta succedendo qui? Come convertire 0.47000000000000003 in stringa e i

11calore

2risposta

comportamento da zero a virgola mobile nell'aritmetica mobile

Mentre, per quanto mi ricordo, IEEE 754 non dice nulla su una modalità flush-to-zero per gestire denormalized numbers più veloce, alcune architetture offrono questa modalità (ad esempio http://docs.su

8calore

3risposta

Convertire una stringa con una rappresentazione esadecimale di un doppio IEEE-754 nella variabile numerica JavaScript

Supponiamo che abbia un numero esadecimale "4072508200000000" e voglio il numero in virgola mobile che rappresenta (293.03173828125000) nel formato doppio IEEE-754 per essere inserire una variabile Ja

8calore

3risposta

Quali sono gli altri valori NaN?

Il documentation for java.lang.Double.NaN dice che è Un possesso di un valore costante Not-a-Number (NaN) di tipo double. È equivalente al valore restituito da Double.longBitsToDouble(0x7ff80000000000

38calore

6risposta

Grandi numeri erroneamente arrotondati in Javascript

Vedi questo codice: <html> <head> <script src="http://www.json.org/json2.js" type="text/javascript"></script> <script type="text/javascript"> var jsonString = '{"id":714341252076979033,"typ

47calore

3risposta

Double vs float su iPhone

Ho appena sentito che l'iphone non può fare il doppio in modo nativo, rendendo così molto più lento il normale float. È vero? Prova? Sono molto interessato al problema perché il mio programma richiede

14calore

4risposta

Esiste un'implementazione c/C++ open source delle operazioni IEEE-754?

Sto cercando un'implementazione di riferimento delle operazioni IEEE-754. C'è una cosa del genere?

6calore

6risposta

Aritmetica in rubino

Perché questo codice 7.30 - 7.20 in rubino restituisce 0.0999999999999996, non 0.10? Ma se scriverò 7.30 - 7.16, ad esempio, tutto andrà bene, otterrò 0.14. Quale problema, e come posso risolverlo?