floating-accuracy

6calore

3risposta

Un calcolo del punto mobile può differire su processori diversi? (+ passaggio dei doppi tra C# e C)

Ho un'applicazione scritta in C# che richiama anche qualche codice C. Il codice C# riceve un doppio come input, esegue alcuni calcoli su di esso, lo passa al livello nativo che esegue i propri calcoli

8calore

4risposta

Python float - str - float weirdness

>>> float(str(0.65000000000000002)) 0.65000000000000002 >>> float(str(0.47000000000000003)) 0.46999999999999997 ??? Cosa sta succedendo qui? Come convertire 0.47000000000000003 in stringa e i

29calore

7risposta

Esempi di imprecisione di virgola mobile

Come si spiega l'inesattezza di virgola mobile a programmatori e laici che pensano ancora che i computer siano infinitamente saggi e precisi? Hai un esempio o un aneddoto preferito che sembra avere un

13calore

5risposta

Come si imposta la precisione in virgola mobile in Perl?

C'è un modo per impostare la precisione in virgola mobile dello script Perl (su 3 cifre), senza doverla modificare in modo specifico per ogni variabile? Qualcosa di simile a TCL di: global tcl_precisi

8calore

4risposta

Formattazione a virgola mobile in printf()

Ho una matrice di float in cui i dati sono memorizzati con decimali diversi, quindi alcuni sono 123.40000, 123.45000, 123.45600 ... ora se voglio stampare questi valori nella stringa senza gli 0 in la

5calore

4risposta

Rappresentazione testuale esatta di un "doppio" IEEE

Ho bisogno di rappresentare un numero in virgola mobile IEEE 754-1985 doppio (64-bit) in una forma testuale leggibile dall'uomo, con la condizione che il modulo testuale possa essere analizzato in esa

38calore

6risposta

Grandi numeri erroneamente arrotondati in Javascript

Vedi questo codice: <html> <head> <script src="http://www.json.org/json2.js" type="text/javascript"></script> <script type="text/javascript"> var jsonString = '{"id":714341252076979033,"typ

9calore

5risposta

Come convertire le stringhe in float con precisione perfetta?

Sto provando a scrivere una funzione nel linguaggio di programmazione D per sostituire le chiamate alla strtold di C. (Razionale: per usare strtold da D, devi convertire stringhe di tipo D in stringhe

17calore

5risposta

C++ perdita di precisione in virgola mobile: 3015/0.00025298219406977296

Il problema. Compilatore Microsoft Visual C++ 2005, 32 bit windows xp sp3, amd 64 x2 cpu. Codice: double a = 3015.0; double b = 0.00025298219406977296; //*((unsigned __int64*)(&a)) == 0x40a78e000000

23calore

3risposta

Come utilizzare Java String.format con una precisione variabile?

Mi piacerebbe variare la precisione di una doppia rappresentazione in una stringa che sto formattando in base all'input dell'utente. In questo momento sto cercando qualcosa di simile: String foo = Str