floating-point

10calore

1risposta

Perdita di precisione da Int a virgola mobile a conversione

Recentemente, ho scritto un piccolo programma e lo ho compilato utilizzando mingw32 (su Windows8) di 2 versioni differenti. Sorprendentemente, ho avuto due differenti riusioni. Ho provato a smontarlo

c++ assembly floating-point 2013-03-10

---

5calore

3risposta

Il calcolo PHP è errato

Sto scrivendo un piccolo script per calcolare i valori fiscali dopo le detrazioni. La mia applicazione ha diversi script PHP che forniscono funzionalità CRUD. Posso aggiungere le spese mensili, i guad

floating-point 2013-03-13

---

9calore

1risposta

Perché queste due varianti di codice producono risultati in virgola mobile diversi?

Dato questo esempio C++ frammento di codice: void floatSurprise() { // these come from some sort of calculation int a = 18680, b = 3323524, c = 121; float m = float(a)/c; // vari

c++ floating-point 2013-03-19

---

5calore

3risposta

C - La stampa di float valori

Ho un programma C++ che prende in valori e stampa i valori in questo modo: getline(in,number); cout << setw(10) << number << endl; Ho un programma di C equivalente che prende in valori e stampa in

c++ c floating-point precision 2013-03-19

---

8calore

2risposta

Modo per ottenere valori speciali a virgola mobile in CUDA?

Esiste qualche funzione del dispositivo in CUDA per ottenere valori speciali IEEE 754 come inf, NaN? Intendo il modo stabile, non con alcune operazioni matematiche che potrebbero essere ottimizzate da

cuda floating-point nvidia nan 2013-03-20

---

6calore

1risposta

Come assicurarsi che i NaN si propagino quando si utilizzano gli intrinseci SSE?

Ho letto recentemente questo circa NaN valori nelle operazioni aritmetiche SSE: Il risultato di operazioni aritmetiche che agiscono su due non un numero (NAN) argomenti è indefinito. Pertanto, le oper

c++ c floating-point sse nan 2013-03-22

---

9calore

2risposta

Aggiungere gli zeri a un float dopo il punto decimale in Python

Sto leggendo i dati da un file, lo modifica e lo scrivo in un altro file. Il nuovo file verrà letto da un altro programma e quindi è fondamentale per riportare l'esatta formattazione per esempio, uno

python floating-point decimal 2013-03-25

---

5calore

1risposta

Intervallo di numeri interi che possono essere espressi esattamente come float/doubles

Qual è l'intervallo esatto di numeri interi (contigui) che possono essere espressi come double (o float?) La ragione per cui lo chiedo è perché sono curioso di questions such as this one quando si ver

c# java floating-point integer double 2013-03-26

---

16calore

4risposta

Come rilevare overflow e underflow in virgola mobile a doppia precisione?

devo seguenti variabili: double dblVar1; double dblVar2; Essi possono avere valori grandi, ma meno di double max. ho vari aritmetica sulle variabili di cui sopra come addizione, moltiplicazione e p

c++ floating-point 2013-03-27

---

6calore

2risposta

È possibile utilizzare una variabile in Python per definire le posizioni decimali

Ho familiarità con la convenzione sull'uso di %.2f per impostare due cifre decimali per un valore float ma è possibile in alcun modo modificare il numero in una variabile in modo che l'utente puoi ind

python floating-point 2013-03-31

---