floating-accuracy

12calore

5risposta

Come verificare le dipendenze dei galleggianti

Voglio determinare (in C++) se un numero a virgola mobile è l'inverso moltiplicativo di un altro numero a virgola mobile. Il problema è che devo usare una terza variabile per farlo. Per esempio questo

c++ algorithm floating-point floating-accuracy inverse 2012-02-03

---

5calore

5risposta

C# sottrazione errata? 12.345 - 12 = 0.345000000000001

Sono principiante in C# e sto lavorando con numeri in virgola mobile. Devo fare la sottrazione tra questi due numeri ma non funziona. So che è causato dal numero in virgola mobile, ma come posso aggiu

c# numbers floating-point floating-accuracy subtraction 2012-03-27

---

5calore

8risposta

Qual è il vantaggio di accettare l'inaccuratezza in virgola mobile in C#

Ho avuto questo problema a mio avviso i giorni lastfew e sto faticando a esprimere la mia domanda. Tuttavia, penso di aver inchiodato quello che voglio sapere. Perché C# accetta l'inesattezza utilizza

c# floating-point floating-accuracy 2011-01-05

---

18calore

1risposta

Se avere a che fare con soldi in un float è sbagliato, allora perché money_format() lo fa?

Sono stato sconcertante su come gestire la visualizzazione della valuta e la matematica in PHP, e per lungo tempo lo ho archiviato in MySQL usando il tipo DECIMAL e usando money_format() per formattar

php floating-point currency floating-accuracy money-format 2011-01-11

---

5calore

3risposta

Trovare il più piccolo intero che non può essere rappresentato come un-754 IEEE 32 bit a virgola mobile

Eventuali duplicati: Which is the first integer that an IEEE 754 float is incapable of representing exactly? In primo luogo, questa è una domanda compiti a casa, solo per cancellare questo immediatame

c floating-point floating-accuracy 2010-10-08

---

9calore

6risposta

Imposta tutte le operazioni BigDecimal con una certa precisione?

Il mio programma Java è incentrato su calcoli di alta precisione, che devono essere precisi con almeno 120 posizioni decimali. Conseguentemente, tutti i numeri non interi saranno rappresentati da BigD

java math rounding bigdecimal floating-accuracy 2012-04-08

---

9calore

6risposta

Math "pow" in Java e C# restituiscono risultati leggermente diversi?

Sto eseguendo il porting del programma da C# a java. Ho affrontato un fatto che Java Math.pow(0.392156862745098,1./3.) = 0.7319587495200227 C# Math.Pow(0.392156862745098, 1.0/3.0) =0.731958749520022

c# java math floating-accuracy 2012-04-12

---

6calore

5risposta

definisce la doppia costante come esadecimale?

Mi piacerebbe avere il numero più vicino sotto 1.0 come un punto in virgola mobile. Leggendo l'articolo di wikipedia su IEEE-745 sono riuscito a scoprire che la rappresentazione binaria per 1.0 è 3FF0

c++ floating-point floating-accuracy ieee-754 notation 2010-10-16

---

5calore

5risposta

Perché 4,1% 2 restituisce 0,0999999999999996 utilizzando Ruby? Ma 4,2% 2 == 0,2

Perché 4,1% 2 restituisce 0,0999999999999996? Ma 4,2% 2 == 0,2.

ruby floating-accuracy 2012-01-09

---

197calore

3risposta

Perché questi numeri non sono uguali?

Il seguente codice è ovviamente sbagliato. Qual è il problema? i <- 0.1 i <- i + 0.05 i ## [1] 0.15 if(i==0.15) cat("i equals 0.15") else cat("i does not equal 0.15") ## i does not equal 0.15

r floating-point floating-accuracy r-faq 2012-02-29

---