floating-point

9calore

2risposta

Perché questi due float64 hanno valori diversi?

Considerare questi due casi: fmt.Println(912 * 0.01) fmt.Println(float64(912) * 0.01) (Go Playground link) la seconda stampe 9.120000000000001, che in realtà è bene, I understand why that is happen

go floating-point floating-accuracy 2015-01-07

---

6calore

2risposta

di smistamento in Ruby 2.2.0 2.1.5 lento di

Ho un oggetto complesso, my_object, che maresciallo con Marshal.dump (my_object) ho benchmark le prestazioni di chiamare quella linea 100 volte in entrambe 2.1.5p273 e 2.2.0, e al di sotto sono i risu

ruby performance floating-point marshalling 2015-01-21

---

6calore

1risposta

Come ottenere il minimo doppio successivo o precedente possibile supportato dall'architettura?

Diciamo che ho una variabile doubled. C'è un modo per ottenere il valore successivo o precedente supportato dall'architettura della CPU. Come esempio banale, se il valore era 10.1245125 e la precision

java floating-point 2015-01-23

---

14calore

1risposta

Che tipo di ottimizzazioni sono incluse in -funsafe-math-optimization?

GCC's man page afferma che -funsafe-math-optimizations consente ottimizzazioni che "(a) presuppongono che argomenti e risultati siano validi e (b) possano violare gli standard IEEE o ANSI", ma non è m

c gcc optimization floating-point 2015-01-25

---

5calore

1risposta

Vai atomic.AddFloat32()

Ho bisogno di una funzione per aggiungere atomicamente valori float32 in Go. Questo è ciò che si avvicinò con base a un codice C che ho trovato: package atomic import ( "sync/atomic" "unsaf

go floating-point add atomic 2014-12-15

---

5calore

1risposta

Qual è la stabilità numerica di std :: pow() rispetto alla moltiplicazione iterata?

Che tipo di problemi di stabilità si presentano o si risolvono usando std::pow()? Sarà più stabile (o più veloce, o affatto diverso) in generale per implementare una funzione semplice effettuare log(n

c++ floating-point precision floating-accuracy numerical-methods 2014-12-24

---

8calore

3risposta

PHP: number_format arrotondamento

Ciao io sto avendo un problema di arrotondamento numeri per -0 invece di un codice : <?php $num= 0.000000031; $round = number_format((float)$num, 1, '.', ''); echo $round * -1; ?> uscita: -0 u

php floating-point rounding 2014-12-24

---

6calore

4risposta

perché 0.0f/0.0f non genera alcun errore di runtime?

Recentemente ho provato il seguente programma & mi aspettavo errore di runtime ma mostra "nan" come output. Perché & Come? Sto usando il compilatore g ++. #include <iostream> int main() { float

java c# c++ floating-point nan 2014-12-24

---

34calore

2risposta

Python == è una relazione di equivalenza sui float?

In Python nativo, senza usare NumPy (per cui numpy.nan != numpy.nan) non c'è NaN, quindi ho ragione nel pensare che il punto mobile di Python == è riflessivo? Poi dal momento che è simmetrica (a == b

python floating-point arithmetic-expressions 2015-01-02

---

5calore

1risposta

Perché Groovy esegue l'aritmetica in virgola mobile in questo modo?

Provare aritmetica in virgola mobile in Groovy. Non hai idea del perché/come/che groovy sta facendo dietro le quinte per provocare questi diversi tipi di comportamenti? double point2 = 0.2 double poi

groovy floating-point 2015-01-07

---