floating-accuracy

5calore

3risposta

Come funziona Rounding in Python?

Sono un po 'confuso su come funziona l'arrotondamento in Python. Qualcuno potrebbe spiegare perché Python si comporta in questo modo? Esempio: >>> round(0.05,1) # this makes sense 0.1 >>> round(0.15

python floating-point rounding precision floating-accuracy 2016-01-05

---

16calore

3risposta

C++ sqrt precisione garantita, limite superiore/inferiore

Devo verificare una disuguaglianza contenente le radici quadrate. Per evitare risultati errati dovuti alla virgola mobile imprecisioni e arrotondamento, io uso std::nextafter() per ottenere una superi

c++ c++11 floating-point floating-accuracy sqrt 2015-08-25

---

10calore

3risposta

Il cast di `std :: floor()` e `std :: ceil()` nel tipo intero dà sempre il risultato corretto?

mi viene paranoico che una di queste funzioni possono dare un risultato errato in questo modo: std::floor(2000.0/1000.0) --> std::floor(1.999999999999) --> 1 or std::ceil(18/3) --> std::ceil(6.00000

c++ math floating-accuracy arithmetic-expressions 2016-01-25

---

5calore

1risposta

Qual è la stabilità numerica di std :: pow() rispetto alla moltiplicazione iterata?

Che tipo di problemi di stabilità si presentano o si risolvono usando std::pow()? Sarà più stabile (o più veloce, o affatto diverso) in generale per implementare una funzione semplice effettuare log(n

c++ floating-point precision floating-accuracy numerical-methods 2014-12-24

---

5calore

3risposta

match() valori con tolleranza

Sto sottomettendo un set di dati prima del tracciamento, ma essendo la chiave numerica non posso usare il rigoroso test di uguaglianza di match() o %in% (mancano alcuni valori). Ho scritto la seguente

r subset floating-accuracy 2015-10-20

---

5calore

2risposta

Perché non deve! Int() funzionare correttamente?

Perché questa asserzione fallisce? import std.conv; void main() { auto y = 0.6, delta=0.1; auto r = to!int(y/delta); assert(r == 6); } valore di r deve essere 6 e tuttavia è 5, pe

d floating-accuracy floating-point-precision 2014-12-26

---

6calore

4risposta

Ottenere la parte decimale di una doppia in Swift

Sto provando a separare le parti decimali e integer di una doppia in rapido. Ho provato un certo numero di approcci ma tutti incontrato lo stesso problema ... let x:Double = 1234.5678 let n1:Double =

swift math floating-accuracy 2015-07-14

---

8calore

1risposta

Se utilizzare String o Integer in BigDecimal in Ruby

riferimento alla documentazione di BigDecimal classe, n,m = a.precs prec restituisce il numero di cifre significative (n) e numero massimo di cifre significative (m) di a. Sono perplesso dal seguente

ruby precision floating-accuracy 2015-12-18

---

9calore

2risposta

Perché questi due float64 hanno valori diversi?

Considerare questi due casi: fmt.Println(912 * 0.01) fmt.Println(float64(912) * 0.01) (Go Playground link) la seconda stampe 9.120000000000001, che in realtà è bene, I understand why that is happen

go floating-point floating-accuracy 2015-01-07

---

5calore

1risposta

Un eseguibile in Linux può influenzare la precisione in virgola mobile all'interno di una libreria dinamica collegata?

Stiamo riscontrando un problema con la precisione in virgola mobile all'interno di una libreria dinamica. Il set-up è la seguente: Abbiamo una libreria dinamica, che esegue un calcolo X su una vasta g

c++ linux gcc floating-accuracy floating-point-precision 2015-06-16

---