floating-point

5calore

5risposta

conforme a IEEE-754 round-half-to-even

La libreria standard C fornisce la famiglia di funzioni round, lround e llround in C99. Tuttavia, queste funzioni non sono conformi allo standard IEEE-754, in quanto non implementano l'arrotondamento

c++ c floating-point ieee-754 bankers-rounding 2015-09-23

---

13calore

2risposta

Come posso testare l'uguaglianza in virgola mobile usando chai?

Stiamo usando Chai's BDD API per scrivere test di unità. Come possiamo affermare l'uguaglianza in virgola mobile? Per esempio, se provo a fare questa affermazione per verificare la presenza di un valo

javascript floating-point precision chai 2015-09-24

---

6calore

2risposta

Java: confronto di zeri positivi e negativi

Perché Java è incoerente nel confronto tra -0.0 e +0.0? Qual è il metodo standard Java per confrontare i numeri con l'account -0/+ 0? ho incontrato questo particolare Bugaboo: public class ZeroCompare

java floating-point comparison-operators 2015-08-14

---

6calore

2risposta

Più precisione del doppio in swift

Esistono punti mobili più precisi di Double disponibili in Swift? So che in C c'è lo long double, ma non riesco a trovare il suo equivalente nel nuovo linguaggio di programmazione di Apple. Qualsiasi

swift floating-point double 2015-10-08

---

8calore

4risposta

Perché non è possibile convertire "1.7" in intero direttamente, senza prima convertire in float?

Quando digito int("1.7") Python restituisce un errore (in particolare, ValueError). So che posso convertirlo in numero intero di int(float("1.7")). Mi piacerebbe sapere perché il primo metodo restitui

python floating-point integer type-conversion coercion 2015-10-13

---

16calore

3risposta

C++ sqrt precisione garantita, limite superiore/inferiore

Devo verificare una disuguaglianza contenente le radici quadrate. Per evitare risultati errati dovuti alla virgola mobile imprecisioni e arrotondamento, io uso std::nextafter() per ottenere una superi

c++ c++11 floating-point floating-accuracy sqrt 2015-08-25

---

6calore

2risposta

C'è un modo per sopprimere la notazione scientifica per <input type = "numero">?

Vorrei inserire i numeri con un massimo di otto decimali con un elemento <input>. Tuttavia, se ho un <input type="number" step="0.00000001"> e utilizzare le frecce su/giù sul elemento di input (su Chr

html html5 floating-point html-input scientific-notation 2015-10-14

---

5calore

1risposta

Architettura Intel e conformità IEEE 754 (minNum e maxNum)?

Ho dato un'occhiata al manuale dello sviluppatore del software x64 e sembra che le istruzioni {MIN | MAX} {S | P} {S | D} incorporate non implementino le funzioni chiamate minNum e maxNum nello standa

assembly floating-point x86-64 ieee-754 2015-09-01

---

14calore

3risposta

differenza di precisione per la stampa di Python e C++ raddoppia

Attualmente sto meravigliandomi su questo: C++ 11 #include <iostream> #include <iomanip> #include <limits> int main() { double d = 1.305195828773568; std::cout << std::setprecision(std:

python c++ floating-point double 2015-09-03

---

5calore

1risposta

Valutazione numericamente stabile di sqrt (x + a) - sqrt (x)

Esiste un modo elegante di valutare numericamente la seguente espressione per l'intero intervallo di parametri x, a> = 0? f(x,a) = sqrt(x+a) - sqrt(x) è Inoltre vi qualsiasi linguaggio di programmaz

math floating-point numeric 2015-09-07

---