ieee-754

5calore

1risposta

Architettura Intel e conformità IEEE 754 (minNum e maxNum)?

Ho dato un'occhiata al manuale dello sviluppatore del software x64 e sembra che le istruzioni {MIN | MAX} {S | P} {S | D} incorporate non implementino le funzioni chiamate minNum e maxNum nello standa

assembly floating-point x86-64 ieee-754 2015-09-01

---

8calore

3risposta

Perché i numeri con molte cifre significative sono gestiti in modo diverso in C# e JavaScript?

Se il numero di codice JavaScript e il numero doppio di C# sono specificati allo stesso modo (IEEE 754), perché i numeri con molte cifre significative vengono gestiti in modo diverso? var x = (long)12

javascript c# ieee-754 2015-05-27

---

10calore

1risposta

Quale algoritmo numerico è semplificato definendo sqrt (-0.0) come -0.0?

Lo standard IEEE 754 definisce la radice quadrata dello zero negativo come zero negativo. Questa scelta è abbastanza facile da razionalizzare, ma altre scelte, come la definizione di sqrt(-0.0) come N

floating-point ieee-754 2013-10-07

---

9calore

1risposta

Algoritmo più veloce per identificare la x più piccola e più grande che crea l'equazione a doppia precisione x + a == b vero

Nel contesto dell'analisi statica, sono interessato a determinare i valori di x nell'allora succursale del condizionale sotto: double x; x = …; if (x + a == b) { … a e b può essere assunto c

c floating-point ieee-754 2014-06-14

---

6calore

3risposta

IEEE 754/iec 559

Il formato in virgola mobile IEEE 754 è ben definito su tutte le piattaforme? In termini sia di formato bit che di endianness? Sono disposto a aggiungere il seguente al mio codice (per una versione in

c++ floating-point double ieee-754 2015-02-20

---

5calore

3risposta

Ottieni i byte grezzi di un float in Swift

Come posso leggere i byte non elaborati di uno Float o Double in Swift? Esempio: let x = Float(1.5) let bytes1: UInt32 = getRawBytes(x) let bytes2: UInt32 = 0b00111111110000000000000000000000 vogl

swift bitwise-operators ieee-754 2015-04-11

---

8calore

3risposta

Veloce potenza più vicina a 2 in JavaScript?

C'è qualche veloce alternativa al seguente espressione: Math.pow(2,Math.floor(Math.log(x)/Math.log(2))) Cioè, prendendo il più vicino (più piccola) potenza intera di 2 di un doppio? Ho una tale espr

javascript double bit-manipulation ieee-754 2014-11-17

---

42calore

1risposta

Cosa farebbe sì che gli operatori C/C++ <, <= e == restituiscano true se entrambi gli argomenti sono NaN?

La mia comprensione delle regole dei confronti a virgola mobile IEEE-754 è che tutti gli operatori di confronto tranne != restituiranno false se uno o entrambi gli argomenti sono NaN, mentre l'operato

c++ c nan ieee-754 2014-05-13

---

5calore

5risposta

conforme a IEEE-754 round-half-to-even

La libreria standard C fornisce la famiglia di funzioni round, lround e llround in C99. Tuttavia, queste funzioni non sono conformi allo standard IEEE-754, in quanto non implementano l'arrotondamento

c++ c floating-point ieee-754 bankers-rounding 2015-09-23

---

6calore

1risposta

NaNs confronto uguali in Numpy

Si consideri il seguente script: import numpy as np a = np.array([np.nan], dtype=float) b = np.array([np.nan], dtype=float) print a == b a = np.array([np.nan], dtype=object) b = np.array([np.na

python numpy nan ieee-754 multidimensional-array 2014-11-29

---