ieee-754

7calore

2risposta

Quali usi hanno i payload in virgola mobile NaN?

So che IEEE 754 definisce NaNs di avere la seguente rappresentazione bit a bit: Il bit di segno può essere sia 0 o 1 Il campo esponente contiene tutti 1 bit Alcuni bit della mantissa sono usato per sp

5calore

2risposta

Conversione rappresentazione di stringa esadecimale di galleggiare in python

ho i dati della forma (IEEE 745 esadecimale) 0x1.5c28f5c28f5c3p-1 Come potrei convertire questo ad un galleggiante in Python? questo è un modulo standard? saluti, Alex

10calore

1risposta

Unario meno cambia solo segno?

Si consideri ad esempio i seguenti numeri a precisione doppia: x = 1232.2454545e-89; y = -1232.2454545e-89; Posso essere sicuro che y è sempre esattamente uguale -x (o Matlab di uminus(x))? O dovre

6calore

4risposta

Come viene definito ++ su un grande punto mobile

Quindi ho considerato il doppio virgola mobile IEEE754. (Il mio compilatore C++ usa quel tipo per un double). considerare questo frammento: // 9007199254740992 is the 53rd power of 2. // 590295810358

5calore

2risposta

C'è un modo di vedere un numero nella sua float rappresentazione IEEE754 a 64 bit

Javascript memorizza tutti i numeri come formato doppia precisione a 64 bit IEEE 754 valori in base alla spec: il tipo di numero ha esattamente 18437736874454810627 (cioè, 2 -2 +3) valori, che rappres

18calore

2risposta

I casi in cui float == e! = Non sono opposti diretti

In https://github.com/numpy/numpy/issues/6428, la causa principale del bug sembra essere che a simd.inc.src:543, un compilatore ottimizza a tmp != 0.. A comment dice che questi "non sono esattamente l

9calore

2risposta

fusi moltiplicano aggiungere e arrotondamento predefinite Modalità

Con GCC 5.3 il codice seguente compield con -O3 -fma float mul_add(float a, float b, float c) { return a*b + c; } produce il seguente complesso vfmadd132ss %xmm1, %xmm2, %xmm0 ret I notice

5calore

1risposta

virgola mobile zero implementazioni C (IEEE 754 invarianti?)

ho un successivo C espressione (variabili sono galleggianti 32-bit) float result = (x1 - x0) * (y2 - y0) - (x2 - x0) * (y1 - y0) Supponendo che x0==x1 e y0==y1, (e con == intendo binario identità di

7calore

1risposta

Converti IEEE 754 in virgola mobile decimale

Possiedo quello che penso sia un IEEE754 con precisione singola o doppia (non sicuro) e mi piacerebbe convertirlo in decimale su PHP. Dato 4 valore esadecimale (che potrebbe essere nel formato little

5calore

2risposta

perché è possibile stampare un numero doppio inferiore a DBL_MIN?

Assegno 0.4543543234343654632452452525254e-323 a double variabile a e lo stampo, sebbene sia inferiore a DBL_MIN, può ancora essere assegnato e stampato. DBL_MAX: 1.79769e+308 FLT_MAX: 3.40282e+38 D