floating-point

8calore

2risposta

Lua - imballaggio numeri a virgola mobile in singola precisione IEEE754

voglio fare una funzione in puro Lua che genera un frazione (23 bit), un esponente (8 bit), e un segno(1 bit) da un numero, in modo che il numero sia approssimativamente uguale a math.ldexp(fraction,

floating-point lua ieee-754 pack 2013-01-19

---

10calore

4risposta

Numero esadecimale a quattro byte di stampa Java

Ho un piccolo problema. Ho numeri come 5421, -1 e 1. devo stamparli in quattro byte, come: 5421 -> 0x0000152D -1 -> 0xFFFFFFFF 1 -> 0x00000001 Inoltre numeri in virgola, ho galleggianti come 1,2,

java floating-point integer hex converter 2013-02-03

---

19calore

2risposta

Le operazioni in virgola mobile sono associate in C?

Addition tiene matematicamente la proprietà associativa: (a + b) + c = a + (b + c) Nel caso generale, questa struttura non vale per i numeri a virgola mobile perché rappresentano valori in precision

c math floating-point compiler-optimization 2012-12-17

---

17calore

3risposta

Conversione da virgola mobile a doppia: la migliore affermazione in un test di unità?

Considerate le dichiarazioni float f = 7.1f; double d = f; Quello che possiamo affermare in una prova di unità su d? Per esempio, questo non funziona: Console.WriteLine(d == 7.1d); // false Consol

c# floating-point double numeric 2012-12-19

---

10calore

3risposta

Per un valore in virgola mobile a: Fa * 0.0 == 0.0 sempre valutato vero per i valori finiti di a?

Ero sempre dal presupposto che la prova seguente sarà sempre successo per valori finiti (senza INF, non NAN) di somefloat: assert(somefloat*0.0==0.0); In Multiply by 0 optimization si è affermato ch

c++ c floating-point ieee-754 2012-12-20

---

30calore

3risposta

Java: Perché è necessario specificare una "f" in un valore letterale float?

Perché è necessario specificare un suffisso f in un valore letterale float?

java floating-point 2012-12-31

---

17calore

3risposta

comportamento sconosciuto con carri e conversione di stringhe

ho digitato questo in shell pitone: >>> 0.1*0.1 0.010000000000000002 I prevede che 0,1 * 0,1 non è 0,01, perché so che 0.1 in base 10 è periodico in base 2. >>> len(str(0.1*0.1)) 4 Mi aspettavo

python floating-point python-2.x 2012-11-12

---

7calore

3risposta

Converte le stringhe Python in float esplicitamente usando la virgola o il punto come separatori

Come posso dire esplicitamente a python di leggere un numero decimale usando il punto o la virgola come separatore decimale? Non so le impostazioni di localizzazione del PC che verrà eseguito il mio s

python localization floating-point type-conversion 2012-11-13

---

8calore

4risposta

Come definire il valore NaN in ANSI C?

Eventuali duplicati: NaN Literal in C? Sto scrivendo una funzione in ANSI C che riceve due numeri come parametri. I parametri sono di tipo int o float. Il numero può o non può essere valido in base al

c floating-point nan c89 2013-01-05

---

5calore

4risposta

Zero meno lo zero equivalente all'infinito?

Sto scrivendo un metodo che crea una copia di un array di matrici di float. Stavo ottenendo alcuni valori estremamente strani dopo aver eseguito il debug di questo, quindi ho pensato di chiederlo perc

c++ arrays multidimensional-array floating-point 2012-11-19

---