floating-point

6calore

2risposta

Perl strano comportamento sulla estrazione del valore

galleggiante Ho questo frammento di codice con uno strano risultato(279.1 vs 279.6 ... ...): $ perl -e "print unpack('f>', pack ('f>', 279.117156982422));" 279.617156982422 Mentre questo funziona $

perl floating-point endianness 2013-09-23

---

5calore

2risposta

NumPy: np.lexsort con confronti sfocati/tolleranti

Ho una raccolta di punti N in tre dimensioni. Questi sono memorizzati come np.array con una forma di (N,3). Tutti i punti sono distinti con la distanza minima tra due punti qualsiasi ~1e-5. Sto cercan

python sorting numpy floating-point 2013-09-28

---

5calore

2risposta

VC che rifiuta la costante esadecimale in virgola mobile

Sto scrivendo un programma che converte il bytecode CIL in codice sorgente C per il consumo della macchina. Ero preoccupato per l'inaccuratezza delle costanti floating point dovute alla conversione da

c visual-studio visual-studio-2008 floating-point floating-accuracy 2013-08-12

---

6calore

3risposta

In Lua, cosa sono #INF e #IND?

Sono abbastanza nuovo per Lua. Durante i test ho scoperto #INF/#IND. Tuttavia, non riesco a trovare un buon riferimento che lo spieghi. Cosa sono #INF, #IND e simili (ad esempio negativi) e come vengo

c floating-point lua floating-point-conversion 2013-10-01

---

5calore

1risposta

Impossibile convertire la matrice in float python

Ho un problema che sembra che la risposta possa essere facilmente spiegata. Sto lottando per convertire i miei elementi di un array di carri (in modo che possa moltiplicare, aggiungere su di loro, ecc

python arrays csv numpy floating-point 2013-08-16

---

25calore

7risposta

Come possiamo troncare il tipo float64 a una particolare precisione in golang?

package main import ( "fmt" "strconv" ) func main() { k := 10/3.0 i := fmt.Sprintf("%.2f", k) f,_ := strconv.ParseFloat(i, 2) fmt.Println(f) } ho dovuto scrive

floating-point go 2013-08-22

---

7calore

1risposta

LCC printf in virgola mobile

Ho seguente programma: #include <stdio.h> int main(int args, char *argv[]) { printf("%f\n", 0.99999); printf("%e\n", 0.99999); } Il risultato è: 0.009990 9.999900e-001 Perché è il pr

c floating-point windows-xp 2013-08-23

---

14calore

5risposta

Java non funziona come funziona?

Stavo guardando il codice sorgente openjdk-1.7.0_25 e ho visto questo metodo: /** * Returns {@code true} if the specified number is a * Not-a-Number (NaN) value, {@code false} otherwise. * * @para

java floating-point nan 2013-08-26

---

10calore

2risposta

L'aritmetica Numpy longdouble non sembra essere nel lungo lungo con conversione

Ho giocato a lungo C2 quad precision doppio. Sono a conoscenza del fatto che Numpy (specifico per piattaforma) supporta i float long double e 128bit. Ho incontrato qualcosa che non so spiegare. Dato:

python numpy floating-point 2013-08-30

---

41calore

3risposta

Perché viene stampato l'ultimo numero (1)?

Il codice: <?php $start = 0; $stop = 1; $step = ($stop - $start)/10; $i = $start + $step; while ($i < $stop) { echo($i . "<br/>"); $i += $step; } ?> L'output: 0.1 0.2 0.3 0.4 0.

php floating-point 2013-09-05

---