floating-point

5calore

5risposta

Come risolvere questo problema in PHP?

$onethird = 1.0/3; $fivethirds = 1.0/3+1.0/3+1.0/3+1.0/3+1.0/3; $half = 1.0/2; $threehalf = 1.0/2+1.0/2+1.0/2; var_dump($onethird + $fivethirds == $half + $threehalf); che emette false, ma come

php math floating-point 2010-01-03

---

8calore

2risposta

Libreria per virgola mobile in virgola mobile Math in .NET

Ho algoritmo/calcolo in Java e test di unità per esso. Il test unitario si aspetta un risultato con una certa precisione/delta. Ora ho portato l'algoritmo in .NET e vorrei utilizzare lo stesso test di

java .net floating-point 2010-01-13

---

30calore

4risposta

Formattazione di oggetti fluttuanti nell'obiettivo C

Ho bisogno di formattare un float (titolo accattivante, lui?) In 2 posizioni decimali, ma solo se quelle posizioni decimali hanno valori che non sono zero. Esempio: Ho un NSTextField chiamato 'rispost

objective-c string cocoa formatting floating-point 2010-01-13

---

25calore

5risposta

Qual è l'intervallo di valori che un float può avere in Python?

Quali sono i suoi valori più piccoli e più grandi in python?

python floating-point 2009-12-02

---

13calore

5risposta

Come si imposta la precisione in virgola mobile in Perl?

C'è un modo per impostare la precisione in virgola mobile dello script Perl (su 3 cifre), senza doverla modificare in modo specifico per ogni variabile? Qualcosa di simile a TCL di: global tcl_precisi

perl floating-point floating-accuracy 2009-12-03

---

7calore

5risposta

Python: ottieni e manipola (come interi) i pattern bit dei float

In Python V.2.5.4, ho un float e mi piacerebbe ottenere e manipolare (come un intero) il pattern di bit di quel float. Per esempio, supponiamo di avere x = 173.3125 In formato IEEE 754, modello di p

python floating-point bit-manipulation 2009-12-17

---

7calore

7risposta

Perché questa sottrazione non è uguale a zero?

Mi sono imbattuto in questi valori nel mio codice ColdFusion ma la calcolatrice di Google sembra avere lo stesso "bug" in cui la differenza è diversa da zero. 416582,2850-411476,8100 - 5105,475 = -2.3

java math coldfusion floating-point 2010-01-04

---

8calore

4risposta

Formattazione a virgola mobile in printf()

Ho una matrice di float in cui i dati sono memorizzati con decimali diversi, quindi alcuni sono 123.40000, 123.45000, 123.45600 ... ora se voglio stampare questi valori nella stringa senza gli 0 in la

c floating-point floating-accuracy 2009-12-07

---

64calore

4risposta

La funzione per "la matrice contiene il valore X?"

Esiste una funzione MATLAB incorporata per scoprire se una matrice contiene un determinato valore? (ala del PHP in_array())

matlab function matrix floating-point 2009-12-16

---

47calore

4risposta

Imposta la precisione di visualizzazione di un float in Ruby

È possibile impostare la precisione di visualizzazione di un oggetto mobile in Ruby? Qualcosa di simile: z = 1/3 z.to_s #=> 0.33333333333333 z.to_s(3) #=> 0.333 z.to_s(5) #=> 0.33333 Oppure devo

ruby floating-point precision 2009-12-19

---