floating-point

5calore

2risposta

Galleggiante galleggiante di precisione in Python

Ho bisogno di implementare un algoritmo di programmazione dinamica per risolvere il problema del venditore ambulante nel tempo che batte la ricerca della forza bruta per calcolare le distanze tra i pu

5calore

1risposta

Jsoncpp scrive valori float in modo errato

Sto leggendo da un file JSON utilizzando jsoncpp. Quando scrivo di nuovo il file, i miei valori float sono leggermente disattivati. Per motivi di test, ho deciso di analizzare il file su un valore di

6calore

1risposta

GDB può analizzare correttamente i numeri esadecimali in virgola mobile in stile C?

6calore

1risposta

R: Int vs Num anomalia nel vettore

stavo lavorando la mia strada attraverso un primer sulla programmazione R e ho notato una leggera anomalia: x <- c(2,1,1,5) produce un vettore di tipo num y <- c(1:5) produce un vettore di tipo int z

8calore

1risposta

ScalaTest - controlla "quasi uguale" per float e oggetti che contengono float

Durante la scrittura di test per operazioni con float o oggetti contenenti float (come vettori o matrici), spesso voglio testare non per l'uguaglianza, ma per "quasi uguale" (la differenza può essere

7calore

1risposta

Swift: come confrontare le prime n cifre oltre la posizione decimale per CGFloat?

Come si può confrontare se A e B, entrambi CGFloats, sono uguali fino a 5 cifre oltre il decimale? Questo è necessario a causa di this issue.

6calore

4risposta

È sicuro eseguire la cascata di hypot()?

Vorrei calcolare la norma (lunghezza) di vettori a tre e quattro dimensioni. Sto usando numeri in virgola mobile a precisione doppia e voglio fare attenzione a evitare inutili overflow o underflow. La

13calore

2risposta

La moltiplicazione del punto mobile per zero è garantita per produrre zero?

Capisco che il punto in virgola mobile abbia errori di arrotondamento, ma mi chiedo se ci sono alcune situazioni in cui l'errore non si applica, come la moltiplicazione per zero. zero volte un numero

6calore

2risposta

Conversione Int Float perde di precisione per un gran numero di Swift

XCode 6.3.1 Swift 1,2 let value: Int = 220904525 let intmax = Int.max let float = Float(value) // Here is an error probably let intFromFloat = Int(float) let double = Double(value) println("intma

6calore

2risposta

Aritmetica decimale esatta in Julia

A causa di the nature of floating-point math, .4 * .4 = 0.16000000000000003 in Julia. Voglio ottenere la risposta matematicamente corretta di 0.16, in modo efficiente per la CPU. So che round() funzio