floating-point-conversion

17calore

1risposta

Perché str (float) restituisce più cifre in Python 3 rispetto a Python 2?

In Python 2.7, repr di un float restituisce il numero decimale più vicino fino a 17 cifre; questo è abbastanza preciso da identificare in modo univoco ogni possibile valore in virgola mobile IEEE. str

5calore

3risposta

Swift: estrae il float dai dati di byte

Sto cercando un modo robusto ed elegante per estrarre quattro byte big-endian da un array come Float. posso ottenere un UInt32 con i bit tramite qualcosa di simile: let data: [Byte] = [0x00, 0x00, 0x0

6calore

2risposta

C++ doppia a long long

se scrivo codice in C++: long long d = 999999998.9999999994; cout<<d; ottengo uscita: 999999999 (arrotondando per eccesso) Ma l'uscita di questo codice: long long d = 999999998.9999994994; cout<<d

5calore

1risposta

Perché strtof non stampa il float corretto?

#include <stdio.h> #include <stdlib.h> #include <string.h> int main(){ char aaa[35] = "1.25"; char* bbb = &(aaa[0]); char** ccc = &(bbb); float a = strtof(*ccc, ccc); prin

5calore

1risposta

Confronta array float come int array

Ho bisogno di un algoritmo di ricerca binaria ottimizzato su una matrice di numeri ordinati. Ho fatto questo e ha scoperto che l'uso di float ai numeri Store è più veloce rispetto all'utilizzo intero,

8calore

5risposta

Determinare se un float ha una parte frazionaria?

Ecco il problema: i totali di gioco possono essere giocati da un numero qualsiasi di persone. Inizia con un totale di 100 e ogni giocatore a turno effettua uno spostamento intero tra -20 e 20 a quel t

6calore

2risposta

Conversione Int Float perde di precisione per un gran numero di Swift

XCode 6.3.1 Swift 1,2 let value: Int = 220904525 let intmax = Int.max let float = Float(value) // Here is an error probably let intFromFloat = Int(float) let double = Double(value) println("intma

6calore

3risposta

In Lua, cosa sono #INF e #IND?

Sono abbastanza nuovo per Lua. Durante i test ho scoperto #INF/#IND. Tuttavia, non riesco a trovare un buon riferimento che lo spieghi. Cosa sono #INF, #IND e simili (ad esempio negativi) e come vengo

5calore

3risposta

pitone convertire un elenco di float a stringa

Ho una lista di carri in Python e quando si converte in una stringa, ho la follwoing [1883.95, 1878.3299999999999, 1869.4300000000001, 1863.4000000000001] Questi galleggianti sono dotati di 2 cifre

11calore

2risposta

Come convertire un float in esadecimale

In Python ho bisogno di convertire un gruppo di float in esadecimali. Deve essere riempito a zero (ad esempio, 0x00000010 invece di 0x10). Proprio come fa http://gregstoll.dyndns.org/~gregstoll/floatt