floating-point

5calore

4risposta

Come leggi i numeri mobili (REAL) da un database SQLite su iPhone?

ho bisogno di leggere galleggiante decimali punto da SQLite db ho creato tipo variabile nel database come INTEGER sto leggendo con sqlite3_column_int a variabili NSInteger quali parti dovrebbero cambi

iphone database sqlite3 floating-point 2009-10-08

---

5calore

4risposta

Nth root of small number restituisce un risultato imprevisto in C#

Quando provo a prendere la radice N di un numero piccolo utilizzando C#, ottengo un numero errato. Ad esempio, quando provo a prendere la terza radice di 1.07, ottengo 1, che chiaramente non è vero. E

c# .net math floating-point 2009-10-10

---

9calore

1risposta

SSE ritorno registro con SSE disabilitato

Io sono nella seguente situazione: Sto scrivendo il codice per un kernel che non permette istruzioni SSE ho bisogno di fare aritmetica in virgola mobile I 'm compilazione di una piattaforma x86_64 Ecc

c gcc floating-point sse 2009-10-12

---

27calore

2risposta

Haskell: Forza galleggianti di avere due decimali

Utilizzando il seguente frammento di codice: (fromIntegral 100)/10.00 Utilizzando il preludio standard di Haskell '98, come faccio io rappresento il risultato con due decimali? Grazie.

haskell floating-point precision 2009-10-13

---

27calore

6risposta

Converti esadecimale in virgola mobile

Come convertire la seguente stringa esadecimale in float (precisione singola a 32 bit) in Python? "41973333" -> 1.88999996185302734375E1 "41995C29" -> 1.91700000762939453125E1 "470FC614" -> 3.6806

python binary floating-point hex decimal 2009-10-20

---

63calore

6risposta

Quando divido i numeri in clojure ottengo una frazione, come ottengo il decimale?

Quando faccio (/ 411 125), non capisco in termini di decimali. Come lo faccio?

math clojure floating-point numbers 2009-10-20

---

13calore

7risposta

calcolo float php 2 punto decimale

Ancora un altro problema di calcolo matematico. $a = 34.56 $b = 34.55 $a fare qualche calcolo per ottenere questa cifra $b sta facendo arrotondamento più vicino 0,05 per ottenere questa cifra ciò

php floating-point decimal rounding 2009-10-22

---

23calore

7risposta

Strano problema di confronto dei galleggianti nell'obiettivo-C

A un certo punto in un algoritmo ho bisogno di confrontare il valore float di una proprietà di una classe con un float. Così faccio questo: if (self.scroller.currentValue <= 0.1) { } dove currentVa

iphone objective-c casting floating-point 2009-10-23

---

47calore

3risposta

Double vs float su iPhone

Ho appena sentito che l'iphone non può fare il doppio in modo nativo, rendendo così molto più lento il normale float. È vero? Prova? Sono molto interessato al problema perché il mio programma richiede

iphone cocoa-touch floating-point ieee-754 2009-10-26

---

34calore

9risposta

Il modo più veloce per azzerare i valori bassi dell'array?

Quindi, diciamo che ho 100.000 array float con 100 elementi ciascuno. Ho bisogno del massimo numero X di valori, MA solo se sono maggiori di Y. Ogni elemento che non corrisponde a questo dovrebbe esse

python arrays floating-point max min 2009-10-26

---