fixed-point

13calore

1risposta

Libreria C++ per la trigonometria di interi, velocità ottimizzata con approssimazioni opzionali?

Ho raggiunto il punto in un progetto in cui ha più senso iniziare a costruire alcune classi di supporto per i vettori e la trigonometria multipla che continuare a utilizzare funzioni ad-hoc. Mi aspett

c++ trigonometry fixed-point approximation 2011-11-18

---

57calore

7risposta

memorizzando importi in mysql

Voglio memorizzare 3.50 in una tabella mysql. Dispongo di un float in cui lo memorizzo, ma memorizza come 3.5, non 3.50. Come posso avere lo zero finale?

mysql floating-point currency fixed-point 2010-02-12

---

5calore

1risposta

Utilizzo del combinatore di punti fissi? Perché uno stack trabocca qui?

Sono confuso per qualcosa. Volevo generare un esempio (in Clojure) che dimostri come un combinatore a virgola fissa possa essere usato per valutare il punto fisso di una sequenza che converge matemati

functional-programming clojure stack-overflow fixed-point y-combinator 2010-07-13

---

48calore

7risposta

Libreria a virgola fissa C++?

Sto cercando una libreria di punti fissi C++ gratuita (principalmente per l'uso con dispositivi embedded, non per matematica di precisione arbitraria). Fondamentalmente, i requisiti sono: Nessun sovra

c++ math fixed-point 2010-05-31

---

11calore

5risposta

Oracle Floats vs Number

Vedo riferimenti in conflitto in Oracles documentation. C'è qualche differenza tra il modo in cui i decimali sono memorizzati in un FLOAT e in NUMBER tipi nel database? Come ricordo da C, et al, un fl

oracle types numbers floating-point fixed-point 2008-12-01

---

21calore

5risposta

Come usare expr su float?

Lo so che è veramente stupido domanda, ma non so come farlo in bash: 20/30 * 100 Va 66.67 ma espr sta dicendo 0, perché non supporta galleggiante. Quale comando in Linux può sostituire expr e fare q

bash floating-point rounding fixed-point 2009-08-10

---

12calore

2risposta

Elaborazione punto fisso: qual è la differenza tra uint16_t e uint_fast16_t?

Ho un processore a punto fisso a 16 bit e voglio eseguire l'elaborazione a punto fisso con esso. Sto cercando il tipo di dati corretto da utilizzare per unsigned a 16 bit. La mia domanda è: qual è la

c fixed-point 2011-02-10

---

12calore

3risposta

L'aritmetica del punto fisso valuterà il mio problema?

Sto lavorando a un solutore Navier-Stokes fluidodinamico che dovrebbe funzionare in tempo reale. Quindi, le prestazioni sono importanti. In questo momento, sto osservando un numero di loop stretti che

performance floating-point x86 fixed-point 2010-04-19

---

6calore

2risposta

Punto fisso su un algoritmo di compressione ampiamente usato al giorno d'oggi

Mi chiedevo se esiste un algoritmo di compressione, in uso comune oggi, che contiene un punto fisso, vale a dire, un file di identità. Per spiegare, chiamiamolo C : byte[] -> byte[] una funzione che r

algorithm compression fixed-point 2009-08-20

---