floating-point

7calore

1risposta

Dettagli di implementazione di Mobile Point Divider

Sto cercando di implementare un partitore hardware a virgola mobile a 32 bit nell'hardware e mi chiedo se posso ottenere qualche suggerimento su alcuni compromessi tra diversi algoritmi? La mia unità

algorithm math floating-point hardware verilog 2013-06-13

---

5calore

1risposta

Numero massimo di cifre decimali che possono influenzare un doppio

Considera le rappresentazioni decimali del modulo d1.d2d3d4d5 ... dnExxx dove xxx è un esponente arbitrario e entrambi d1 e dn sono diversi da zero. È il massimo n noto tale che esiste una rappresenta

floating-point ieee-754 2013-06-21

---

5calore

3risposta

Eccezione punto mobile (core scaricato)

Ho un programma lungo, che consiste in un file di intestazione e due file di origine, nel primo ho scritto le implementazioni delle funzioni e nel secondo (che è il mio main), li chiamo e li eseguo. A

c exception floating-point coredump floating-point-exceptions 2013-06-25

---

5calore

2risposta

Strano C++ float bug

#include <iostream> using namespace std; int main() { cout.precision(32); float val = 268433072; float add = 13.5; cout << "result =" << (val + add) << endl; } Sto compila

c++ floating-point 2013-07-05

---

6calore

2risposta

Perché cexp (+ infinito + I * infinito) = +/- infinito + I * NaN nel linguaggio C?

Se guardiamo allo stato di progetto Comittee del langage C: n1570 e in particolare alla Annex G sul comportamento delle complesse funzioni matematiche, possiamo vedere che il complesso esponenziale ha

c math floating-point iso complex-numbers 2013-07-06

---

6calore

1risposta

BigDecimal in JavaScript

Sono molto nuovo in JavaScript (provengo da uno sfondo Java) e sto cercando di fare alcuni calcoli finanziari con piccole somme di denaro. mio go originale a questo è stato: <script type="text/javascr

javascript floating-point bigdecimal 2013-05-24

---

5calore

1risposta

Il driver Microsoft ACE modifica la precisione in virgola mobile nel resto del mio programma

Ho un problema in cui sembra che i risultati di alcuni calcoli cambino dopo aver utilizzato il Microsoft ACE driver per aprire un foglio di calcolo di Excel. Il codice restituisce il problema. Le prim

.net excel floating-point jet 2013-06-04

---

10calore

2risposta

NSNumero da CGFloat

Esiste un modo sicuro per "convertire" un CGFloat in un NSNumber? NSNumber ha le numberWithFloat: e numberWithDouble: metodi ma CGFloat essendo definita come float o double seconda della piattaforma,

objective-c floating-point nsnumber cgfloat 2013-06-12

---

5calore

2risposta

Confronto di una variabile float al suo valore contenuto

#include<stdio.h> int main() { float a,b; a=4.375; b=4.385; if(a==4.375) printf("YES\n"); else printf("NO\n"); if(b==4.385) printf("YES\n"); el

c floating-point 2013-06-18

---

5calore

1risposta

Aritmetica decimale in C o C++?

La norma IEEE-754 definisce l'aritmetica decimale al fine di evitare errori di arrotondamento quando si utilizzano numeri in virgola mobile di base dieci (vedere ad esempio decimal64 on wikipedia). C'

c++ c floating-point rounding ieee-754 2013-07-06

---