precision

5calore

1risposta

uscita per trasmettere numeri float con precisione

ho un problema con numeri float precisione: int main(void) { double b = 106.829599; float a = b; std::cerr << std::setprecision(6) << "a = " << a << "; b = " << b << std::endl; std

c++ stream numbers precision 2012-01-27

---

8calore

1risposta

Fortran - tipo di impostazione/precisione di una variabile in fase di esecuzione

È possibile stabilire una variabile di per sé una variabile che verrà definita in fase di esecuzione? dire, se provo a compilare: SUBROUTINE FOO(VARIABLE, PRECISION_VALUE) IMPLICIT NONE

fortran precision 2012-05-10

---

6calore

1risposta

Utilizzo di "/" con doppio lungo?

sto cercando di capire perché usando '/' con una lunga doppia nel seguente modo porta ad un valore 0.000000 mentre lo stesso codice con doppio no double d = (double)total_results/(double)total_points;

c double precision 2012-02-06

---

6calore

2risposta

estesa doppia precisione

E 'possibile ottenere più di 16 cifre con double precisione senza usare quadruple? Se è possibile, dipende dal compilatore o da qualcos'altro? Perché so che qualcuno ha detto che stava lavorando con p

double fortran precision 2012-02-09

---

11calore

5risposta

Come impostare la precisione di un galleggiante

Qualcuno può spiegarmi come scegliere la precisione di un galleggiante con una funzione C? Esempi: theFatFunction(0.666666666, 3) di ritorno: 0,667 theFatFunction(0.111111111, 3) restituisce: 0,111

c floating-point precision 2012-02-09

---

30calore

3risposta

Modifica della precisione della colonna numerica in Oracle

Attualmente ho una colonna dichiarata come NUMBER. Voglio cambiare la precisione della colonna in NUMERO (14,2). SO, ho eseguito il comando alter table EVAPP_FEES modify AMOUNT NUMBER(14,2)' per cui

sql oracle precision 2012-02-10

---

14calore

3risposta

Precisione di galleggianti con printf

Come tutti sanno, la precisione è limitata quando si utilizza printf per produrre il valore di float. Tuttavia, c'è un trucco per aumentare la precisione nella produzione, come mostra questo esempio:

c floating-point printf precision 2012-04-01

---

32calore

7risposta

Uguale operatore zeri (BigDecimal/doppia) in Java

Alcune osservazioni interessanti w.r.t equivale operatore 0 e 0.0 new Double(0.0).equals(0) restituisce false, mentre new Double(0.0).equals(0.0) restituisce vero. BigDecimal.ZERO.equals(BigDecimal.va

java double precision bigdecimal zero 2012-04-03

---

7calore

1risposta

Perché java.awt.Point fornisce metodi per impostare e ottenere i doppi, ma memorizza xey come int?

Come si può vedere nella documentazione Oracle per java.awt.Point, xey sono memorizzati come int. Tuttavia, getX e getY restituiscono double. Mentre esiste un metodo setLocation che richiede 2 tipi do

java awt precision point 2012-03-05

---

6calore

1risposta

QString :: toDouble() dandomi il doppio con una precisione errata

Ho un myNumber QString che contiene "09338.712001". Quando faccio: myNumber.toDouble();, restituisce 9338,71, ma voglio che il doppio sia il valore originale, che è 09338.712001. Qualcuno sa come otte

qt double precision qstring 2012-04-24

---