double-precision

5calore

3risposta

Java float è più preciso del doppio?

Codice: class Main { public static void main (String[] args) { System.out.print("float: "); System.out.println(1.35f-0.00026f); System.out.print("double: "); System.out.pr

java floating-accuracy floating-point-precision double-precision 2013-10-18

---

22calore

5risposta

Quando si usano i doppi, perché non è (x/(y * z)) lo stesso di (x/y/z)?

Questo è in parte accademico, in quanto per i miei scopi ho solo bisogno arrotondato a due cifre decimali; ma sono desideroso di sapere cosa sta succedendo per produrre due risultati leggermente diver

java double rounding double-precision order-of-evaluation 2015-04-24

---

6calore

2risposta

Esiste un'accurata approssimazione della funzione acos()?

Ho bisogno di una funzione acos() con una precisione doppia all'interno di uno shader di elaborazione. Poiché non esiste una funzione integrata di acos() in GLSL con una precisione doppia, ho provato

opengl glsl shader trigonometry double-precision 2015-03-10

---

17calore

4risposta

Simulare la rottura di una doppia in C#

Sono in esecuzione su una macchina a 32 bit e sono in grado di confermare che i valori lunghi possono lacerare utilizzando il seguente frammento di codice che colpisce molto velocemente. static void

c# .net multithreading atomicity double-precision 2012-01-25

---

5calore

6risposta

C# Alta precisione doppia

Sto scrivendo una funzione che calcola il valore di PI e lo restituisce come un doppio. Fin qui tutto bene. Ma una volta che la funzione raggiunge le 14 cifre dopo la cifra decimale, non può più tratt

c# double double-precision 2010-11-05

---

7calore

3risposta

Java: massima perdita di precisione in una doppia aggiunta/sottrazione

È possibile stabilire, anche approssimativamente, quale sarebbe la massima perdita di precisione quando si gestiscono due valori double in java (aggiunta/sottrazione)? Probabilmente lo scenario peggio

java double floating-point-precision double-precision 2012-11-20

---

5calore

1risposta

Confusione sui tipi in FORTRAN

Sono stato in fase di scrittura di un codice FORTRAN per simulazioni numeriche di un problema di fisica applicata per più di due anni e ho cercato di seguire le convenzioni descritte in Fortran Best P

fortran precision hdf5 double-precision 2015-05-04

---

13calore

5risposta

Java BigDecimal problemi di precisione

so il seguente comportamento è un vecchio problema, ma ancora non capisco. System.out.println(0.1 + 0.1 + 0.1); O anche se io uso BigDecimal System.out.println(new BigDecimal(0.1).doubleValue()

java bigdecimal double-precision 2012-03-20

---

10calore

3risposta

Perché il programma C++ compilato per la piattaforma x64 è più lento di compilato per x86?

Ho scritto il programma e lo ho compilato per la piattaforma x64 e x86 in Visual Studio 2010 su Intel Core i5-2500. la versione x64 impiega circa 19 secondi per l'esecuzione e x86 impiega circa 17 sec

c++ performance optimization 64bit double-precision 2012-02-14

---

6calore

3risposta

Formattazione Double per stampare senza notazione scientifica utilizzando DecimalFormat

Ho letto i valori di data/ora dalle letture del sensore, ma poiché sono forniti in nanosecondi, ho pensato di scriverli per raddoppiare e effettuare la conversione. Il numero risultante è un valore di

java android string-formatting floating-accuracy double-precision 2012-12-12

---