floating-point

243calore

6risposta

ho usato la seguente riga per convertire float a int, ma non è così preciso come vorrei: float a=8.61f; int b; b=(int)a; Il risultato è: 8 (dovrebbe essere 9) Quando a = -7.65f, il risultato è: -

21calore

7risposta

Selezione di un galleggiante in MySQL

Sto cercando di fare un match SELECT su un tavolo sulla base di un identificatore e un prezzo, come ad esempio: SELECT * FROM `table` WHERE `ident`='ident23' AND `price`='101.31'; I rendimenti sopra

9calore

4risposta

Prevenire lo arrotondamento in String.format ("%. 2f", doubleValue) in Java

Come evitare che l'arrotondamento (arrotondamento dell'algoritmo semitondo) non venga arrotondato allo String.format("%.2f", doubleValue);? ad es. doubleValue = 123.459 dopo la formattazione, double

5calore

5risposta

Come posso ottenere/impostare singoli bit in un float?

Devo ammettere che in tutto il mio lavoro con Java, non ho mai incontrato la necessità di un unione Java (come il sindacato C, non quello SQL) e non riesco a trovare una risposta qui su SO. A dire il

14calore

6risposta

Numeri a virgola mobile a virgola fissa in C/C++

int è in genere 32 bit, ma nello standard, int non è garantito per avere una larghezza costante. Quindi se vogliamo un 32 bit int includiamo stdint.h e utilizziamo int32_t. Esiste un equivalente per q

25calore

8risposta

rotonda un rubino galleggiare verso l'alto o verso il basso con l'approssimazione di 0,05

numeri che sto ricevendo come 2.36363636363636 4.567563 1.234566465448465 10.5857447736 Come vorrei arrivare Ruby per arrotondare questi numeri verso l'alto (o verso il basso) con un'approssimazi

12calore

4risposta

Converti variabile in virgola mobile in numero intero?

Lo script della shell mostrato sotto mostrerà un avviso se la pagina impiega più di 6 secondi per caricarsi. Il problema è che la variabile myduration non è un numero intero. Come posso convertirlo in

10calore

2risposta

Comportamento strano di Python sulla macchina con CPU ARM

Cosa potrebbe causare questo strano comportamento di Python? Python 2.6.2 (r262:71600, May 31 2009, 03:55:41) [GCC 3.3.4] on linux2 Type "help", "copyright", "credits" or "license" for more informat

38calore

6risposta

Grandi numeri erroneamente arrotondati in Javascript

Vedi questo codice: <html> <head> <script src="http://www.json.org/json2.js" type="text/javascript"></script> <script type="text/javascript"> var jsonString = '{"id":714341252076979033,"typ

7calore

4risposta

In che modo un C# valuta il punto mobile al passaggio del mouse sopra e finestra intermedia rispetto a compilato?

Sto vedendo qualcosa di strano con l'archiviazione dei doppi in un dizionario, e sono confuso sul perché. Ecco il codice: Dictionary<string, double> a = new Dictionary<string, double>(); a.Ad