integer-overflow

10calore

5risposta

Evitare overflow durante l'aggiunta di array numpy

Desidero aggiungere array numpy con datatyp uint8. So che i valori di questi array possono essere abbastanza grandi da consentire un overflow. In modo da ottenere qualcosa di simile: a = np.array([100

python numpy integer-overflow 2015-04-13

---

17calore

6risposta

Overflow si verifica con la moltiplicazione

long m = 24 * 60 * 60 * 1000 * 1000; Il codice sopra riportato crea overflow e non stampa il risultato corretto. long m2 = 24L * 60 * 60 * 1000 * 1000; long m3 = 24 * 60 * 60 * 1000 * 1000L; Le 2

java multiplication integer-overflow 2015-06-02

---

12calore

2risposta

Equivalente di atoi per interi senza segno

Sto facendo due operazioni che coinvolgono atoi e mi chiedo come posso farlo con interi senza segno perché atoi sembra convertirli in firmati causando un overflow di tipo wraparound. Voglio lavorare c

c integer-overflow atoi 2014-12-02

---

12calore

3risposta

Overflow doppio o BigDecimal?

Java 8 ci ha fornito Math.addExact() per numeri interi ma non decimali. E 'possibile che double e BigDecimal superino? Giudicando da Double.MAX_VALUE e da How to get biggest BigDecimal value Direi che

java double bigdecimal integer-overflow 2015-08-12

---

9calore

1risposta

Get numpy per avvertire sull'overflow di numeri interi

Avendo usato principalmente python, mi sono rovinato non dovendomi preoccupare di un overflow di interi. Ora che sto usando Numpy, devo preoccuparmene di nuovo. Vorrei numpy per errore nei casi di ove

python numpy integer-overflow 2015-08-14

---

5calore

1risposta

Bypassare un overflow addizione senza segno rilevata dal CBMC

CBMC rileva un possibile trabocco senza segno Inoltre nelle seguenti righe: l = (t + *b)&(0xffffffffL); c += (l < t); Sono d'accordo che c'è la possibilità di un overflow nella prima riga, ma sto p

c integer integer-overflow model-checking cbmc 2015-06-26

---

7calore

1risposta

Metafunzione per calcolare x^n e restituire il numero intero senza overflow se non possibile?

Si consideri il seguente codice: template <std::intmax_t Base, std::intmax_t Exponent> struct integer_power_bounded { static_assert(Exponent >= 0, "Error in 'integer_power_bounded': 'E

c++ c++11 metaprogramming template-meta-programming integer-overflow 2013-11-09

---

7calore

6risposta

Spiegazione della media sicurezza di due numeri

Ogni volta che ho bisogno di una media di due numeri per un algoritmo come la ricerca binaria, ho sempre fare qualcosa di simile: int mid = low + ((high - low)/2); Recentemente ho visto un altro mod

java c++ math bit-manipulation integer-overflow 2013-10-01

---

27calore

3risposta

Perché questo lungo traboccare a -1, invece del valore minimo per il tipo?

Ho il seguente codice che restituisce il numero di nodi in un albero, quando un albero completo binaria è layer strati di altezza: public static long nNodesUpToLayer(int layer) { if (layer < 0)

java integer biginteger integer-overflow 2015-07-09

---

5calore

1risposta

Strana implementazione di Guava LongMath.checkedAdd

public static long checkedAdd(long a, long b) { long result = a + b; checkNoOverflow((a^b) < 0 | (a^result) >= 0); return result; } Mi interessa perché logica booleana | è usato qui.

java guava long-integer integer-overflow 2013-08-16

---