floating-point

14calore

6risposta

Ho due matrici x e y, entrambi sono i risultati di diversi algoritmi/routine che dovrebbero calcolare lo stesso risultato. Mentre so che isequal() dovrebbe controllare se xey sono la stessa matrice, l

6calore

2risposta

Cosa potrebbe causare un processo deterministico per generare errori in virgola mobile

Avendo già letto questo question Sono ragionevolmente certo che un determinato processo che utilizza aritmetica in virgola mobile con lo stesso input (sullo stesso hardware, compilato con lo stesso co

6calore

6risposta

Stampa float con un numero specifico di zeri

So come controllare il numero di decimali, ma come controllo il numero di zeri in modo specifico? Ad esempio: 104.06250000 -> 104.0625 119.00000 -> 119.0 72.000000 -> 72.0

6calore

10risposta

C++: Come convertire da virgola mobile a stringa senza arrotondamento, troncatura o riempimento?

Sono di fronte a un problema e non riesco a risolverlo. Hai bisogno di aiuto dai guru. Ecco il codice di esempio: - float f=0.01f; printf("%f",f); se controlliamo valore nella variabile durante il

13calore

6risposta

Problema durante la conversione da int a float

C'è uno strano comportamento che non riesco a capire. Concordato che il numero del punto fluttuante è approssimativo, quindi anche le operazioni che restituiscono ovviamente un numero senza numeri dec

8calore

4risposta

Utilizzo del software in virgola mobile su x86 linux

È (facilmente) possibile utilizzare il software in virgola mobile su Linux i386 senza incorrere nelle spese di intercettazione nel kernel in ogni chiamata? Ho provato -msoft-float, ma sembra che la no

13calore

9risposta

È consigliabile utilizzare il NaN in virgola mobile IEEE754 per i valori non impostati?

È consigliabile utilizzare IEEE754 in virgola mobile NaN (non-un-numero) per valori che non sono definiti per motivi non matematici? Nel nostro caso non sono ancora impostati perché i valori non sono

32calore

4risposta

Come si converte Int/Decimal in float in C#?

Come si converte da un int o da un decimale a un float in C#? Ho bisogno di usare un float per un controllo di terze parti, ma non li uso nel mio codice, e non sono sicuro di come finire con un float.

8calore

4risposta

MATLAB - domanda di piano

Sono un principiante di MATLAB. Ecco il problema: >> a = floor(7/2.5) a = 2.00 >> b = rem(7,2.5) b = 2.00 >> c = floor(b/2) c = 0 c dovrebbe essere 1, giusto? Perché è

6calore

2risposta

Come convertire la stringa esadecimale in float in Java?

Come convertire la stringa esadecimale in virgola mobile a precisione singola in Java? Ad esempio, come implementare: float f = HexStringToFloat ("BF800000"); // f ora dovrebbe contenere -1.0 Lo chied