Sebelumnya, klik di atas Stack Overflow pada saat ini : Вычислеjo Pertimbangkan kode berikut: 0.1 + 0.2 == 0.3 -> false 0.1 + 0.2 -> 0.30000000000000004 Mengapa ketidakakuratan ini
Saya tahu UIKitpenggunaan CGFloatkarena sistem koordinat independen resolusi. Tapi setiap kali saya ingin memeriksa apakah misalnya frame.origin.xadalah 0itu membuat saya merasa sakit: if (theView.frame.origin.x == 0) { // do important operation } Tidak CGFloatrentan terhadap positif palsu...
Kode berikut jelas salah. Apa masalahnya? i <- 0.1 i <- i + 0.05 i ## [1] 0.15 if(i==0.15) cat("i equals 0.15") else cat("i does not equal 0.15") ## i does not equal
Menurut halaman java.sun ini == adalah operator perbandingan kesetaraan untuk angka floating point di Jawa. Namun, ketika saya mengetikkan kode ini: if(sectionID == currentSectionID) ke editor saya dan menjalankan analisis statis, saya mendapatkan: "Nilai titik mengambang JAVA0078 dibandingkan...
Saya tahu bahwa sebagian besar desimal tidak memiliki representasi floating point yang tepat ( Apakah matematika floating point rusak? ). Tapi saya tidak melihat mengapa 4*0.1dicetak dengan baik 0.4, tetapi 3*0.1tidak, ketika kedua nilai sebenarnya memiliki representasi desimal
Apakah mungkin mendapatkan pembagian dengan 0 (atau tak terhingga) dalam contoh berikut? public double calculation(double a, double b) { if (a == b) { return 0; } else { return 2 / (a - b); } } Dalam kasus normal, tentu saja tidak. Tetapi bagaimana jika adan bsangat dekat, dapat...
Saya mencoba memotong angka desimal menjadi tempat desimal. Sesuatu seperti ini: 5.467 -> 5.46 985.943 -> 985.94 toFixed(2)tidak hanya tentang hal yang benar tetapi membulatkan nilainya. Saya tidak ingin nilainya dibulatkan. Semoga ini mungkin dalam javascript.
Apakah ada cara untuk secara terprogram mendapatkan penggandaan yang paling dekat dengan 1.0, tetapi sebenarnya bukan 1.0? Salah satu cara hacky untuk melakukan ini adalah dengan memcpy double menjadi integer berukuran sama, lalu kurangi satu. Cara kerja format floating-point IEEE754, ini akan...