Pertanyaan yang diberi tag floating-point

Sebelumnya, klik di atas Stack Overflow pada saat ini : Вычислеjo Pertimbangkan kode berikut: 0.1 + 0.2 == 0.3 -> false 0.1 + 0.2 -> 0.30000000000000004 Mengapa ketidakakuratan ini

Dengan Python, bagaimana saya bisa mengurai string numerik seperti "545.2222"nilai float yang sesuai 545.2222,? Atau parsing string "31"ke integer 31,? Saya hanya ingin tahu cara mengurai float str ke float, dan (secara terpisah) int str ke

Saya melakukan beberapa optimasi numerik pada aplikasi ilmiah. Satu hal yang saya perhatikan adalah bahwa GCC akan mengoptimalkan panggilan pow(a,2)dengan mengkompilasinya a*a, tetapi panggilan pow(a,6)tersebut tidak dioptimalkan dan benar-benar akan memanggil fungsi perpustakaan pow, yang sangat...

Apa perbedaan antara decimal, floatdan double. NET? Kapan seseorang akan menggunakan salah

Saya ingin adibulatkan ke 13,95 . >>> a 13.949999999999999 >>> round(a, 2) 13.949999999999999 The roundfungsi tidak bekerja seperti yang saya

Apa cara terbaik untuk memeriksa apakah string dapat direpresentasikan sebagai angka dengan Python? Fungsi yang saya miliki saat ini adalah: def is_number(s): try: float(s) return True except ValueError: return False Yang, tidak hanya jelek dan lambat, tampaknya kikuk. Namun saya belum...

Mengapa ini sedikit kode, const float x[16] = { 1.1, 1.2, 1.3, 1.4, 1.5, 1.6, 1.7, 1.8, 1.9, 2.0, 2.1, 2.2, 2.3, 2.4, 2.5, 2.6}; const float z[16] = {1.123, 1.234, 1.345, 156.467, 1.578, 1.689, 1.790, 1.812, 1.923, 2.034, 2.145, 2.256, 2.367, 2.478, 2.589, 2.690}; float y[16]; for (int i = 0; i...

Saya selalu diberitahu untuk tidak mewakili uang dengan doubleatau floatjenis, dan kali ini saya mengajukan pertanyaan kepada Anda: mengapa? Saya yakin ada alasan yang sangat bagus, saya hanya tidak tahu apa

Menurut html5.org , atribut nilai "number" input type ", jika ditentukan dan tidak kosong, harus memiliki nilai yang merupakan angka floating point yang valid." Namun itu sederhana (dalam versi terbaru Chrome), kontrol "pembaruan" dengan bilangan bulat, bukan mengapung: <input type="number"...

Saya ingin memformat nomor saya untuk selalu menampilkan 2 tempat desimal, pembulatan jika berlaku. Contoh: number display ------ ------- 1 1.00 1.341 1.34 1.345 1.35 Saya telah menggunakan ini: parseFloat(num).toFixed(2); Tapi itu ditampilkan 1sebagai 1, bukan

Apakah ada cara untuk melangkah antara 0 dan 1 dengan 0,1? Saya pikir saya bisa melakukannya seperti berikut, tetapi gagal: for i in range(0, 1, 0.1): print i Sebaliknya, ia mengatakan bahwa argumen langkah tidak boleh nol, yang tidak saya

Saya memiliki dua nilai integer adan b, tetapi saya perlu rasio mereka di floating point. Saya tahu itu a < bdan saya ingin menghitung a / b, jadi jika saya menggunakan divisi integer saya akan selalu mendapatkan 0 dengan sisa a. Bagaimana saya bisa memaksa cuntuk menjadi nomor floating point...

Saya ingin menggunakan a Track-Baruntuk mengubah Formopacity. Ini kode saya: decimal trans = trackBar1.Value / 5000; this.Opacity = trans; Ketika saya membangun aplikasi, itu memberikan kesalahan berikut: Tidak dapat secara implisit mengkonversi tipe decimalmenjadidouble Saya sudah mencoba...

Saya memiliki skrip tes dummy berikut: function test() { var x = 0.1 * 0.2; document.write(x); } test(); Jalankan cuplikan kodeSembunyikan hasilLuaskan cuplikan Ini akan mencetak hasil 0.020000000000000004sementara itu hanya harus mencetak 0.02(jika Anda menggunakan kalkulator Anda)....

Dalam program berikut ini Anda dapat melihat bahwa setiap nilai sedikit kurang dari .5dibulatkan, kecuali untuk 0.5. for (int i = 10; i >= 0; i--) { long l = Double.doubleToLongBits(i + 0.5); double x; do { x = Double.longBitsToDouble(l); System.out.println(x + " rounded is " +...

Apa cara yang paling efisien untuk membandingkan dua doubleatau dua floatnilai? Melakukan hal ini tidak benar: bool CompareDoubles1 (double A, double B) { return A == B; } Tetapi sesuatu seperti: bool CompareDoubles2 (double A, double B) { diff = A - B; return (diff < EPSILON)...

Double 64-bit dapat mewakili integer +/- 2 53 dengan tepat Mengingat fakta ini saya memilih untuk menggunakan tipe ganda sebagai tipe tunggal untuk semua tipe saya, karena integer terbesar saya tidak bertanda 32-bit. Tapi sekarang saya harus mencetak bilangan bulat semu ini, tetapi masalahnya...

Masalah ini membunuhku. Bagaimana cara mengumpulkan angka UP di Python? Saya mencoba putaran (angka) tetapi membulatkan angka ke bawah. Contoh: round(2.3) = 2.0 and not 3, what I would like Saya mencoba int (angka + .5) tetapi membulatkan angka ke bawah lagi! Contoh: int(2.3 + .5) = 2 Kemudian...

Untuk apa specifier format yang benar doubledalam printf? Apakah itu %fatau tidak %lf? Saya percaya itu %f, tapi saya tidak yakin. Contoh kode #include <stdio.h> int main() { double d = 1.4; printf("%lf", d); // Is this

Dalam JavaScript, ketika mengkonversi dari float ke string, bagaimana saya bisa mendapatkan hanya 2 digit setelah titik desimal? Misalnya, 0,34 bukannya