Pertanyaan yang diberi tag precision

Masalah yang terkait dengan representasi jumlah numerik dalam representasi terbatas dalam basis tertentu berbeda dari nilai matematika eksaknya.

77
Apakah ada pemecah pemrograman nonlinier berkualitas tinggi untuk Python?

Saya memiliki beberapa masalah optimisasi global non-cembung yang menantang untuk dipecahkan. Saat ini saya menggunakan MATLAB's Optimization Toolbox (khusus, fmincon()dengan algoritma = 'sqp'), yang cukup efektif . Namun, sebagian besar kode saya menggunakan Python, dan saya ingin melakukan...

13
Presisi floating-point tunggal versus ganda

Angka floating point presisi tunggal mengambil setengah memori dan pada mesin modern (bahkan pada GPU tampaknya) operasi dapat dilakukan dengan mereka pada kecepatan hampir dua kali lipat dibandingkan dengan presisi ganda. Banyak kode FDTD yang saya temukan secara eksklusif menggunakan aritmatika...

9
Mewakili angka Eisenstein tanpa pelampung

Saya punya proyek di mana saya perlu menggunakan bidang kuadrat Khususnya angka dari bentuk dengansebuah,b∈Q.a + b - 3---√a+b−3a + b \sqrt{-3}a,b∈Qa,b∈Qa,b \in \mathbb{Q} Misalnya di sini adalah bilangan prima dalam bilangan bulat Eisenstein : Saya tidak ingin menggunakan bijak. Saya ingin...