Pertanyaan yang diberi tag numerical-analysis

13
Penjumlahan penjumlahan aman

Misalkan saya mengingat tetap lebar bilangan bulat (yaitu mereka cocok dalam register lebar w ), seorang 1 , sebuah 2 , ... sebuah n sehingga jumlah mereka yang 1 + a 2 + ⋯ + a n = S juga cocok dalam register dengan lebar w .nnnwwwa1,a2,…ana1,a2,…ana_1, a_2, \dots a_na1+a2+⋯+an=Sa1+a2+⋯+an=Sa_1 +...

13
Pembulatan titik mengambang

Dapatkah nomor floating point IEEE-754 <1 (yaitu dihasilkan dengan generator angka acak yang menghasilkan angka> = 0,0 dan <1.0) pernah dikalikan dengan beberapa bilangan bulat (dalam bentuk floating point) untuk mendapatkan angka yang sama atau lebih besar dari integer itu karena...

11
Inferring type refinement

Di tempat kerja saya ditugaskan untuk menyimpulkan beberapa jenis informasi tentang bahasa yang dinamis. Saya menulis ulang urutan pernyataan menjadi letekspresi bersarang , seperti: return x; Z => x var x; Z => let x = undefined in Z x = y; Z => let x = y in Z if x then T else F; Z =>...