Berapakah angka NYATA positif serendah mungkin yang sebenarnya

11

MSDN mengatakan bahwa kisaran angka REAL adalah - 3.40E + 38 hingga -1.18E - 38, 0 dan 1.18E - 38 hingga 3.40E + 38. Rupanya batas bawah yang sebenarnya jauh lebih rendah. Script berikut mengisi kolom NYATA dengan 1.401298E-45:

CREATE TABLE a
  (
    r1 REAL NULL ,
    r2 REAL NULL ,
    r3 REAL NULL
  ) ;
GO
INSERT  INTO a
        ( r1, r2 )
VALUES  ( 1.18E-37, 10 ) ;
GO
DECLARE @i INT ;
SET @i = 1 ;

WHILE @i < 20 
  BEGIN ;

    UPDATE  a
    SET     r1 = r1 / r2 ;

    SELECT  r1 ,
            r2
    FROM    a ;

    SET @i = @i + 1 ;

  END ;
GO
DROP TABLE a ;

r1            r2
------------- -------------
1.18E-38      10

(snip)

r1            r2
------------- -------------
1.401298E-45  10

Adakah yang bisa memberi tahu saya berapa angka positif serendah mungkin yang sebenarnya?

AK
sumber
1
Pasti ada beberapa perilaku aneh dengan tipe ini. Skalar literal terkecil yang dapat saya gunakan dan pilih adalah 1,1754944E-38, yang kembali sebagai 1,175494E-38 (perhatikan 4 yang hilang di akhir) - jika Anda mencoba melemparkan 1,175494E-38 secara langsung, Anda mendapatkan nol kembali.
Jon Seigel

Jawaban:

13

Nilai floating-point presisi-positif minimum (subnormal) tunggal adalah 2 −149 ≈ 1,4 × 10 −45 . Nilai normal minimum positif adalah 2 −126 ≈ 1,18 × 10 −38 ( referensi ).

DECLARE
    @r1 real = POWER(2e0, -126),
    @r2 real = POWER(2e0, -23)

SELECT
    @r1,
    @r2,
    @r1 * @r2,
    CONVERT(binary(4), @r1 * @r2);

Untuk presisi ganda, subnormal positif minimum adalah:

DECLARE @r1 float = POWER(2e0, -1075);

SELECT @r1, CONVERT(binary(8), @r1);
Paul White 9
sumber