[Git][ghc/ghc][master] Bignum: fix BigNat subtraction (#18604)

Marge Bot gitlab at gitlab.haskell.org
Wed Aug 26 08:51:42 UTC 2020



 Marge Bot pushed to branch master at Glasgow Haskell Compiler / GHC


Commits:
dc476a50 by Sylvain Henry at 2020-08-26T04:51:35-04:00
Bignum: fix BigNat subtraction (#18604)

There was a confusion between the boolean expected by
withNewWordArrayTrimedMaybe and the boolean returned by subtracting
functions.

- - - - -


7 changed files:

- libraries/ghc-bignum/src/GHC/Num/BigNat.hs
- libraries/ghc-bignum/src/GHC/Num/BigNat/GMP.hs
- libraries/ghc-bignum/src/GHC/Num/BigNat/Native.hs
- libraries/ghc-bignum/src/GHC/Num/WordArray.hs
- + testsuite/tests/numeric/should_run/T18604.hs
- + testsuite/tests/numeric/should_run/T18604.stdout
- testsuite/tests/numeric/should_run/all.T


Changes:

=====================================
libraries/ghc-bignum/src/GHC/Num/BigNat.hs
=====================================
@@ -506,7 +506,7 @@ bigNatSubUnsafe a b
       let szA = wordArraySize# a
       in withNewWordArrayTrimed# szA \mwa s->
             case inline bignat_sub mwa a b s of
-               (# s', 0# #) -> s'
+               (# s', 1# #) -> s'
                (# s', _  #) -> case raiseUnderflow of
                                  !_ -> s'
                                  -- see Note [ghc-bignum exceptions] in


=====================================
libraries/ghc-bignum/src/GHC/Num/BigNat/GMP.hs
=====================================
@@ -92,8 +92,8 @@ bignat_sub
 {-# INLINE bignat_sub #-}
 bignat_sub mwa wa wb s =
    case ioWord# (c_mpn_sub mwa wa (wordArraySize# wa) wb (wordArraySize# wb)) s of
-      (# s', 0## #) -> (# s', 0# #)
-      (# s', _   #) -> (# s', 1# #)
+      (# s', 1## #) -> (# s', 0# #) -- overflow
+      (# s', _   #) -> (# s', 1# #) -- no overflow
 
 bignat_sub_word
    :: MutableWordArray# RealWorld
@@ -104,8 +104,8 @@ bignat_sub_word
 {-# INLINE bignat_sub_word #-}
 bignat_sub_word mwa wa b s =
    case ioWord# (c_mpn_sub_1 mwa wa (wordArraySize# wa) b) s of
-      (# s', 0## #) -> (# s', 0# #)
-      (# s', _   #) -> (# s', 1# #)
+      (# s', 1## #) -> (# s', 0# #) -- overflow
+      (# s', _   #) -> (# s', 1# #) -- no overflow
 
 bignat_mul
    :: MutableWordArray# RealWorld


=====================================
libraries/ghc-bignum/src/GHC/Num/BigNat/Native.hs
=====================================
@@ -127,17 +127,17 @@ bignat_sub_word mwa wa b = go b 0#
       !sz = wordArraySize# wa
       go carry i s
          | isTrue# (i >=# sz)
-         = (# s, carry `neWord#` 0## #)
+         = (# s, carry `eqWord#` 0## #)
 
          | 0## <- carry
          = case mwaArrayCopy# mwa i wa i (sz -# i) s of
-            s' -> (# s', 0# #)
+            s' -> (# s', 1# #) -- no overflow
 
          | True
          = case subWordC# (indexWordArray# wa i) carry of
             (# 0##, 0# #)
                | isTrue# (i ==# sz) -> case mwaShrink# mwa 1# s of
-                                          s' -> (# s', 0# #)
+                                          s' -> (# s', 1# #) -- no overflow
 
             (# l  , c  #) -> case mwaWrite# mwa i l s of
                               s1 -> go (int2Word# c) (i +# 1#) s1


=====================================
libraries/ghc-bignum/src/GHC/Num/WordArray.hs
=====================================
@@ -318,7 +318,7 @@ mwaAddInplaceWord# mwa i y   s = case readWordArray# mwa i s of
 -- | Sub Word# inplace (at the specified offset) in the mwa with carry
 -- propagation.
 --
--- Return True# on overflow
+-- Return False# on overflow
 mwaSubInplaceWord#
    :: MutableWordArray# d
    -> Int#
@@ -328,9 +328,9 @@ mwaSubInplaceWord#
 mwaSubInplaceWord# mwa ii iw s1 = case mwaSize# mwa s1 of
    (# is, sz #) ->
       let
-         go _ 0## s = (# s, 0# #) -- no overflow
+         go _ 0## s = (# s, 1# #) -- no overflow
          go i y   s
-            | isTrue# (i >=# sz) = (# s, 1# #) -- overflow
+            | isTrue# (i >=# sz) = (# s, 0# #) -- overflow
             | True = case readWordArray# mwa i s of
                (# s1, x #) -> let !(# l,h #) = subWordC# x y
                   in case mwaWrite# mwa i l s1 of
@@ -368,16 +368,16 @@ mwaTrimCompare k mwa wb s1
 --
 -- We don't trim the resulting array!
 --
--- Return True# on overflow.
+-- Return False# on overflow.
 mwaSubInplaceArray :: MutableWordArray# d -> Int# -> WordArray# -> State# d -> (# State# d, Bool# #)
 mwaSubInplaceArray mwa off wb = go (wordArraySize# wb -# 1#)
    where
       go i s
-         | isTrue# (i <# 0#) = (# s, 0# #) -- no overflow
+         | isTrue# (i <# 0#) = (# s, 1# #) -- no overflow
          | True
          = case mwaSubInplaceWord# mwa (off +# i) (indexWordArray# wb i) s of
-            (# s2, 0# #) -> go (i -# 1#) s2
-            (# s2, _  #) -> (# s2, 1# #) -- overflow
+            (# s2, 1# #) -> go (i -# 1#) s2
+            (# s2, _  #) -> (# s2, 0# #) -- overflow
 
 -- | Add array inplace (a the specified offset) in the mwa with carry propagation.
 --
@@ -398,19 +398,19 @@ mwaAddInplaceArray mwa off wb = go 0# 0##
 --
 -- We don't trim the resulting array!
 --
--- Return True# on overflow.
+-- Return False# on overflow.
 mwaSubInplaceMutableArray :: MutableWordArray# d -> Int# -> MutableWordArray# d -> State# d -> (# State# d, Bool# #)
 mwaSubInplaceMutableArray mwa off mwb s0 =
    case mwaSize# mwb s0 of
       (# s1, szB #) -> go (szB -# 1#) s1
    where
       go i s
-         | isTrue# (i <# 0#) = (# s, 0# #) -- no overflow
+         | isTrue# (i <# 0#) = (# s, 1# #) -- no overflow
          | True
          = case readWordArray# mwb i s of
             (# s1, bi #) -> case mwaSubInplaceWord# mwa (off +# i) bi s1 of
-               (# s2, 0# #) -> go (i -# 1#) s2
-               (# s2, _  #) -> (# s2, 1# #) -- overflow
+               (# s2, 1# #) -> go (i -# 1#) s2
+               (# s2, _  #) -> (# s2, 0# #) -- overflow
 
 -- | Sub an array inplace and then trim zeroes
 --


=====================================
testsuite/tests/numeric/should_run/T18604.hs
=====================================
@@ -0,0 +1,10 @@
+module Main (main) where
+
+import Numeric.Natural
+
+main :: IO ()
+main = print (n - s)
+  where
+    n, s :: Natural
+    n = 137503105969312982142385040956303729937425409769904987267247644890331944583201
+    s = 370814112419299627365008243601943822482


=====================================
testsuite/tests/numeric/should_run/T18604.stdout
=====================================
@@ -0,0 +1 @@
+137503105969312982142385040956303729937054595657485687639882636646730000760719


=====================================
testsuite/tests/numeric/should_run/all.T
=====================================
@@ -73,3 +73,4 @@ test('T18359', normal, compile_and_run, [''])
 test('T18499', normal, compile_and_run, [''])
 test('T18509', normal, compile_and_run, [''])
 test('T18515', normal, compile_and_run, [''])
+test('T18604', normal, compile_and_run, [''])



View it on GitLab: https://gitlab.haskell.org/ghc/ghc/-/commit/dc476a5040cdc64c177de0f78edaafec0972cff4

-- 
View it on GitLab: https://gitlab.haskell.org/ghc/ghc/-/commit/dc476a5040cdc64c177de0f78edaafec0972cff4
You're receiving this email because of your account on gitlab.haskell.org.


-------------- next part --------------
An HTML attachment was scrubbed...
URL: <http://mail.haskell.org/pipermail/ghc-commits/attachments/20200826/fa5ae151/attachment-0001.html>


More information about the ghc-commits mailing list