mpbarrett: Mark newly-split d as UNDEF.
authorMark Wooding <mdw@distorted.org.uk>
Tue, 20 Feb 2007 00:10:47 +0000 (00:10 +0000)
committerMark Wooding <mdw@distorted.org.uk>
Wed, 21 Feb 2007 12:37:38 +0000 (12:37 +0000)
After being split off from m (or whatever), we write q - mb->m into d's
storage; obviously we don't need whatever was there before, so it's safe
to set UNDEF.  We'll clear the flag shortly afterwards when d inherits
its sign and burn flags.

mpbarrett.c

index 651932a..13210b3 100644 (file)
@@ -137,7 +137,7 @@ mp *mpbarrett_reduce(mpbarrett *mb, mp *d, mp *m)
       mvl = m->v + k + 1;
     r = mp_new(k + 1, (q->f | mb->m->f) & MP_BURN);
     mpx_umul(r->v, r->vl, q->v + k + 1, q->vl, mb->m->v, mb->m->vl);
-    MP_DEST(d, k + 1, r->f);
+    MP_DEST(d, k + 1, r->f | MP_UNDEF);
     mpx_usub(d->v, d->vl, m->v, mvl, r->v, r->vl);
     d->f = (m->f | r->f) & (MP_BURN | MP_NEG);
     MP_DROP(r);