sshbn.c (modmul): Prevent buffer underrun.
authorMark Wooding <mdw@distorted.org.uk>
Mon, 29 Jul 2013 22:28:12 +0000 (23:28 +0100)
committerMark Wooding <mdw@distorted.org.uk>
Mon, 29 Jul 2013 22:28:12 +0000 (23:28 +0100)
commitaca5132bdf53bf0d7983c09b3b95c8bbec559580
tree70a5ef0fa60b58b7f6c904d4d31f2ef39a4e0719
parentb3b52c7d6b8fac72916479e79c2968b0dd669e9f
sshbn.c (modmul): Prevent buffer underrun.

In `modmul', if

  * the topmost bit of mod is clear, so mshift is nonzero; and

  * both p and q are no more than half as long as mod, so 2*pqlen <=
    mlen

then we run this code:

    if (mshift) {
        for (i = 2 * pqlen - mlen - 1; i < 2 * pqlen - 1; i++)
            a[i] = (a[i] << mshift) | (a[i + 1] >> (BIGNUM_INT_BITS - mshift));

But then mlen + 1 > 2*pqlen and therefore i is initially negative
-- and therefore certainly less than 2*pqlen.  So the initial access to
a[] is illegal.

Signed-off-by: Mark Wooding <mdw@distorted.org.uk>
sshbn.c