Show
Ignore:
Timestamp:
03/13/07 17:37:48 (2 years ago)
Author:
pernet
Message:

fix a bug for the bound computation with LinBox?

Files:
1 modified

Legend:

Unmodified
Added
Removed

  • include/fflas-ffpack/fflas_bounds.inl

    r1 r8  
    3737                        for (size_t i=0; i < w; ++i)    ex *= 3; 
    3838                        //FFLAS_INT_TYPE c = (p-1)*(ex)/2; //bound for a centered representation 
    39                         FFLAS_INT_TYPE c = (p-1)*(1+ex)/2; 
     39                        long long c = (p-1)*(1+ex)/2; 
    4040                        kmax =  lround(( double(1ULL << DOUBLE_MANTISSA) /double(c*c) + 1)*(1 << w)); 
    4141                        if (kmax ==  ( 1ULL << w)) 
    … …  
    4343                } 
    4444                else{ 
    45                         FFLAS_INT_TYPE c = p-1; 
    46                         FFLAS_INT_TYPE cplt=0; 
     45                        long long c = p-1; 
     46                        long long cplt=0; 
    4747                        if (!F.isZero (beta)) 
    4848                                if (F.isOne (beta) || F.areEqual (beta, mone)) 
    … …  
    8282                } 
    8383                else{ 
    84                         FFLAS_INT_TYPE c = p-1; 
    85                         FFLAS_INT_TYPE cplt=0; 
     84                        long long c = p-1; 
     85                        long long cplt=0; 
    8686                        if (!F.isZero (beta)) 
    8787                                if (F.isOne (beta) || F.areEqual (beta, mone))