shithub: opus

Info  •  Files  •  Log  •  Branches

Fix signed integer overflows in silk_noise_shape_quantizer_del_dec

--- a/silk/NSQ_del_dec.c

+++ b/silk/NSQ_del_dec.c

@@ -394,8 +394,8 @@

         /* Long-term shaping */

         if( lag > 0 ) {

             /* Symmetric, packed FIR coefficients */

-            n_LTP_Q14 = silk_SMULWB( silk_ADD32( shp_lag_ptr[ 0 ], shp_lag_ptr[ -2 ] ), HarmShapeFIRPacked_Q14 );

-            n_LTP_Q14 = silk_SMLAWT( n_LTP_Q14, shp_lag_ptr[ -1 ],                      HarmShapeFIRPacked_Q14 );

+            n_LTP_Q14 = silk_SMULWB( silk_ADD_SAT32( shp_lag_ptr[ 0 ], shp_lag_ptr[ -2 ] ), HarmShapeFIRPacked_Q14 );

+            n_LTP_Q14 = silk_SMLAWT( n_LTP_Q14, shp_lag_ptr[ -1 ], HarmShapeFIRPacked_Q14 );

             n_LTP_Q14 = silk_SUB_LSHIFT32( LTP_pred_Q14, n_LTP_Q14, 2 );            /* Q12 -> Q14 */

             shp_lag_ptr++;

         } else {

@@ -453,7 +453,7 @@

             /* r = x[ i ] - LTP_pred - LPC_pred + n_AR + n_Tilt + n_LF + n_LTP  */

             tmp1 = silk_ADD32( n_AR_Q14, n_LF_Q14 );                                    /* Q14 */

             tmp2 = silk_ADD32( n_LTP_Q14, LPC_pred_Q14 );                               /* Q13 */

-            tmp1 = silk_SUB32( tmp2, tmp1 );                                            /* Q13 */

+            tmp1 = silk_SUB_SAT32( tmp2, tmp1 );                                        /* Q13 */

             tmp1 = silk_RSHIFT_ROUND( tmp1, 4 );                                        /* Q10 */

             r_Q10 = silk_SUB32( x_Q10[ i ], tmp1 );                                     /* residual error Q10 */

@@ -535,7 +535,7 @@

             /* Update states */

             psSS[ 0 ].Diff_Q14     = silk_SUB_LSHIFT32( xq_Q14, x_Q10[ i ], 4 );

             sLF_AR_shp_Q14         = silk_SUB32( psSS[ 0 ].Diff_Q14, n_AR_Q14 );

-            psSS[ 0 ].sLTP_shp_Q14 = silk_SUB32( sLF_AR_shp_Q14, n_LF_Q14 );

+            psSS[ 0 ].sLTP_shp_Q14 = silk_SUB_SAT32( sLF_AR_shp_Q14, n_LF_Q14 );

             psSS[ 0 ].LF_AR_Q14    = sLF_AR_shp_Q14;

             psSS[ 0 ].LPC_exc_Q14  = LPC_exc_Q14;

             psSS[ 0 ].xq_Q14       = xq_Q14;

@@ -555,7 +555,7 @@

             /* Update states */

             psSS[ 1 ].Diff_Q14     = silk_SUB_LSHIFT32( xq_Q14, x_Q10[ i ], 4 );

             sLF_AR_shp_Q14         = silk_SUB32( psSS[ 1 ].Diff_Q14, n_AR_Q14 );

-            psSS[ 1 ].sLTP_shp_Q14 = silk_SUB32( sLF_AR_shp_Q14, n_LF_Q14 );

+            psSS[ 1 ].sLTP_shp_Q14 = silk_SUB_SAT32( sLF_AR_shp_Q14, n_LF_Q14 );

             psSS[ 1 ].LF_AR_Q14    = sLF_AR_shp_Q14;

             psSS[ 1 ].LPC_exc_Q14  = LPC_exc_Q14;

             psSS[ 1 ].xq_Q14       = xq_Q14;