Efectos de Cuantización
Una ventaja de la aritmética de complemento de 2 es la mostrada en el siguiente ejemplo. Se quiere hacer la suma 0.687510+0.812510-0.562510 con un código digital de 5 bits en complemento de 2. La suma de los dos primeros operando da overflow. Sin embargo, si eliminamos el bit de signo y continuamos sumando el resultado será correcto:
01011+01101=11000 Eliminamos el bit de signo porque hay overflow 01000
- 01000+10111=01111 Lo que equivale a 0.9375, el resultado correcto.
Una forma de evitar el overflow multiplicar las operaciones por un factor que evite el overflow. Este factor debe ser lógicamente menor que 1, lo que emperora relación señal ruido del filtro. Vimos en el capítulo 5 que la relación señal-ruido en una señal cuantizada es,
Ps es la potencia de la señal de entrada, D es el fondo de escala y b es el número de bits. Ps es proporcional a la varianza de la señal, sx2. Si multiplicamos la señal por un factor A, la potencia de la señal será A2sx2. Sustituyendo en la ecuación vemos que si Aɭ, mejora la SNRQ, pero se corre el peligro de producir overflow. Por el contrario, un valor de Aə, evita el overflow pero empeora la SNRQ.