Efectos de Cuantización
Análisis de cuantización de coeficientes en los filtros FIR.
La función de transferencia de un filtro FIR de orden M-1 es :
La cuantización de los coeficientes resulta en una nueva función de transferencia,
Calculamos el límite superior de la función de transferencia en el círculo unidad:
En el peor caso en que todos los errores de redondeo sean máximos, el error del filtro está acotado por
Este límite es bastante pesimista. Un límite más realista se obtiene si suponemos que la señal e[n] es una variable aleatoria con varianza se2. La varianza de E(ejw) se puede demostrar que es (se2 = d2/12),