Identificación de la respuesta impulsional de un sistema LTI discreto: regularización

Antonio Sala, UPV

Dificultad: **** ,       Relevancia: ,      Duración: 10:37

Resumen:

Este vídeo plantea cómo regularizar (disminuir sensibilidad al ruido) un problema de identificación de respuesta impulsional de un sistema lineal discreto invariante en el tiempo. En los dos primeros minutos se revisan rápidamente las ideas detalladas en el vídeo [impulid] donde se plantea el problema y se resuelve sin regularización; la visualización previa de ese vídeo podría ser aconsejable, sobre todo si no recuerdas bien la fórmula de convolución.

La primera opción de regularización revisada será el truncar la respuesta impulsional. Se hará la identificación sobre datos de entrenamiento con una longitud de respuesta desde 1 hasta 36, y se sugerirá aquél valor de longitud de respuesta (número de parámetros estimados) que minimice el error sobre unos datos de validación entrada-salida independientes de los de entrenamiento.

La segunda opción de regularización será el criterio de información de Akaike, que determina el factor de mejora del error que compensa introducir un nuevo parámetro adicional.

Ambos criterios recomiendan estimar alrededor de 9 parámetros, lo cual se hace y se propone como resultado final regularizado; tendremos más sesgo (bias) al usar un modelo menos expresivo (podremos acercarnos menos a la “verdad verdadera”), pero menos varianza (sensibilidad a ruido), con lo que la repetición del experimento da parámetros estimados similares (más similares que sin regularizar).

Como opción alternativa para regularizar, en el minuto [08:00] se plantea la regularización por “ridge regression”, minimizar $\parallel y-T𝜃{\parallel }^2+\lambda \cdot \parallel 𝜃{\parallel }^2$. La idea es que de ese modo los parámetros $𝜃$ que no contribuyan a hacer pequen~o el error sean empujados hacia cero. El valor de $\lambda$ lo determinamos, como al principio, mediante la minimización del error sobre datos de validación.

En este ejemplo en particular, no funciona demasiado bien: los resultados son muy parecidos al estimado no regularizado, porque en cuanto empezamos a “empujar” hacia cero sube muy rápidamente el error.

Nota: Este mismo problema se utiliza en otros materiales para evaluar las prestaciones de otras dos metodologías de regularización:

• El vídeo [impulidPCR] utiliza los valores singulares (y las direcciones asociadas) de la matriz de regresores $T$ para hacer regularización por “principal component regression”, cuya visualización se aconseja (quizás, previamente, mirad la teoría en el vídeo [pcr]).

• Otra opción de regularización basada en procesos estocásticos gaussianos se aborda en los vídeos [impulkerT], [impulkerM1] y [impulkerM2]; los contenidos son de mayor dificultad, no es necesario visualizarlos para entender correctamente las ideas aquí planteadas.

Colección completa [VER]:

• Anterior   Identificación de la respuesta impulsional de un sistema LTI discreto: ejemplo Matlab

• Siguiente Identificación de modelos discretos ARX por mínimos cuadrados no recursivos: ejemplo MATLAB