Capítulo 7
Procesado estadístico de señal: procesos estocásticos

Nota 1: Para la mejor comprensión de los resultados de este capítulo, es muy recomendable la revisión de los conceptos básicos de Estadística discutidos en el Apéndice A.4.

Nota 2: En el caso de señales aleatorias en tiempo discreto con dinámica lineal, muchos conceptos pueden ser abreviados/simplificados. Un lector “con prisas”, sin interés en el enfoque frecuencial/continuo, podría saltar a la Sección 7.2 en una primera lectura, y decidir posteriormente si la temática le interesa lo suficiente para empezar desde cero, con los fundamentos en la Sección 7.1.

7.1 Procesos estocásticos: definiciones básicas y ejemplos

[198: estoc1]  Procesos estocásticos (funciones aleatorias): motivación, definición y ejemplos para estudiantes ingeniería **  15:47 *Link to English version

[199: estoct]  Señales con ruido: procesos estocásticos en el tiempo (series temporales), definiciones básicas ***  11:00

[200: estoce]  Procesos estocásticos estacionarios ****  13:12

[201: estoctm]  Procesos estocásticos en el tiempo (series temporales, introducción): ejemplo Matlab ****  09:58

[202: ergod]  Procesos estacionarios ergódicos ****  10:51

[203: ergodml]  Procesos estacionarios ergódicos: ejemplo Matlab serie temporal ****  10:24

7.1.1 Descripción frecuencial de los procesos estacionarios

Nota: Para la comprensión de esta sección, se recomienda revisar los conceptos básicos sobre la Transformada de Fourier de la Sección 5.3, al menos el material sobre la definición y propiedades [ tfour(19:27)].

[204: psd]  Densidad espectral de potencia en señales aleatorias estacionarias *****  17:24

7.1.2 Generación de muestras de un proceso estocástico gaussiano

[205: dadogaus]  Generación de trayectorias de un proceso estocástico gaussiano de autocovarianza dada ****  12:46

[206: gpsamb]  Realizaciones de proceso gaussiano (ejemplo Matlab) ***  13:32 *Link to English version

[207: gpsambpo]  Realizaciones de proceso gaussiano con observaciones (muestras del posterior): ejemplo Matlab ****  14:53 *Link to English version

7.1.3 Procesos estocásticos de varias salidas (MIMO)

[208: mimoGP1EN]  (1/5) Multi-Output Gaussian Processes: Motivation ***  15:34

[209: mimogp2EN]  (2/5) Multi-Output Gaussian Processes: representation; code for realizations ****  21:58

7.1.4 Componentes principales (transformación autofunciones Karhunen-Loève)

[210: karhloevml]  Análisis componentes principales de un proceso estocástico (transf. Karhunen-Loève): ejemplo Matlab (muestreado) *****  15:52

[211: gpkh2]  Componentes Karhunen-Loeve (PCA) de proceso gaussiano, ejemplo Matlab ****  15:19 *Link to English version

[212: gpkh2p]  Componentes Karhunen-Loeve (PCA) de proceso gaussiano, animación y discusión adicional ****  13:50 *Link to English version

Componente principales en procesos de varias salidas

[213: mimogp3pcaEN]  (3/5) Multi-output Gaussian Processes: principal component analysis, Karhunen-Loeve eigenfunctions ****  09:46

[214: gpcholEN]  Gaussian process: Cholesky factor of covariance, spectral factor (Matlab example) *****  19:34

[215: gpanticaEN]  Gaussian process: anticausal and bilateral representations (Matlab example) *****  13:48

7.2 Ecuaciones en diferencias estocásticas: Respuesta ante entrada aleatoria de sistemas discretos

Aunque las ecuaciones de la física son realmente en tiempo contínuo, el análisis de los procesos estocásticos en tiempo contínuo es un poco más difícil que el discreto. En sistemas en tiempo discreto, la simulación de procesos estocásticos con dinámica lineal se hace más comprensible y, por tanto, la presentación comienza por estos sistemas. Esta sección detalla, de forma “autocontenida” dicho caso sencillo. Intencionalmente, los vídeos siguientes pueden visionarse sin necesidad de haber visionado o comprendido en profundidad los vídeos de secciones anteriores de este capítulo.

El caso de tiempo contínuo se abordará en la Sección sec:stoccont.

[216: stochOA]  Series Temporales y procesos estocásticos lineales (tiempo discreto) ****  11:00

7.2.1 Ejemplos

[217: tuborui]  Análisis de procesos lineales sujetos a entradas tipo ruido coloreado: ejemplo Matlab tubería ****  12:29

[218: stochML]  Simulación de procesos estocásticos lineales (discretos): ejemplo Matlab masas-muelles-amortiguadores con ruido ****  17:53

7.3 Ecuaciones diferenciales estocásticas (procesos estoc. en tiempo continuo)

Motivación:

[219: edostochmal]  Procesos continuos con ruido (procesos estocásticos en tiempo contínuo): como NO simularlos bien (+truco para hacerlo correctamente) ***  11:14

7.3.1 El proceso de Wiener (movimiento Browniano)

[220: wienerlim]  Procesos Estocásticos, proceso de Wiener: límite tiempo continuo de integrador en tiempo discreto ****  18:52

[221: wienermlab1]  Procesos Estocásticos, proceso de Wiener: ejemplo Matlab ***  08:32

[222: wienerprops]  Procesos Estocásticos, proceso de Wiener: Interpretación física y propiedades *****  19:50

7.3.2 Ecuaciones Diferenciales Estocásticas

[223: edostoch]  Procesos estocásticos en tiempo continuo: representación como ecuaciones diferenciales estocásticas ****  16:18

7.3.3 EDO Estocásticas lineales

[224: edoslin1]  Ecuaciones diferenciales estocásticas lineales (Ornstein-Uhlenbeck): definición y conceptos preliminares ***  13:12

[225: edoslinm]  Ecuaciones diferenciales estocásticas lineales: ecuación de medias ****  07:11

[226: edoslinv]  Ecuaciones diferenciales estocásticas lineales: ecuación de varianzas en tiempo continuo *****  22:14

Ejemplos Matlab

[227: edoslim1]  Ecuaciones diferenciales estocásticas lineales: integración ode45 de ecuaciones de media y varianzas ***  15:21

[228: edoslim2]  Ecuaciones diferenciales estocásticas lineales: intervalos y elipsoides de confianza via integración ecs. media y varianza ****  13:52

[229: solecvzml]  Simulación ode45 ec. varianza en proceso continuo segundo orden: ejemplo Matlab elipsoide confianza ****  11:33

7.3.4 Solución exponencial de ecuaciones de medias, varianzas y autocovarianzas

[230: solecmv]  Ecuaciones diferenciales estocásticas lineales: solución ecuaciones medias y varianzas (expm) ****  13:13

[231: vanloan]  Fórmula de Van Loan (expm) para discretización de ecuación de varianzas de ODE estocástica lineal ****  13:55 *Link to English version

Ejemplos Matlab, simulación y predicción

[232: edoslin1oa]  Ecuaciones de medias y varianzas en procesos de primer orden: ejemplo Matlab ***  12:45

[233: edoslin1ob]  Ecuaciones de covarianza en procesos de primer orden: interpolación y extrapolación (Matlab) ****  16:13

[234: iwp1]  Posición sujeta a aceleración aleatoria (integrated Wiener Process) propiedades y predicción estadística sobre el mismo (Matlab) ****  19:24

[235: dto2]  Solución ec. varianzas: fórmulas exponenciales y gramiano (ejemplo Matlab) ***  13:07

[236: mpvr]  Simulación (exacta) de ecs. de medias y varianzas en proceso continuo segundo orden: ejemplo Matlab ****  20:59

7.4 Estimación en series temporales a partir de Kernel de covarianza

[237: krigt]  Kriging: estimación (interpolación/extrapolación) en series temporales con autocovarianza conocida ****  08:44

[238: krigtm]  Interpolación/extrapolación en series temporales estacionarias a partir de número finito de muestras: ejemplo Matlab (Kriging) ***  10:29

[239: wienkrig]  Estimación (interpolación, kriging) con procesos no estacionarios: Wiener, Integrated Wiener (ejemplo Matlab) ****  10:59

7.4.1 Estimación con medidas de “velocidad” (derivadas parciales de proceso estocástico)

[240: gradgp]  Media y covarianza de las derivadas parciales (velocidad, gradiente) de un proceso estocástico *****  15:55 *Link to English version

[241: gradgpst]  Caracterización derivadas de proceso estocástico con jacobiano/hesiano covarianza: caso estacionario *****  11:10 *Link to English version

[242: gpvel1]  Covarianza entre posición y velocidad: ejemplo (1) ****  12:00 *Link to English version

[243: gpvel2]  Covarianza entre posición y velocidad: ejemplo, predicción (2) ****  17:48 *Link to English version

7.4.2 Ejemplo: el proceso (kernel) tipo Matérn

[244: maternEN]  Matérn kernel and squared-exponential one: intuition as a filter with repeated real poles ****  14:35

[245: maternr1EN]  Matérn kernel regression (1): basic setup, 1st order filter example, linear interpolation ***  16:40

7.4.3 Procesos estocásticos bidimensionales

[246: krig2dm]  Interpolación en procesos gaussianos 2D (Kriging, Kernel Regression): ejemplo Matlab ****  09:25

[247: mimogp4predAEN]  (4/5) Multi-output Gaussian Processes: joint prediction ****  17:42

[248: mimogp5predUEN]  (5/5) Multi-output Gaussian Processes: latent factor estimation ****  22:55

7.5 Estimación a partir de EDO estocástica, ejemplo

En esta sección abordaremos un caso de estudio sobre estimar la velocidad de un sistema sujeto a aceleración aleatoria, a partir de su ‘representación en variables de estado’ $dx=Ax\cdot dt+G\cdot dB$ estocástica.

Comenzaremos con un filtro ‘naïve’ por ‘diferencia finita de posiciones’, pero el estimador óptimo con un histórico de muestras es el filtro de Kalman, como se dice en el último de los vídeos del caso de estudio; por su gran importancia teórica y tecnológica, dicho filtro se estudiará en detalle en el capítulo 17, aquí simplemente se utiliza una línea de Matlab para calcularlo y comprobar que es mejor que las propuestas ‘de memoria finita’ que sí detallamos.

[249: fdest1]  Estimación velocidad por diferencias finitas (1): motivación y planteamiento del problema ***  12:41

[250: fdest2]  Estimación velocidad por diferencias finitas (2): análisis estadístico varianza error de predicción ***  14:48

[251: fdest3]  Estimación velocidad por diferencias finitas (3): comparación con estimador óptimo ventana finita **  15:19

[252: fdest4]  Estimación velocidad por diferencias finitas (4): comparación filtro Kalman ****  15:19

7.6 Optimización Bayesiana

7.6.1 Motivación y esbozo de la metodología

[253: BOmot1]  Optimización Bayesiana: introducción y motivación (parte 1) **  16:47 *Link to English version

[254: BOmot2]  Optimización Bayesiana, introducción (parte 2): esbozo de la metodología ***  11:46 *Link to English version

[255: BOmot3]  Optimización Bayesiana, introducción (parte 3): fórmulas del posterior y funciones de adquisición de próxima muestra (esbozo) ****  10:40 *Link to English version

[256: BOmot4]  Optimización Bayesiana, introducción (parte 4): aplicaciones, observaciones finales **  17:57 *Link to English version

[257: boloop1EN]  Bayesian Optimization loop: a quick example of the methodology ***  12:29

7.6.2 Detalles, código y ejemplos

[258: boinopEN]  Bayesian optimization: implicit information about the optimum in a Gaussian process ***  18:53

[259: boPIEN]  Bayesian Optimization: probability of improvement, example ****  20:45

[260: boEIEN]  Bayesian Optimization: expected improvement, example (+LCB,PI,EV) ****  19:58

[261: boloop2EN]  Bayesian optimization: PI, EI, LCB detailed example (Matlab) ****  15:59

[262: boloop3EN]  Bayesian optimization: bad performance examples *****  17:17