CO.DE Academy — Aprende tecnología con práctica real

CO.DE Academy — Aprende tecnología con práctica real

Una operación que no venía en el paquete

La estructura de espacio vectorial —suma y escalado— no dice nada sobre longitudes ni ángulos. Para hablar de geometría hay que añadir una operación: el producto punto. A cambio de esa adición obtenemos casi todo lo demás: normas, ángulos, perpendicularidad, distancias a subespacios y, en la lección 9, la solución de problemas que no tienen solución exacta.

$\mathbf{u}\cdot\mathbf{v} = \mathbf{u}^{\mathsf{T}}\mathbf{v} = u_1v_1 + u_2v_2 + \cdots + u_nv_n$

Es una función que toma dos vectores y devuelve un número. Sus propiedades se comprueban en una línea: es simétrica ( $\mathbf{u}\cdot\mathbf{v} = \mathbf{v}\cdot\mathbf{u}$ ), lineal en cada argumento, y definida positiva ( $\mathbf{u}\cdot\mathbf{u} \ge 0$ , con igualdad solo si $\mathbf{u} = \mathbf{0}$ ). Esa última propiedad conecta el producto punto con la norma:

$\lVert\mathbf{u}\rVert^2 = \mathbf{u}\cdot\mathbf{u}$

El puente entre álgebra y geometría

La expresión anterior es puramente algebraica. La interpretación geométrica es un teorema, no una definición:

$\mathbf{u}\cdot\mathbf{v} = \lVert\mathbf{u}\rVert\,\lVert\mathbf{v}\rVert\cos\theta$

Demostración (teorema del coseno). En el triángulo de lados $\mathbf{u}$ , $\mathbf{v}$ y $\mathbf{u}-\mathbf{v}$ , el teorema del coseno dice $\lVert\mathbf{u}-\mathbf{v}\rVert^2 = \lVert\mathbf{u}\rVert^2 + \lVert\mathbf{v}\rVert^2 - 2\lVert\mathbf{u}\rVert\lVert\mathbf{v}\rVert\cos\theta$ . Desarrollando el lado izquierdo con el producto punto: $\lVert\mathbf{u}-\mathbf{v}\rVert^2 = \lVert\mathbf{u}\rVert^2 - 2\,\mathbf{u}\cdot\mathbf{v} + \lVert\mathbf{v}\rVert^2$ . Igualando y cancelando se obtiene el resultado. $\blacksquare$

La consecuencia práctica es que ahora podemos definir el ángulo entre dos vectores de $\mathbb{R}^{1000}$ , donde no hay transportador posible:

$\cos\theta = \frac{\mathbf{u}\cdot\mathbf{v}}{\lVert\mathbf{u}\rVert\,\lVert\mathbf{v}\rVert}$

Esa cantidad se llama similitud del coseno y es, literalmente, cómo un buscador semántico compara dos textos representados como vectores. El signo del producto punto clasifica la situación en tres casos:

Signo de $\mathbf{u}\cdot\mathbf{v}$	Ángulo	Interpretación
Positivo	$\theta < 90^\circ$	apuntan «hacia el mismo lado»
Cero	$\theta = 90^\circ$	ortogonales
Negativo	$\theta > 90^\circ$	se oponen

Cauchy-Schwarz y la desigualdad triangular

Como $|\cos\theta| \le 1$ , se sigue de inmediato la desigualdad más usada del análisis:

$|\mathbf{u}\cdot\mathbf{v}| \le \lVert\mathbf{u}\rVert\,\lVert\mathbf{v}\rVert \qquad \text{(Cauchy-Schwarz)}$

con igualdad si y solo si los vectores son proporcionales. De ella sale la desigualdad triangular sin más que desarrollar un cuadrado:

$\lVert\mathbf{u}+\mathbf{v}\rVert^2 = \lVert\mathbf{u}\rVert^2 + 2\,\mathbf{u}\cdot\mathbf{v} + \lVert\mathbf{v}\rVert^2 \le \lVert\mathbf{u}\rVert^2 + 2\lVert\mathbf{u}\rVert\lVert\mathbf{v}\rVert + \lVert\mathbf{v}\rVert^2 = (\lVert\mathbf{u}\rVert + \lVert\mathbf{v}\rVert)^2$

Es decir: el camino recto es el más corto, deducido de una suma de productos de números.

1 de 6

Proyección ortogonal sobre una recta

Este es el resultado que hay que llevarse de la lección. Dada una recta $\operatorname{span}\{\mathbf{a}\}$ y un vector $\mathbf{b}$ , ¿cuál es el punto de la recta más cercano a $\mathbf{b}$ ?

La respuesta tiene una forma cerrada, y el camino para obtenerla es más importante que la fórmula. No se minimiza una distancia derivando: se impone que el error sea perpendicular. Buscamos $\mathbf{p} = \hat{x}\,\mathbf{a}$ tal que $\mathbf{e} = \mathbf{b} - \hat{x}\mathbf{a}$ sea ortogonal a $\mathbf{a}$ :

$\mathbf{a}^{\mathsf{T}}(\mathbf{b} - \hat{x}\mathbf{a}) = 0 \;\Longrightarrow\; \hat{x} = \frac{\mathbf{a}^{\mathsf{T}}\mathbf{b}}{\mathbf{a}^{\mathsf{T}}\mathbf{a}} \;\Longrightarrow\; \mathbf{p} = \frac{\mathbf{a}^{\mathsf{T}}\mathbf{b}}{\mathbf{a}^{\mathsf{T}}\mathbf{a}}\,\mathbf{a}$

Y como $\mathbf{p}$ y $\mathbf{e}$ son ortogonales, Pitágoras se cumple exactamente: $\lVert\mathbf{b}\rVert^2 = \lVert\mathbf{p}\rVert^2 + \lVert\mathbf{e}\rVert^2$ . La norma del residuo, $\lVert\mathbf{e}\rVert$ , es la distancia de $\mathbf{b}$ a la recta.

Ejemplo resuelto 1: proyección con números

Con $\mathbf{a} = (3,1)$ y $\mathbf{b} = (1,3)$ : $\mathbf{a}^{\mathsf{T}}\mathbf{b} = 3 + 3 = 6$ y $\mathbf{a}^{\mathsf{T}}\mathbf{a} = 9 + 1 = 10$ , luego $\hat{x} = 0.6$ y

$\mathbf{p} = 0.6\begin{bmatrix}3\\1\end{bmatrix} = \begin{bmatrix}1.8\\0.6\end{bmatrix}, \qquad \mathbf{e} = \begin{bmatrix}1\\3\end{bmatrix} - \begin{bmatrix}1.8\\0.6\end{bmatrix} = \begin{bmatrix}-0.8\\2.4\end{bmatrix}$

Comprobación: $\mathbf{a}^{\mathsf{T}}\mathbf{e} = 3(-0.8) + 1(2.4) = 0$ . Y Pitágoras: $\lVert\mathbf{b}\rVert^2 = 10$ , $\lVert\mathbf{p}\rVert^2 = 3.6$ , $\lVert\mathbf{e}\rVert^2 = 6.4$ , y en efecto $3.6 + 6.4 = 10$ . La distancia de $\mathbf{b}$ a la recta es $\sqrt{6.4} = 2.5298$ .

Ejemplo resuelto 2: la matriz de proyección

Reordenando la fórmula sin mover nada de sitio se ve algo importante:

$\mathbf{p} = \mathbf{a}\frac{\mathbf{a}^{\mathsf{T}}\mathbf{b}}{\mathbf{a}^{\mathsf{T}}\mathbf{a}} = \underbrace{\frac{\mathbf{a}\mathbf{a}^{\mathsf{T}}}{\mathbf{a}^{\mathsf{T}}\mathbf{a}}}_{P}\,\mathbf{b}$

Proyectar es aplicar una matriz. Para $\mathbf{a} = (3,1)$ :

$P = \frac{1}{10}\begin{bmatrix}9 & 3\\3 & 1\end{bmatrix}$

Esa matriz cumple dos propiedades que la caracterizan: $P^{\mathsf{T}} = P$ (simétrica) y $P^2 = P$ (idempotente: proyectar dos veces es proyectar una). Volverán en la lección 9 generalizadas a subespacios de cualquier dimensión, y en la lección 11 como el ejemplo más simple de matriz simétrica con autovalores 0 y 1.

Al proyectar $\mathbf{b}$ sobre la recta generada por $\mathbf{a}$ obtienes $\mathbf{p} = \mathbf{0}$ . ¿Qué ha ocurrido?

Ortogonalidad como herramienta de diseño

La razón por la que la ortogonalidad domina el resto del curso es que desacopla. Si una base es ortogonal, las coordenadas de un vector se calculan una a una con productos punto, sin resolver ningún sistema:

$\mathbf{w} = \sum_i \frac{\mathbf{q}_i^{\mathsf{T}}\mathbf{w}}{\mathbf{q}_i^{\mathsf{T}}\mathbf{q}_i}\,\mathbf{q}_i$

Cambiar una componente no afecta a las demás. Ese es exactamente el motivo de que la transformada de Fourier de Señales y Sistemas sea útil (sus senos y cosenos son ortogonales), de que el análisis de componentes principales funcione (lección 12) y de que Gram-Schmidt sea un algoritmo que merece la pena (lección 9).

Playground · python

Lo que este modelo deja fuera

El producto punto euclídeo no es el único producto escalar posible. En estadística se usa el producto ponderado $\mathbf{u}^{\mathsf{T}}W\mathbf{v}$ con $W$ definida positiva, que da otras nociones de ángulo y distancia; en Señales y Sistemas el producto escalar de funciones es una integral. Todos comparten los tres axiomas de esta lección, y por eso todos los teoremas que demostremos con productos punto valen también allí. La comprobación numérica $\mathbf{a}^{\mathsf{T}}\mathbf{e}$ del laboratorio no da exactamente cero sino del orden de $10^{-16}$ : es el redondeo de la aritmética de doble precisión, no un fallo del argumento.

En la lección 4 damos el salto conceptual del curso: dejamos de ver la matriz como una tabla de números y empezamos a verla como lo que es, una función que mueve el espacio entero.