A Geometria da Regressão Linear

O problema que consiste na determinação da recta que melhor se ajusta a uma dada nuvem de $n$ pontos $(x_{i},y_{i})$ é tradicionalmente tratado como o problema de encontrar os parâmetros $a$ e $b$ da equação $y=ax+b$ que minimizam a soma $S=\sum\limits_{i=1}^{n}{d_{i}^{2}}$, em que os $d_{i}$ são as diferenças entre os valores observados e os valores do modelo, isto é, $d_{i}=y_{i}-ax_{i}-b$ (veja-se [3]).

Sejam $({x_{1},y_{1}}),\;({x_{2},y_{2}}),\;\ldots\;,({x_{n},y_{n}})$ os dados observados (nuvem de pontos na Figura 1). Para a determinação do parâmetro $a$ (declive da recta), seria “simpático” que a nuvem tivesse o seu centro de massa na origem do referencial, isto é, no ponto de coordenadas $({0,0})$. Isto porque libertar-nos-íamos do parâmetro $b$ da equação da recta, o que parece reduzir a dificuldade do problema, pois, nesta condições, o modelo associado à recta de regressão seria $y=ax$. Para fazer com que o centro de massa da nuvem se desloque para a origem, é suficiente efectuarmos uma translação de toda a nuvem de pontos segundo o vector $({-\overline{x},-\overline{y}})$, ou seja, basta subtrairmos o centro de massa $({\overline{x},\overline{y}})$ a todos os pontos da nuvem. Obtém-se assim uma nova nuvem de pontos da forma $({x_{i}-\overline{x},y_{i}-\overline{y}})$ cujo centro de massa é $({0,0})$.

Fazendo $x_{i}-\overline{x}=\tilde{x}_{i}$ e $y_{i}-\overline{y}=\tilde{y}_{i}$, a nuvem sobre a qual o trabalho prossegue será $\left(\tilde{x}_{i},\tilde{y}_{i}\right)$, com $i=1,2,\ldots,n$, cuja recta de regressão tem o mesmo declive que a recta de regressão da nuvem original, em consequência da translação efetuada.

A nova nuvem é constituída por pontos da forma $\left(\tilde{x}_{i},\tilde{y}_{i}\right)$ e os pontos da forma $\left(\tilde{x}_{i},a\tilde{x}_{i}\right)$, $i=1,2,\ldots,n$, são os pontos sobre a recta $\tilde{y}=a\tilde{x}$, que coincidiriam com os primeiros caso a correlação fosse perfeita. Os $n$ vectores $\vec{u}_{i}=\left(\tilde{x}_{i},a\tilde{x}_{i}\right)$ determinados por estes pontos são colineares. Mas aqui, uma mudança de dimensão vai tornar o trabalho mais simples: em vez de considerarmos estes $n$ vectores de dimensão 2, utilizamos os dados organizados em vectores de dimensão $\bm{n}$:

	$\displaystyle{\vec{i}}$	$\displaystyle=\left(\tilde{x}_{1},\tilde{x}_{2},\;\ldots\;,\tilde{x}_{n}\right),$
	$\displaystyle{\vec{j}}$	$\displaystyle=\left(a\tilde{x}_{1},a\tilde{x}_{2},\;\ldots\;,a\tilde{x}_{n}\right),$
		$\displaystyle e$
	$\displaystyle{\vec{u}}$	$\displaystyle=\left(\tilde{y}_{1},\tilde{y}_{2},\;\ldots\;,\tilde{y}_{n}\right).$

Os vectores ${\vec{i}}$ e ${\vec{j}}$ são colineares:

$$\begin{split}\vec{j}&=\left(a\tilde{x}_{1},a\tilde{x}_{2},\;\ldots\;,a\tilde{x}_{n}\right)\\ &=a\left(\tilde{x}_{1},\tilde{x}_{2},\;\ldots\;,\tilde{x}_{n}\right)\\ &=a\,{\vec{i}}\,.\end{split}$$

(1)

Repare-se que ${\vec{u}}-{\vec{j}}=\left({\tilde{y_{1}}-a\tilde{x_{1}},\;\ldots\;,\tilde{y_{n}}-a\tilde{x_{n}}}\right)$ não é mais do que o vector dos resíduos, isto é, o vector cujas componentes são as diferenças entre os dados observados e os dados teóricos da nova nuvem. Ora, o que se pretende é que a norma (ou distância) $\|{{\vec{u}}-{\vec{j}}}\|$ seja mínima. Isto só acontecerá se ${\vec{u}}-{\vec{j}}$ for normal a ${\vec{i}}$ (como sugere a figura 2). Para que tal aconteça, ${\vec{j}}$ tem de ser a projecção de ${\vec{u}}$ sobre ${\vec{i}}$. Logo, o produto escalar de ${\vec{u}}-{\vec{j}}$ com ${\vec{i}}$ tem de ser nulo, retirando-se desta condição o valor do multiplicador $a$, declive da recta de regressão:

	$\displaystyle\left({\vec{u}}-{\vec{j}}\,\right)\cdot{\vec{i}}$	$\displaystyle=0$
	$\displaystyle\Leftrightarrow\left({\vec{u}}-a\,{\vec{i}}\,\right)\cdot{\vec{i}}$	$\displaystyle=0\quad\left(\vec{j}=a\,\vec{i},\;de\;(\ref{colinear})\right)$
	$\displaystyle\Leftrightarrow{\vec{u}}\cdot{\vec{i}}-a\,{\vec{i}}\cdot{\vec{i}}$	$\displaystyle=0$
	$\displaystyle\Leftrightarrow a$	$\displaystyle=\dfrac{{\vec{u}}\cdot{\vec{i}}}{{\|\vec{i}\|}^{2}}\quad\left({\vec{i}}\cdot{\vec{i}}={\|\vec{i}\|}^{2}\right)\,.$		(2)

Depois de se calcular $a$ através de (1), a determinação do parâmetro $b$ é um simples exercício: dado que $({\bar{x},\bar{y}})$ pertence à recta procurada, ele terá de satisfazer a condição $y=ax+b$. Daqui se retira que $b=\bar{y}-a\bar{x}$.

O coeficiente de correlação é uma medida que pretende determinar o grau de alinhamento dos dados. Sobre ele costumam ser colocadas duas questões:

• •

  Por que razão varia no intervalo $[-1,1]$?

• •

  Por que razão a correlação entre as variáveis é tanto mais forte quanto mais próximo de $-1$ ou de $1$ se encontra o coeficiente? Não seria razoável pensarmos que quanto mais próximo de zero mais forte será a correlação, uma vez que ele mede o grau de proximidade dos dados em relação à recta?!

Repare-se que o coeficiente de correlação, sendo uma medida do alinhamento dos dados, deve estar relacionado com o “grau de colinearidade” entre os vectores $\vec{u}$ e $\vec{i}$, referentes aos dados transladados ³³3A correlação não depende da nuvem que se considera, uma vez que a operação de translação efectuada à nuvem inicial garante a manutenção das relações entre os dados observados e os teóricos.. E uma forma natural de medir este “grau de colinearidade” é estudar o ângulo $\theta$ que $\vec{u}$ e $\vec{i}$ formam entre si (ver figura 2).⁴⁴4Em tudo o que se segue pode-se substituir a unidade grau por rad Assim, $\theta$ poderia ser usado com legitimidade como medida do grau de alinhamento dos dados, ou seja, como coeficiente de correlação. O diagrama da figura 3 resume a variação deste coeficiente de correlação.

Visto que $\displaystyle{\cos\theta=\frac{\vec{u}\cdot\vec{i}}{{\|\vec{u}\|}\,{\|\vec{i}\|}}\;,}$ $\theta$ pode ser obtido através de

$$\theta=\arccos\Bigg{(}\frac{\vec{u}\cdot\vec{i}}{{\|\vec{u}\|}\,{\|\vec{i}\|}}\Bigg{)}.$$

(3)

No exemplo 1 da secção anterior, o coeficiente de correlação $\theta$ é

$$\theta=\arccos\left(\frac{\vec{u}\cdot\vec{i}}{{\|\vec{u}\|}\,{\|\vec{i}\|}}\right)=\arccos\left(\frac{-1895.4583}{143.7391\times 13.9739}\right)=160.68^{o}\;(forte\;Negativa?).$$

e no segundo exemplo, $\theta=\arccos\left(\dfrac{261980}{262579.265}\right)=\arccos(0.998)\simeq 3.62º$ (Muito forte, positiva?).

No entanto, na literatura sobre o assunto, $\theta$ é convenientemente substituído pelo seu cosseno (porquê?), e assim se compreende a sua variação tal como encontramos nos manuais:

$$0^{o}\leq{}\theta\leq{}180^{o}\Rightarrow-1\leq{}\cos\theta\leq{}1\Leftrightarrow-1\leq{}\displaystyle{\small\frac{\vec{u}\cdot\vec{i}}{{\|\vec{u}\|}\,{\|\vec{i}\|}}}\leq{}1.$$

Uma fórmula que normalmente acompanha os manuais para determinar o valor do coeficiente de correlação, $r$, é

$$\displaystyle{r=\frac{{\sum_{i=1}^{n}{x_{i}y_{i}-\frac{{\left({\sum_{i=1}^{n}x_{i}}\right)\left({\sum_{i=1}^{n}y_{i}}\right)}}{n}}}}{{\sqrt{\left({\sum_{i=1}^{n}{x_{i}^{2}}-\frac{{\left({\sum_{i=1}^{n}x_{i}}\right)^{2}}}{n}}\right)\left({\sum_{i=1}^{n}{y_{i}^{2}}-\frac{{\left({\sum_{i=1}^{n}y_{i}}\right)^{2}}}{n}}\right)}}}}\,.$$

(4)

Sendo (4) equivalente a

$$r=\frac{\sum_{i=1}^{n}(x_{i}-\bar{x})(y_{i}-\bar{y})}{\sqrt{\sum_{i=1}^{n}(x_{i}-\bar{x})^{2}}\sqrt{\sum_{i=1}^{n}(y_{i}-\bar{y})^{2}}}\,,$$

fica estabelecida a igualdade

$$\displaystyle{r=\frac{\vec{u}\cdot\vec{i}}{{\|\vec{u}\|}\,{\|\vec{i}\|}}}=\cos\theta\,.$$

A interpretação geométrica que se explora neste texto tem como elemento essencial a translação da nuvem de pontos original para uma nuvem de pontos com centro de massa na origem do referencial. Esta operação faz com que as seguintes condições se verifiquem

$$\sum_{i=1}^{n}{\widetilde{x}_{i}}=0\quad\text{e}\quad\sum_{i=1}^{n}{\widetilde{y}_{i}}=0\;\text{.}$$

Reescrevendo-as, ficamos com

	$\displaystyle\sum_{i=1}^{n}{\widetilde{x}_{i}}=0$	$\displaystyle\Leftrightarrow 1\times\widetilde{x}_{1}+1\times\widetilde{x}_{2}+\cdots+1\times\widetilde{x}_{n}=0$
		$\displaystyle\Leftrightarrow\boxed{\vec{w}\cdot\vec{i}=0}$
		e
	$\displaystyle\sum_{i=1}^{n}{\widetilde{y}_{i}}=0$	$\displaystyle\Leftrightarrow 1\times\widetilde{y}_{1}+1\times\widetilde{y}_{2}+\cdots+1\times\widetilde{y}_{n}=0$
		$\displaystyle\Leftrightarrow\boxed{\vec{w}\cdot\vec{u}=0}\;\text{,}$

que, do ponto de vista geométrico, permitem afirmar que os vectores $\vec{i}$ e $\vec{u}$ (e, consequentemente, $\vec{j}$) são perpendiculares ao vector unitário $\vec{w}=\left(1,1,\cdots,1\right)$. Assim, $\vec{i}$, $\vec{j}$ e $\vec{u}$ habitam o hiperplano de dimensão $n-1$, normal ao vector unitário $\vec{w}$. Este facto não altera a argumentação seguida pois no hiperplano de dimensão $n-1$ continuamos a querer reduzir ao mínimo a norma de $\vec{u}-\vec{j}$ e a condição continua a ser a ortogonalidade deste vector a $\vec{j}$. No caso em que a amostra observada é constituída apenas por dois pontos, $\vec{i}$, $\vec{j}$ e $\vec{u}$ são colineares e a correlação é perfeita, como seria de esperar⁵⁵5Para a situação em que $n=3$, pode manipular e descarregar a animação GeoGebra em
https://www.geogebra.org/m/muxygsbz.

Ao longo dos anos, o tema da regressão linear tem sido tratado nas nossas escolas, quase exclusivamente, como uma manipulação de fórmulas, à qual a tecnologia veio retirar algum desse desprazer salvando, por um lado, os alunos dos cálculos fastidiosos, mas atirando-os, por outro, para uma cegueira determinada pela calculadora gráfica. O que aqui se quis mostrar foi que essas abordagens tradicionais ao tema podem, com enormes vantagens, serem substituídas por uma abordagem geométrica sólida, coerente e palpável, em que a única novidade (mas não surpresa) reside na generalização de conceitos de geometria analítica a espaços de dimensão superior a três. Para além disso, abre também espaço à compreensão dos “bastidores” da calculadora gráfica, permitindo que os alunos olhem para ela como uma biblioteca de algoritmos que podem compreender e até criar.