O que é Regressão?
Regressão significa regredir ou retornar. Um problema de regressão é aquele que retornar aos dados para poder realizar uma predição. Algumas técnicas comuns são a regressão linear e a regressão logísitica.
Regressão Linear
A ideia por trás da regressão linear é bastante simples. Você possui um conjunto de dados e deseja traçar uma reta que retorne uma predição próxima às características inseridas, utilizando uma função linear f(x) = ax + b. A figura abaixo mostra o gráfico de uma regressão linear.
Alguns conceitos importantes são o de hiperplano e de problema linearmente separáveis. Diz-se hiperplano todo elemento geométrico utilizado para separar dados em um determinado plano de N-dimensões, prolemas linearmente separáveis são todos os problemas que podem ser resolvidos com a separação das instâncias em classes através de um hiperplano.
Matemática e código
A regressão linear utiliza uma função linear f(x) = ax + b para traçar uma linha entre as instâncias. Para traçar uma linha entre todas as instâncias, podemos usar um pouco de álgebra linear. Precisamos separar as informações em vetores, as características dos dados são guardadas no vetor x, os parâmetros são guardados no vetor t e as prediçõs no vetor y.