Aprender com dados
01 / Aprendizado de máquina clássico

Padrões, não instruções.

Dê exemplos a um modelo e ele aprende uma regra. Mude o problema e veja onde uma fronteira simples funciona e onde ela falha.

Treinar um classificador clássico

Rode, pause e inspecione cada época
0época
perda de treino
acurácia de validação
Superfície de decisão−1+1Atributo x₁Atributo x₂+1−110

Inspecione um ponto. Cor = probabilidade prevista; forma = classe observada.

A superfície inicial não foi treinada. Rode o experimento para calcular a trajetória inteira.

Classe 0Classe 1 / perda de treinoPerda de validação
Pronto para treinar

Os nove, lado a lado

Escolha um e veja o treino abaixo

Nove classificadores, um plano

Escolha uma família e acompanhe o treino
Feature x₁ −1+10.51Época 0150TreinoValidação
100%acurácia de treino
98%acurácia de validação
0.124log da perda
Avançar passo a passoÉpoca 150
Classe 1Classe 0Validação
Época 150 / 150
01 / A intuição

Em linguagem simples

Imagine separar observações em dois grupos. O treino encontra que reduzem os erros em exemplos cujos já são conhecidos.

02 / Por dentro

A ideia técnica

Este experimento ajusta uma regressão logística a duas entradas numéricas com e descida de em . Sua fronteira de probabilidade em 0,5 é uma reta. O exige uma representação não linear.

03 / A ligação com a biologia

Dos dados às proteínas

Um modelo clássico de proteína pode usar carga, comprimento ou composição de como . Uma floresta aleatória ou uma SVM com kernel também modelam relações não lineares sem serem uma rede profunda.

Olhar mais fundo: matemática, métodos e limites

p(y=1|x) = σ(w·x + b)

Para cada exemplo, calcule uma probabilidade, meça a de contra o , derive a e atualize os . Uma época aqui é uma passagem pelo conjunto de treino inteiro.

A visualização usa 100 pontos sintéticos de treino e 60 pontos de validação gerados de forma independente. Ambos vêm de uma regra escolhida. O mapa de calor mostra a probabilidade de classe prevista; os símbolos mostram os de treino. A acurácia de validação é separada da de treino.

Uma divisão aleatória de proteínas muito parecidas vaza informação de família entre os conjuntos. Em estudos biológicos, considere divisões por identidade de sequência ou por família, um conjunto de teste intocado, desbalanceamento de classes e linhas de base adequadas. Só a acurácia engana.

O zoo abaixo roda nove famílias sobre os mesmos dados, com a mesma fronteira desenhada e a mesma curva de treino. O eixo horizontal muda de significado por família: época, número de árvores, profundidade, k, tamanho da amostra ou iteração.

Ir à pesquisa original

Um instante para juntar as pontas

Por que a regressão logística tropeça no XOR?