Dentro de um neurônio
02 / A peça elementar

Uma decisão pequena.

As entradas carregam informação. Os decidem quanto ela importa. Ajuste os dois e veja um calcular sua saída.

A bancada do neurônio

Ajuste os pesos. Observe o sinal.
w₁ = 0.8w₂ = -0.5σ(z)0.7Entrada x₁0.3Entrada x₂ΣSoma ponderadaz = 0.510bias +0.10.62Ativação62.5% de probabilidade
Entrada x₁0.70
Entrada x₂0.30
Escolha um nó para entender o papel dele. Mexer nestes controles não treina nada.
Demonstração de neurônio diferenciávelPassagem direta · pesos editados à mão
01 / A intuição

Em linguagem simples

Um multiplica cada entrada por um , soma um e aplica uma . Um pode reforçar uma entrada ou inverter o efeito dela.

02 / Por dentro

A ideia técnica

O original usa um limiar duro e uma regra de aprendizado guiada por erro. Um é a alternativa diferenciável; não é idêntico ao histórico.

03 / A ligação com a biologia

Dos dados às proteínas

Num classificador simples de proteína, duas entradas poderiam codificar hidrofobicidade normalizada e carga. Os números deste experimento são genéricos, não uma predição biológica validada.

Olhar mais fundo: matemática, métodos e limites

z = w₁x₁ + w₂x₂ + b; a = f(z)

Um positivo aumenta z quando a entrada dele aumenta. Um negativo diminui z. O desloca a resposta mesmo com as duas entradas em zero.

O limiar devolve 1 para z ≥ 0 e 0 caso contrário. A leva z para o intervalo (0,1). A devolve max(0,z), então a saída dela não é uma probabilidade por natureza.

A usa a regra da cadeia para calcular derivadas através de operações diferenciáveis. Um degrau duro não serve à por ; o original usa outra regra de atualização.

Ir à pesquisa original

Um instante para juntar as pontas

O que o viés muda?