Em linguagem simples
Um multiplica cada entrada por um , soma um e aplica uma . Um pode reforçar uma entrada ou inverter o efeito dela.
As entradas carregam informação. Os decidem quanto ela importa. Ajuste os dois e veja um calcular sua saída.
Um multiplica cada entrada por um , soma um e aplica uma . Um pode reforçar uma entrada ou inverter o efeito dela.
O original usa um limiar duro e uma regra de aprendizado guiada por erro. Um é a alternativa diferenciável; não é idêntico ao histórico.
Num classificador simples de proteína, duas entradas poderiam codificar hidrofobicidade normalizada e carga. Os números deste experimento são genéricos, não uma predição biológica validada.
z = w₁x₁ + w₂x₂ + b; a = f(z)
Um positivo aumenta z quando a entrada dele aumenta. Um negativo diminui z. O desloca a resposta mesmo com as duas entradas em zero.
O limiar devolve 1 para z ≥ 0 e 0 caso contrário. A leva z para o intervalo (0,1). A devolve max(0,z), então a saída dela não é uma probabilidade por natureza.
A usa a regra da cadeia para calcular derivadas através de operações diferenciáveis. Um degrau duro não serve à por ; o original usa outra regra de atualização.