Em linguagem simples
O aprende representações reaproveitáveis. Para resolver a tarefa X, acrescente uma cabeça de saída e treine-a com da tarefa. Você também pode atualizar parte ou todo o modelo pré-treinado.
07 / O laboratório de ajuste fino
Uma tarefa nova. Meio caminho já andado.
Reaproveite o que um modelo já aprendeu e adapte-o a uma tarefa específica. Compare congelado, completo e .
O experimento de adaptação
Rode, pause e inspecione cada época0época
—perda de treino
—acurácia de validação
Inspecione um ponto. Cor = probabilidade prevista; forma = classe observada.
A superfície inicial não foi treinada. Rode o experimento para calcular a trajetória inteira.
○ Classe 0◇ Classe 1 / perda de treinoPerda de validação
Pronto para treinar01
Sequência de proteína
Sequência de proteína
02
pLM pré-treinado
pLM pré-treinado
03
Embedding agregado
Embedding agregado
04
Cabeça específica da tarefa
Cabeça específica da tarefa
05
Avaliação em dados separados
Avaliação em dados separados
A ideia técnica
Uma sonda linear congela o e treina uma cabeça. O completo atualiza os dois. O congela os originais e aprende mudanças de baixo posto ΔW = BA em escolhidas.
Dos dados às proteínas
Para predição de solubilidade, um caminho possível é sequência → pré-treinado → agregado → cabeça binária. Use com base experimental, divisões cientes de família e um conjunto de teste separado antes de interpretar o desempenho.
Olhar mais fundo: matemática, métodos e limites
Wadapted = Wfrozen + (α/r)BA
O experimento roda uma rede minúscula de duas entradas e seis unidades ocultas. Ela aprende primeiro uma tarefa de origem sintética (x₁ + 0,6x₂ > 0), reinicia a cabeça de saída e depois aprende uma tarefa de destino sintética (x₁x₂ < 0). As duas usam coordenadas sintéticas, não proteínas nem de solubilidade reais.
O modo congelado atualiza sete da cabeça de saída. O modo completo atualiza os 25. O modo de baixo posto atualiza os fatores A e B de posto um em torno da 6×2 de de entrada congelada, mais os sete da cabeça: 15 treináveis. A escala de baixo posto é um nesta demonstração.
Cada execução reaproveita o mesmo de origem e a mesma divisão de destino, então a comparação entre estratégias é controlada. A pontuação de validação mede apenas a tarefa sintética de destino. Modelos maiores, dados reais e outros otimizadores mudam o desempenho relativo.
Para um fluxo real com : remova duplicatas e agrupe sequências; reserve um conjunto de teste intocado; ajuste o pré-processamento só com os dados de treino; escolha e parada pela validação; compare com uma linha de base de descritores e com congelados; relate incerteza, métricas sensíveis a classe e validação externa quando possível.
não é prompt, nem geração aumentada por recuperação, nem comum. Ele muda treináveis. Treinar um grande exige um ambiente Python com GPU; este site roda de propósito apenas os experimentos pequenos e didáticos.