Um modelo mascarado generativo sobre três trilhas paralelas. Um tokenizador geométrico converte ambientes locais do esqueleto em códigos discretos; um transformer compartilhado prevê logits para cada trilha; o desmascaramento iterativo preenche as posições que você deixou abertas.
Um modelo que lê e escreve três coisas ao mesmo tempo: a sequência, a forma e o que a proteína faz. Você entrega um formulário parcialmente preenchido e ele completa o que você deixou em branco.
Palavras cruzadas em que as horizontais são aminoácidos, as verticais são geometria e o tema é a função. Preencher qualquer uma facilita o resto.
Os resultados de manchete vêm do maior modelo. O checkpoint disponível abertamente é o pequeno, e ele não vai reproduzi-los.
from esm.models.esm3 import ESM3
from esm.sdk.api import ESMProtein, GenerationConfig
model = ESM3.from_pretrained("esm3_sm_open_v1")
# underscores are the positions you want the model to decide
prompt = ESMProtein(sequence="MKTAYIAKQRQISFVK___________VLDRHDL")
result = model.generate(
prompt,
GenerationConfig(track="sequence", num_steps=8, temperature=0.7),
)
print(result.sequence)Estes trechos não foram executados aqui. Versões mudam: confira o cartão do modelo antes de confiar em qualquer linha.
O artigo na Science relata uma proteína fluorescente gerada a 58 por cento de identidade de sequência com as fluorescentes conhecidas, que os autores apresentam como estimativa equivalente a uma grande distância evolutiva, não como simulação literal.
Resultados relatados para o maior modelo não devem ser atribuídos ao checkpoint aberto pequeno. O enquadramento de distância evolutiva é uma estimativa, e os pesos abertos são o menor membro da família.
| Repositório | Tamanho | Licença | Observação |
|---|---|---|---|
| biohub/esm3-sm-open-v1 | 1.4B | Non-commercial community licence | Formerly published under EvolutionaryScale |
Leia proteínas o bastante e a estrutura cai da leitura.
Um transformer bidirecional treinado para reconstruir aminoácidos mascarados a partir de sequências não alinhadas.
Ver a arquitetura Modelo de linguagem de proteínas2026A linha de representação, levada mais longe.
Um codificador transformer com pre-layer-norm, embeddings rotativos e ativações SwiGLU, treinado em sequências do UniRef, do MGnify e do Joint Genome Institute agrupadas a 70 por cento de identidade.
Ler a entrada Modelo de linguagem de proteínas2022Os codificadores que chegaram antes.
Uma família de transformers treinados em UniRef e BFD com os objetivos de seus equivalentes em texto.
Ler a entrada