Este é o aplicativo Linux chamado xFormers, cuja versão mais recente pode ser baixada como v0.0.33.post1sourcecode.tar.gz. Ele pode ser executado online no provedor de hospedagem gratuita OnWorks para estações de trabalho.
Baixe e execute online este aplicativo chamado xFormers com OnWorks gratuitamente.
Siga estas instruções para executar este aplicativo:
- 1. Baixe este aplicativo em seu PC.
- 2. Entre em nosso gerenciador de arquivos https://www.onworks.net/myfiles.php?username=XXXXX com o nome de usuário que você deseja.
- 3. Carregue este aplicativo em tal gerenciador de arquivos.
- 4. Inicie o emulador OnWorks Linux online ou Windows online ou emulador MACOS online a partir deste site.
- 5. No sistema operacional OnWorks Linux que você acabou de iniciar, acesse nosso gerenciador de arquivos https://www.onworks.net/myfiles.php?username=XXXXX com o nome de usuário que deseja.
- 6. Baixe o aplicativo, instale-o e execute-o.
SCREENSHOTS
Ad
xFormadores
DESCRIÇÃO
xformers é uma biblioteca modular e orientada ao desempenho de blocos de construção de transformadores, projetada para permitir que pesquisadores e engenheiros componham, experimentem e otimizem arquiteturas de transformadores com mais flexibilidade do que frameworks monolíticos. Ela abstrai componentes como camadas de atenção, módulos de feedforward, normalização e codificação posicional, para que você possa misturar, combinar ou trocar kernels otimizados facilmente. Um de seus principais objetivos é a atenção eficiente: ela suporta mecanismos de atenção densos, esparsos, de baixa classificação e aproximados (por exemplo, FlashAttention, Linformer, Performer) por meio de módulos intercambiáveis. A biblioteca inclui implementações de operadores com eficiência de memória em Python e C++/CUDA otimizados, garantindo que o desempenho não seja sacrificado pela modularidade. Ela também se integra perfeitamente ao PyTorch para que você possa inserir seus blocos em modelos existentes, substituir camadas de atenção padrão ou construir novas arquiteturas do zero. xformers inclui ferramentas de treinamento, implantação e criação de perfil de memória.
Recursos
- Blocos de construção de transformadores modulares (atenção, FFN, normas, codificações de posição)
- Suporte para vários tipos de atenção eficiente (esparsa, aproximada, localidade)
- Kernels de GPU otimizados e implementações Python de fallback
- Integração perfeita com modelos PyTorch e loops de treinamento
- Ferramentas de criação de perfil e benchmarking para comparar taxa de transferência, memória e latência
- Suporte para misturar tipos de atenção em um modelo (arquiteturas híbridas)
Linguagem de Programação
Python
Categorias
Este é um aplicativo que também pode ser obtido em https://sourceforge.net/projects/xformers.mirror/. Ele foi hospedado no OnWorks para ser executado online da maneira mais fácil em um de nossos sistemas operacionais gratuitos.
