Esta es la aplicación para Linux xFormers, cuya última versión se puede descargar como v0.0.33.post1sourcecode.tar.gz. Se puede ejecutar en línea en el proveedor de alojamiento gratuito OnWorks para estaciones de trabajo.
Descargue y ejecute en línea esta aplicación llamada xFormers con OnWorks de forma gratuita.
Siga estas instrucciones para ejecutar esta aplicación:
- 1. Descargue esta aplicación en su PC.
- 2. Ingrese en nuestro administrador de archivos https://www.onworks.net/myfiles.php?username=XXXXX con el nombre de usuario que desee.
- 3. Cargue esta aplicación en dicho administrador de archivos.
- 4. Inicie el emulador en línea OnWorks Linux o Windows en línea o el emulador en línea MACOS desde este sitio web.
- 5. Desde el SO OnWorks Linux que acaba de iniciar, vaya a nuestro administrador de archivos https://www.onworks.net/myfiles.php?username=XXXXX con el nombre de usuario que desee.
- 6. Descarga la aplicación, instálala y ejecútala.
SCREENSHOTS
Ad
xFormadores
DESCRIPCIÓN
xformers es una biblioteca modular de bloques de construcción de transformadores orientada al rendimiento, diseñada para permitir a investigadores e ingenieros componer, experimentar y optimizar arquitecturas de transformadores con mayor flexibilidad que los marcos monolíticos. Abstrae componentes como capas de atención, módulos de avance, normalización y codificación posicional, para que pueda mezclar y combinar o intercambiar núcleos optimizados fácilmente. Uno de sus objetivos clave es la atención eficiente: admite mecanismos de atención densos, dispersos, de bajo rango y aproximados (por ejemplo, FlashAttention, Linformer, Performer) mediante módulos intercambiables. La biblioteca incluye implementaciones de operadores que ahorran memoria tanto en Python como en C++/CUDA optimizado, lo que garantiza que el rendimiento no se sacrifique por la modularidad. También se integra perfectamente con PyTorch para que pueda incorporar sus bloques a modelos existentes, reemplazar capas de atención predeterminadas o crear nuevas arquitecturas desde cero. xformers incluye herramientas de entrenamiento, implementación y creación de perfiles de memoria.
Caracteristicas
- Bloques de construcción de transformadores modulares (atención, FFN, normas, codificaciones de posición)
- Soporte para varios tipos de atención eficientes (dispersa, aproximada, de localidad)
- Núcleos de GPU optimizados e implementaciones de Python de respaldo
- Integración perfecta con modelos de PyTorch y bucles de entrenamiento
- Herramientas de creación de perfiles y evaluación comparativa para comparar el rendimiento, la memoria y la latencia
- Soporte para mezclar tipos de atención en un modelo (arquitecturas híbridas)
Lenguaje de programación
Python
Categorías
Esta aplicación también se puede descargar desde https://sourceforge.net/projects/xformers.mirror/. Está alojada en OnWorks para facilitar su ejecución en línea desde uno de nuestros sistemas operativos gratuitos.
