xFormers라는 이름의 Linux 앱으로, 최신 버전은 v0.0.33.post1sourcecode.tar.gz로 다운로드할 수 있습니다. 워크스테이션용 무료 호스팅 제공업체인 OnWorks에서 온라인으로 실행할 수 있습니다.
xFormers with OnWorks라는 앱을 무료로 다운로드하여 온라인에서 실행해보세요.
이 앱을 실행하려면 다음 지침을 따르세요.
- 1. 이 애플리케이션을 PC에 다운로드했습니다.
- 2. 파일 관리자 https://www.onworks.net/myfiles.php?username=XXXXX에 원하는 사용자 이름을 입력합니다.
- 3. 이러한 파일 관리자에서 이 응용 프로그램을 업로드합니다.
- 4. 이 웹사이트에서 OnWorks Linux 온라인 또는 Windows 온라인 에뮬레이터 또는 MACOS 온라인 에뮬레이터를 시작합니다.
- 5. 방금 시작한 OnWorks Linux OS에서 원하는 사용자 이름으로 파일 관리자 https://www.onworks.net/myfiles.php?username=XXXXX로 이동합니다.
- 6. 응용 프로그램을 다운로드하여 설치하고 실행합니다.
스크린 샷
Ad
xFormers
기술
xformers는 연구자와 엔지니어가 모놀리식 프레임워크보다 더 유연하게 트랜스포머 아키텍처를 구성, 실험 및 최적화할 수 있도록 설계된 모듈식 성능 지향 트랜스포머 구성 요소 라이브러리입니다. 어텐션 계층, 피드포워드 모듈, 정규화, 위치 인코딩과 같은 구성 요소를 추상화하여 최적화된 커널을 쉽게 조합하거나 교체할 수 있습니다. 핵심 목표 중 하나는 효율적인 어텐션입니다. 호환 가능한 모듈을 통해 고밀도, 희소성, 저랭크, 근사 어텐션 메커니즘(예: FlashAttention, Linformer, Performer)을 지원합니다. 이 라이브러리는 Python과 최적화된 C++/CUDA 모두에서 메모리 효율적인 연산자 구현을 제공하여 모듈성 때문에 성능이 저하되지 않도록 보장합니다. 또한 PyTorch와 완벽하게 통합되어 기존 모델에 블록을 추가하거나, 기본 어텐션 계층을 대체하거나, 새로운 아키텍처를 처음부터 구축할 수 있습니다. xformers에는 학습, 배포 및 메모리 프로파일링 도구가 포함되어 있습니다.
기능
- 모듈형 변압기 구성 요소(주의, FFN, 규범, 위치 인코딩)
- 다양한 효율적인 주의 유형(희소, 근사, 지역성) 지원
- 최적화된 GPU 커널 및 대체 Python 구현
- PyTorch 모델 및 교육 루프와의 원활한 통합
- 처리량, 메모리 및 대기 시간을 비교하기 위한 프로파일링 및 벤치마킹 도구
- 하나의 모델에서 주의 유형을 혼합하는 것에 대한 지원(하이브리드 아키텍처)
프로그래밍 언어
Python
카테고리
이 애플리케이션은 https://sourceforge.net/projects/xformers.mirror/에서도 다운로드할 수 있습니다. OnWorks에 호스팅되어 무료 운영 체제 중 하나에서 가장 쉽게 온라인에서 실행할 수 있도록 설계되었습니다.
