To aplikacja dla systemu Linux o nazwie xFormers, której najnowszą wersję można pobrać jako v0.0.33.post1sourcecode.tar.gz. Można ją uruchomić online na bezpłatnym hostingu OnWorks dla stacji roboczych.
Pobierz i uruchom bezpłatnie aplikację xFormers z OnWorks.
Postępuj zgodnie z tymi instrukcjami, aby uruchomić tę aplikację:
- 1. Pobrałem tę aplikację na swój komputer.
- 2. Wpisz w naszym menedżerze plików https://www.onworks.net/myfiles.php?username=XXXXX z wybraną nazwą użytkownika.
- 3. Prześlij tę aplikację w takim menedżerze plików.
- 4. Uruchom emulator online OnWorks Linux lub Windows online lub emulator online MACOS z tej witryny.
- 5. W systemie operacyjnym OnWorks Linux, który właśnie uruchomiłeś, przejdź do naszego menedżera plików https://www.onworks.net/myfiles.php?username=XXXXX z wybraną nazwą użytkownika.
- 6. Pobierz aplikację, zainstaluj ją i uruchom.
ZRZUTY EKRANU
Ad
xFormerzy
OPIS
xformers to modułowa, zorientowana na wydajność biblioteka bloków konstrukcyjnych transformatorów, zaprojektowana, aby umożliwić badaczom i inżynierom tworzenie, eksperymentowanie i optymalizację architektur transformatorów w sposób bardziej elastyczny niż w przypadku monolitycznych frameworków. Abstrahuje ona komponenty takie jak warstwy uwagi, moduły sprzężenia zwrotnego, normalizacja i kodowanie pozycyjne, dzięki czemu można łatwo mieszać i dopasowywać lub zamieniać zoptymalizowane jądra. Jednym z jej kluczowych celów jest efektywne zarządzanie uwagą: obsługuje gęste, rzadkie, niskiej rangi i przybliżone mechanizmy uwagi (np. FlashAttention, Linformer, Performer) za pośrednictwem wymiennych modułów. Biblioteka zawiera implementacje operatorów oszczędzające pamięć zarówno w Pythonie, jak i zoptymalizowanym C++/CUDA, co gwarantuje, że wydajność nie zostanie poświęcona na rzecz modułowości. Bezproblemowo integruje się również z PyTorch, dzięki czemu można dodawać jej bloki do istniejących modeli, zastępować domyślne warstwy uwagi lub budować nowe architektury od podstaw. xformers zawiera narzędzia do szkolenia, wdrażania i profilowania pamięci.
Funkcje
- Modułowe bloki konstrukcyjne transformatorów (uwaga, FFN, normy, kodowanie pozycji)
- Wsparcie dla różnych typów efektywnej uwagi (rzadka, przybliżona, lokalna)
- Zoptymalizowane jądra GPU i zapasowe implementacje Pythona
- Bezproblemowa integracja z modelami PyTorch i pętlami szkoleniowymi
- Narzędzia do profilowania i testowania porównawczego umożliwiające porównywanie przepustowości, pamięci i opóźnień
- Obsługa mieszania typów uwagi w jednym modelu (architektury hybrydowe)
Język programowania
Python
Kategorie
Tę aplikację można również pobrać ze strony https://sourceforge.net/projects/xformers.mirror/. Została ona umieszczona w OnWorks, aby można ją było najłatwiej uruchomić online z poziomu jednego z naszych darmowych systemów operacyjnych.
