यह xFormers नाम का एक लिनक्स ऐप है जिसका नवीनतम संस्करण v0.0.33.post1sourcecode.tar.gz के रूप में डाउनलोड किया जा सकता है। इसे वर्कस्टेशन के लिए मुफ़्त होस्टिंग प्रदाता OnWorks पर ऑनलाइन चलाया जा सकता है।
XFormers नामक इस ऐप को OnWorks के साथ मुफ्त में डाउनलोड करें और ऑनलाइन चलाएं।
इस ऐप को चलाने के लिए इन निर्देशों का पालन करें:
- 1. इस एप्लिकेशन को अपने पीसी में डाउनलोड करें।
- 2. हमारे फ़ाइल प्रबंधक में https://www.onworks.net/myfiles.php?username=XXXXX उस उपयोगकर्ता नाम के साथ दर्ज करें जो आप चाहते हैं।
- 3. इस एप्लिकेशन को ऐसे फाइल मैनेजर में अपलोड करें।
- 4. इस वेबसाइट से ऑनवर्क्स लिनक्स ऑनलाइन या विंडोज ऑनलाइन एमुलेटर या मैकोज़ ऑनलाइन एमुलेटर शुरू करें।
- 5. ऑनवर्क्स लिनक्स ओएस से आपने अभी शुरुआत की है, हमारे फाइल मैनेजर को https://www.onworks.net/myfiles.php?username=XXXXX उस यूजरनेम के साथ जाएं जो आप चाहते हैं।
- 6. एप्लिकेशन डाउनलोड करें, इसे इंस्टॉल करें और इसे चलाएं।
स्क्रीनशॉट
Ad
xFormers
वर्णन
xformers ट्रांसफ़ॉर्मर बिल्डिंग ब्लॉक्स की एक मॉड्यूलर, प्रदर्शन-उन्मुख लाइब्रेरी है, जिसे शोधकर्ताओं और इंजीनियरों को मोनोलिथिक फ्रेमवर्क की तुलना में ट्रांसफ़ॉर्मर आर्किटेक्चर को अधिक लचीले ढंग से बनाने, प्रयोग करने और अनुकूलित करने की अनुमति देने के लिए डिज़ाइन किया गया है। यह अटेंशन लेयर्स, फीडफ़ॉरवर्ड मॉड्यूल्स, नॉर्मलाइज़ेशन और पोज़िशनल एन्कोडिंग जैसे घटकों को एब्सट्रैक्ट करता है, ताकि आप अनुकूलित कर्नेल को आसानी से मिला-जुला सकें या बदल सकें। इसका एक प्रमुख लक्ष्य कुशल अटेंशन है: यह विनिमेय मॉड्यूल्स के माध्यम से सघन, विरल, निम्न-रैंक और अनुमानित अटेंशन मैकेनिज़्म (जैसे FlashAttention, Linformer, Performer) का समर्थन करता है। इस लाइब्रेरी में Python और अनुकूलित C++/CUDA, दोनों में मेमोरी-कुशल ऑपरेटर कार्यान्वयन शामिल हैं, जो यह सुनिश्चित करते हैं कि मॉड्यूलरिटी के लिए प्रदर्शन का त्याग न किया जाए। यह PyTorch के साथ भी सहजता से एकीकृत होता है ताकि आप इसके ब्लॉक्स को मौजूदा मॉडल्स में डाल सकें, डिफ़ॉल्ट अटेंशन लेयर्स को बदल सकें, या नए आर्किटेक्चर को बिल्कुल नए सिरे से बना सकें। xformers में प्रशिक्षण, परिनियोजन और मेमोरी प्रोफाइलिंग टूल शामिल हैं।
विशेषताएं
- मॉड्यूलर ट्रांसफार्मर बिल्डिंग ब्लॉक (ध्यान, एफएफएन, मानदंड, स्थिति एन्कोडिंग)
- विभिन्न कुशल ध्यान प्रकारों (विरल, अनुमानित, स्थानीयता) के लिए समर्थन
- अनुकूलित GPU कर्नेल और फ़ॉलबैक पायथन कार्यान्वयन
- PyTorch मॉडल और प्रशिक्षण लूप के साथ सहज एकीकरण
- थ्रूपुट, मेमोरी और विलंबता की तुलना करने के लिए प्रोफाइलिंग और बेंचमार्किंग उपकरण
- एक मॉडल में ध्यान प्रकारों को मिश्रित करने के लिए समर्थन (हाइब्रिड आर्किटेक्चर)
प्रोग्रामिंग भाषा
अजगर
श्रेणियाँ
यह एक ऐसा एप्लिकेशन है जिसे https://sourceforge.net/projects/xformers.mirror/ से भी प्राप्त किया जा सकता है। इसे हमारे किसी भी निःशुल्क ऑपरेटिव सिस्टम से सबसे आसान तरीके से ऑनलाइन चलाने के लिए OnWorks में होस्ट किया गया है।
