זוהי אפליקציית לינוקס בשם xFormers, שאת הגרסה האחרונה שלה ניתן להוריד כ-v0.0.33.post1sourcecode.tar.gz. ניתן להריץ אותה באופן מקוון בספק האירוח החינמי OnWorks לתחנות עבודה.
הורד והפעל אונליין את האפליקציה הזו בשם xFormers עם OnWorks בחינם.
בצע את ההוראות הבאות כדי להפעיל את האפליקציה הזו:
- 1. הורד את היישום הזה למחשב שלך.
- 2. הזן במנהל הקבצים שלנו https://www.onworks.net/myfiles.php?username=XXXXX עם שם המשתמש שאתה רוצה.
- 3. העלה את היישום הזה במנהל קבצים כזה.
- 4. הפעל את האמולטור המקוון של OnWorks Linux או Windows מקוון או אמולטור מקוון של MACOS מאתר זה.
- 5. ממערכת ההפעלה OnWorks Linux שזה עתה התחלת, עבור אל מנהל הקבצים שלנו https://www.onworks.net/myfiles.php?username=XXXXX עם שם המשתמש הרצוי.
- 6. הורד את האפליקציה, התקן אותה והפעל אותה.
בצילומי מסך
Ad
xFormers
תיאור
xformers היא ספרייה מודולרית, מוכוונת ביצועים, של אבני בניין של טרנספורמרים, שנועדה לאפשר לחוקרים ומהנדסים לחבר, להתנסות ולמטב ארכיטקטורות טרנספורמרים בצורה גמישה יותר מאשר מסגרות מונוליטיות. היא מפזרת רכיבים כמו שכבות קשב, מודולי הזנה קדימה, נורמליזציה וקידוד מיקום, כך שתוכלו לערבב ולהתאים או להחליף גרעינים ממוטבים בקלות. אחת המטרות העיקריות שלה היא קשב יעיל: היא תומכת במנגנוני קשב צפופים, דלילים, בעלי דרגה נמוכה וקירובים (למשל FlashAttention, Linformer, Performer) באמצעות מודולים הניתנים להחלפה. הספרייה כוללת יישומי אופרטורים יעילים בזיכרון הן בפייתון והן ב-C++/CUDA ממוטבים, מה שמבטיח שהביצועים לא יוקרבו לטובת מודולריות. היא גם משתלבת בצורה חלקה עם PyTorch כך שתוכלו להכניס את הבלוקים שלה למודלים קיימים, להחליף שכבות קשב ברירת מחדל או לבנות ארכיטקטורות חדשות מאפס. xformers כוללת כלי הדרכה, פריסה ויצירת פרופיל זיכרון.
תכונות
- אבני בניין מודולריות של שנאים (תשומת לב, FFN, נורמות, קידודי מיקום)
- תמיכה בסוגי קשב יעילים שונים (דליל, משוער, מקומי)
- אופטימיזציה של ליבות GPU ויישומים גיבוי של Python
- אינטגרציה חלקה עם מודלים של PyTorch ולולאות אימון
- כלי יצירת פרופילים וביצועי ביצועים להשוואת תפוקה, זיכרון והשהיה
- תמיכה בערבוב סוגי קשב במודל אחד (ארכיטקטורות היברידיות)
שפת תכנות
פיתון
כל הקטגוריות
זוהי אפליקציה שניתן להוריד גם מאתר https://sourceforge.net/projects/xformers.mirror/. היא אוחסנה ב-OnWorks על מנת שניתן יהיה להפעיל אותה באופן מקוון בצורה הקלה ביותר מאחת ממערכות ההפעלה החינמיות שלנו.
