นี่คือแอป Linux ชื่อ xFormers ซึ่งสามารถดาวน์โหลดเวอร์ชันล่าสุดได้ที่ v0.0.33.post1sourcecode.tar.gz สามารถรันออนไลน์ได้บนผู้ให้บริการโฮสติ้งฟรี OnWorks สำหรับเวิร์กสเตชัน
ดาวน์โหลดและรันแอปชื่อ xFormers ออนไลน์ด้วย OnWorks ได้ฟรี
ทำตามคำแนะนำเหล่านี้เพื่อเรียกใช้แอปนี้:
- 1. ดาวน์โหลดแอปพลิเคชั่นนี้ในพีซีของคุณ
- 2. เข้าไปที่ file manager https://www.onworks.net/myfiles.php?username=XXXXX ด้วยชื่อผู้ใช้ที่คุณต้องการ
- 3. อัปโหลดแอปพลิเคชันนี้ในตัวจัดการไฟล์ดังกล่าว
- 4. เริ่มโปรแกรมจำลองออนไลน์ของ OnWorks Linux หรือ Windows ออนไลน์ หรือโปรแกรมจำลองออนไลน์ MACOS จากเว็บไซต์นี้
- 5. จาก OnWorks Linux OS คุณเพิ่งเริ่มต้น ไปที่ตัวจัดการไฟล์ของเรา https://www.onworks.net/myfiles.php?username=XXXXX พร้อมชื่อผู้ใช้ที่คุณต้องการ
- 6. ดาวน์โหลดแอปพลิเคชั่น ติดตั้ง และเรียกใช้
ภาพหน้าจอ
Ad
เอ็กซ์ฟอร์เมอร์
DESCRIPTION
xformers คือไลบรารีของบล็อกการสร้างหม้อแปลงแบบแยกส่วนที่เน้นประสิทธิภาพ ออกแบบมาเพื่อให้นักวิจัยและวิศวกรสามารถสร้าง ทดลอง และปรับแต่งสถาปัตยกรรมหม้อแปลงได้อย่างยืดหยุ่นกว่าเฟรมเวิร์กแบบโมโนลิธิก ไลบรารีนี้รวบรวมส่วนประกอบต่างๆ เช่น เลเยอร์ความสนใจ โมดูลฟีดฟอร์เวิร์ด นอร์มัลไลเซชัน และการเข้ารหัสตำแหน่ง เพื่อให้คุณสามารถผสมผสานหรือสลับเคอร์เนลที่ปรับแต่งแล้วได้อย่างง่ายดาย หนึ่งในเป้าหมายหลักของ xformers คือประสิทธิภาพในการดึงดูดความสนใจ โดยรองรับกลไกการดึงดูดความสนใจแบบหนาแน่น แบบเบาบาง ระดับต่ำ และแบบประมาณ (เช่น FlashAttention, Linformer, Performer) ผ่านโมดูลที่สามารถเปลี่ยนแทนกันได้ ไลบรารีนี้ประกอบด้วยตัวดำเนินการที่ประหยัดหน่วยความจำทั้งใน Python และ C++/CUDA ที่ปรับแต่งแล้ว เพื่อให้แน่ใจว่าประสิทธิภาพจะไม่ถูกลดทอนลงเพื่อการทำงานแบบแยกส่วน นอกจากนี้ยังผสานรวมกับ PyTorch ได้อย่างราบรื่น คุณจึงสามารถใส่บล็อกต่างๆ ลงในโมเดลที่มีอยู่ แทนที่เลเยอร์ความสนใจเริ่มต้น หรือสร้างสถาปัตยกรรมใหม่ตั้งแต่ต้นได้ xformers ประกอบด้วยเครื่องมือสำหรับการฝึกอบรม การปรับใช้ และการทำโปรไฟล์หน่วยความจำ
คุณสมบัติ
- บล็อกอาคารหม้อแปลงแบบโมดูลาร์ (ความสนใจ, FFN, บรรทัดฐาน, การเข้ารหัสตำแหน่ง)
- รองรับประเภทความสนใจที่มีประสิทธิภาพหลากหลาย (เบาบาง โดยประมาณ เฉพาะพื้นที่)
- เคอร์เนล GPU ที่ได้รับการเพิ่มประสิทธิภาพและการใช้งาน Python สำรอง
- การบูรณาการที่ราบรื่นกับโมเดล PyTorch และลูปการฝึกอบรม
- เครื่องมือสร้างโปรไฟล์และเปรียบเทียบประสิทธิภาพเพื่อเปรียบเทียบปริมาณงาน หน่วยความจำ และเวลาแฝง
- รองรับการผสมประเภทความสนใจในโมเดลเดียว (สถาปัตยกรรมไฮบริด)
ภาษาโปรแกรม
หลาม
หมวดหมู่
นี่คือแอปพลิเคชันที่สามารถดึงข้อมูลจาก https://sourceforge.net/projects/xformers.mirror/ ได้ แอปพลิเคชันนี้โฮสต์อยู่ใน OnWorks เพื่อให้ใช้งานออนไลน์ได้ง่ายที่สุดจากระบบปฏิบัติการฟรีของเรา
