これはxFormersというLinuxアプリで、最新リリースはv0.0.33.post1sourcecode.tar.gzとしてダウンロードできます。ワークステーション向けの無料ホスティングプロバイダーであるOnWorksでオンラインで実行できます。
OnWorks を使用して xFormers というアプリを無料でダウンロードし、オンラインで実行します。
このアプリを実行するには、次の手順に従ってください。
-1。このアプリケーションをPCにダウンロードしました。
--2。ファイルマネージャーhttps://www.onworks.net/myfiles.php?username=XXXXXに必要なユーザー名を入力します。
-3。このアプリケーションをそのようなファイルマネージャにアップロードします。
-4。このWebサイトからOnWorksLinuxオンラインまたはWindowsオンラインエミュレーターまたはMACOSオンラインエミュレーターを起動します。
-5。起動したばかりのOnWorksLinux OSから、必要なユーザー名でファイルマネージャーhttps://www.onworks.net/myfiles.php?username=XXXXXにアクセスします。
-6。アプリケーションをダウンロードし、インストールして実行します。
スクリーンショットは
Ad
xフォーマーズ
DESCRIPTION
xformers は、モジュール式でパフォーマンス重視の Transformer ビルディング ブロック ライブラリです。研究者やエンジニアがモノリシック フレームワークよりも柔軟に Transformer アーキテクチャを構成、実験、最適化できるように設計されています。注意層、フィードフォワード モジュール、正規化、位置エンコードなどのコンポーネントを抽象化しているため、最適化されたカーネルを簡単に組み合わせたり、交換したりできます。その主要な目標の 1 つは効率的な注意です。交換可能なモジュールを介して、密、疎、低ランク、近似注意メカニズム (FlashAttention、Linformer、Performer など) をサポートします。ライブラリには、Python と最適化された C++/CUDA の両方でメモリ効率の高い演算子実装が含まれており、モジュール性のためにパフォーマンスが犠牲にならないようにしています。また、PyTorch とシームレスに統合されているため、既存のモデルにブロックをドロップインしたり、デフォルトの注意層を置き換えたり、新しいアーキテクチャをゼロから構築したりできます。xformers には、トレーニング、デプロイメント、メモリ プロファイリング ツールが含まれています。
オプション
- モジュラートランスフォーマーのビルディングブロック（アテンション、FFN、ノルム、位置エンコーディング）
- さまざまな効率的なアテンション タイプ (スパース、近似、局所性) のサポート
- 最適化された GPU カーネルとフォールバック Python 実装
- PyTorch モデルとトレーニング ループとのシームレスな統合
- スループット、メモリ、レイテンシを比較するためのプロファイリングおよびベンチマークツール
- 1 つのモデル内での注目タイプの混在をサポート (ハイブリッド アーキテクチャ)
プログラミング言語
Python
カテゴリー
このアプリケーションは、https://sourceforge.net/projects/xformers.mirror/ からも入手できます。OnWorks でホストされているため、無料のオペレーティングシステムから最も簡単にオンラインで実行できます。
