あらたな動画生成ツールとして注目されている「FramePack」。今回は、このFramePack環境において、広く使われている最適化ライブラリ「sage attention」に加えて「xformers」を導入した場合に、更なる速度向上が見られるのかを検証してみました。
FramePack自体の詳細や導入については公式リポジトリをご参照ください。
FramePack GitHubリポジトリ
検証環境・方法
今回の検証では、以下の環境・設定で行いました。
- ベース環境: FramePack (初期設定)
- 「TeaCache」が有効な状態
- 比較対象:
- sage attentionのみ
- xformers + sage attention: 上記にxformersを追加で導入した状態
- 測定方法:
- 同一の生成条件（プロンプト、シード値、解像度など 初期設定のまま）で画像を生成
- ステップ数: 25 steps
- 各設定で2回ずつ実行し、その平均値を採用
xformersは過去記事でビルドした物を使用
測定結果
測定結果は以下のようになりました。
| 設定 | 25step毎の平均タイム | 平均速度 (s/it) | 平均合計タイム |
|---|---|---|---|
| sage attentionのみ | 1分41秒 | 4.06 s/it | 8分22秒 |
| xformers + sage attention | 1分36秒 | 3.84 s/it | 7分55秒 |
考察
結果を見ると、xformersを追加した場合、わずかながら速度向上が見られました。
- 25ステップの平均タイムで約5秒短縮
- イテレーションあたりの平均速度(s/it)も若干向上
- 合計タイム（参考値）でも約27秒の短縮
となっています。
ただし、その差はごくわずかであり、測定時のちょっとしたブレや誤差の範囲内とも考えられます。劇的な速度向上とは言えない結果でした。
FramePack自体が持つ最適化が既に効果を発揮しており、xformersによる追加の恩恵が相対的に小さくなっている可能性が考えられます。
まとめ
今回の検証では、FramePack（TeaCache + sage attention）環境にxformersを追加した場合、ごくわずかな速度向上は見られましたが、その効果は限定的という結果になりました。
もちろん、使用するGPUの種類、VRAM容量、FramePackの他の設定、生成する画像の解像度やバッチサイズなど、環境によって結果は変動する可能性があります。
もし既にFramePackを利用していて、更なる高速化を模索している方は、試しにxformersを導入してみる価値はあるかもしれませんが、大きな期待はしない方が良いかもしれません。環境によっては逆に不安定になる可能性もゼロではないため、導入は自己責任でお願いします。
コメント