TensorRT Extension for Stable Diffusion

TensorRT Extension for Stable Diffusionとは、NVIDIAのRTX GPUを利用してStable Diffusionのパフォーマンスを2倍に向上させる拡張機能です。

Stable Diffusionは、テキストや画像から画像を生成することができる人工知能モデルで、Automatic1111という人気のある配布版があります。この記事では、TensorRT Extension for Stable Diffusionのインストール方法と使い方について解説します。

TensorRT Extension for Stable Diffusionのインストール方法

TensorRT Extension for Stable Diffusionをインストールするには、以下の手順に従ってください。

  1. Automatic1111のGitHubページから、sd.webui.zipファイルをダウンロードします。
  2. ダウンロードしたファイルを解凍し、webui.batファイルをダブルクリックして実行します。
  3. WebUI が表示されたらそれを閉じ、コマンド プロンプトを閉じます。
  4. コマンド プロンプトを開き、ベースの SD webui フォルダーに移動します。
  5. 「venv\Scripts\activate.bat」と入力し実行します。
  6. 次のコマンドを入力します。
    • python.exe -m pip install --upgrade pip
    • python -m pip install nvidia-cudnn-cu11==8.9.4.25 --no-cache-dir
    • python -m pip install --pre --extra-index-url https://pypi.nvidia.com/ tensorrt==9.0.1.post11.dev4 --no-cache-dir
    • python -m pip uninstall -y nvidia-cudnn-cu11
    • venv\Scripts\deactivate.bat
  7. webui.batファイルをダブルクリックして実行します。
  8. コンソール画面が表示されたら、拡張機能タブをクリックし、URLからインストールをクリックします。
  9. 拡張機能のGitリポジトリのURLに、このリポジトリのURLを貼り付けてインストールをクリックします。
  10. インストールが完了すると、コンソール画面にローカルURLが表示されます。このURLをブラウザで開きます。

TensorRT Extension for Stable Diffusionの使い方

TensorRT Extension for Stable Diffusionを使うには、以下の手順に従ってください。

  1. ブラウザで開いた画面で、TensorRTタブをクリックし、デフォルトエンジンを生成をクリックします。このステップはGPUによっては2~10分ほどかかります。他の組み合わせのエンジンも生成することができます。
  2. 設定→ユーザーインターフェース→クイック設定リストに移動し、sd_unetを追加します。これにより、新しいTensorRTパイプラインを選択できるようになります。
  3. 設定を適用してUIを再読み込みします。メインUIの上部にSD Unetというドロップダウンメニューが表示されます。更新ボタンをクリックして新しいエンジンを読み込みます。
  4. ドロップダウンメニューからTRTモデルを選択します。これで、TRTによって高速化された画像生成ができるようになります。

以上がTensorRT Extension for Stable Diffusionのインストール方法と使い方です。この拡張機能を使えば、Stable Diffusionで驚くべき画像生成ができるようになります。ぜひお試しください。