皆さまいかがお過ごしでしょうか。歌乃です。

AI 楽しいですね。主に画像生成を使ってますが、翻訳やら部位認識やら画像のキャプションやらほかにもいろいろ試しています。

ツールとして ComfyUI を利用しているのですが気付くと以下のようなメッセージが出ておりました。

「Could not find the bitsandbytes CUDA binary at WindowsPath('D:/Data/AI/StabilityMatrix/Data/Packages/ComfyUI/venv/lib/site-packages/bitsandbytes/libbitsandbytes_cuda124.dll')」

CUDA 用のライブラリが見つからねーゾ！と怒ってらっしゃるようす。

ライブラリがないため GPU は使ってないよ、ともおっしゃってました。

( ﾟДﾟ)・・・おかしいな、いままでこんなメッセージでてなかったんだが。

bitsandbytes パッケージが入ってないのかな？

.\venv\Scripts\activate
(venv) > python -m bitsandbytes
Could not find the bitsandbytes CUDA binary at WindowsPath('D:/Data/AI/StabilityMatrix/Data/Packages/ComfyUI/venv/lib/site-packages/bitsandbytes/libbitsandbytes_cuda124.dll')
The installed version of bitsandbytes was compiled without GPU support. 8-bit optimizers, 8-bit multiplication, and GPU quantization are unavailable.

パッケージは入ってるけど このバージョンでは GPU はサポートされてない、らしい。

pypi.org で bitsandbytes を確認してみる。

https://pypi.org/project/bitsandbytes-windows/

Supported CUDA versions: 10.2 - 12.0

ありゃ、12.0 はメジャーバージョンサポートではなく、文字通り 12.0 をサポートってことなのか。

GitHub を確認してみる。

https://github.com/bitsandbytes-foundation/bitsandbytes

pip インストールの手順は ハギングフェイスのドキュメントにあるっぽい。

https://huggingface.co/docs/bitsandbytes/main/en/installation#multi-backend

これで見る限り、windows最新版は11.7－12.4 に対応しているっぽい。

今入ってる bitsandbytes をアンインストールする。

(venv) > pip uninstall bitsandbytes

その後、改めてインストール。

(venv) > pip install bitsandbytes

確認してみる。

(venv) PS D:\Data\AI\StabilityMatrix\Data\Packages\ComfyUI> python -m bitsandbytes
+++++++++++++++++++++++++++++++++++++++++++++++++++++++++++
++++++++++++++++++ BUG REPORT INFORMATION ++++++++++++++++++

～～～～～～～～～～～～～ 略 ～～～～～～～～～～～～～

++++++++++++++++++++++ DEBUG INFO END ++++++++++++++++++++++
++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++
Checking that the library is importable and CUDA is callable...
SUCCESS!
Installation was successful!

お、成功してるみたい。

ComfyUI 側で確認したところ、無事、警告がでなくなってました。

よかったよかった (`・ω・´)