検証記事ありがとうございます！！
大変参考になります！！
記事後半に書かれていたunet層のスキップですが、こちら手元で試していて中間層と4層目のスキップは低ノイズi2iではほぼ生成結果に影響なく実施できました…

— 抹茶もなか (@GianMattya) November 28, 2023

おお！こちらこそ貴重な知見を共有いただきありがとうございます！
試してみますね！

— 動詞 (@IMG_5955) November 28, 2023

diffusersでunetスキップするやり方今夜か明日の朝にはzennで公開しようと思っているので、必要であれば役立ててもらえればと！

— 抹茶もなか (@GianMattya) November 28, 2023

おお～、なんという。。。　4090だと40fps行くのでは。早速試してみます。

— ゆずき (@uzuki425) November 28, 2023

ぜひ！
4090手元で使えないので、もし差し支えなければ結果教えてくださると嬉しいです！

— 動詞 (@IMG_5955) November 28, 2023

A4000のときが21.57FPS
4090のときが44.849FPSですね。
Pytorchのバージョンを2.1.1に上げるのとhttps://t.co/0mhGNPvJCAの中のpathに/appが有ったので削除したのと、outputディレクトリ作成しました。diffusereから再インストールしたので時間かかりました。素晴らしいです。

— ゆずき (@uzuki425) November 28, 2023

RTX4090ってそんなに早いんですか笑
教えていただきありがとうございます！

— 動詞 (@IMG_5955) November 28, 2023

カタログSPEC上でFP32のとき、3090に対して2.3倍なんですけど、計算ばかりではないですし、あくまでNVIDIAの言い分なので必ずしもこの比率にはならないんでは。A4000はミドルクラスGPUの4060と同じぐらいですね。

— ゆずき (@uzuki425) November 28, 2023

とてもクールな結果です！これは信じられないほど速いです！このブログをHugging Faceブログとして英訳して掲載することに興味はありますか？

— apolinario (multimodal.art) (@multimodalart) November 29, 2023

速い！！！
すごい！！！ https://t.co/jDpR9tuexD

— ステスロス@創作/画像生成AI/雑学RT (@StelsRay) November 28, 2023

ゆずき @uzuki425 さんによると、RTX4090で45fps出たそうです！やったぜ https://t.co/hZH9HKWaWy

— 動詞 (@IMG_5955) November 28, 2023

UNetの中間層スキップと量子化も考えたら60fps見えてきた感ある

— 動詞 (@IMG_5955) November 28, 2023

webuiとかComfyUI勢からすると考えられない技のてんこ盛りで驚いた。CLIPは埋め込む！CFGをしない！pythonをコンパイルする！って見出しのたびに「何ィー！？」ってなったｗ https://t.co/tfZlycsh2C

— Jun Tamaoki / 玉置絢 (@OKtamajun) November 28, 2023

コンパイルできるのはpythonじゃなくてPyTorchの処理部だった。

— Jun Tamaoki / 玉置絢 (@OKtamajun) November 28, 2023

この手法にSDXLturbo-SDXLを載せたら相当高速化出来そう。
早く試したい。#SDXLturbo-SDXL#LCM https://t.co/ZwWf5Ku4sy

— 遠藤円 (@sora2028_en) November 29, 2023

天才
僕が考えてたunet層のスキップにも言及されてる https://t.co/CJh6ssniZm

— 抹茶もなか (@GianMattya) November 28, 2023

TensorRTつかってなかった…… https://t.co/x7hhytincp

— 甘木きょこ (@8hmVmEGJ6nFyUE5) November 28, 2023

こう言うのしっかりできる人、素直にすごいと思うわ。 https://t.co/gRk1UvoJbz

— Naoyoshi Aikawa @ Rimo (@awakia) November 28, 2023