Diffusion Models / 拡散モデル

翻訳 : (株)クラスキャット セールスインフォメーション
更新日時 : 12/30/2022
作成日時 : 09/08/2022

 

 

Diffusion Models / 拡散モデル

Stable Diffusion

• Stable Diffusion : 概要 (09/11/2022)
• Stable Diffusion Version 2 : 概要 (12/19/2022)

 

CLIP

• CLIP (対照的言語-画像事前訓練) : 概要 (09/09/2022)
• CLIP : ノートブック : CLIP との相互作用 (12/09/2022)

• OpenCLIP 2.7 : 概要 (12/13/2022)
• OpenCLIP 2.7 : ノートブック : OpenCLIP との相互作用 (12/14/2022)

 

HuggingFace Diffusers 0.2

• 概要 (README) (08/24/2022)
• クイックスタート : Getting started (08/28/2022)
• クイックスタート : diffuser モデルの訓練 (08/30/2022)
• Stable Diffusion (09/01/2022)

 

HuggingFace ブログ

• 遠隔センシング (衛星) 画像とキャプションによる CLIP の微調整 (12/20/2022)
• 注釈付き拡散モデル (11/06/2022)
• Stable Diffusion with 🧨 Diffusers (11/13/2022)
• What’s new in Diffusers? 🎨 (11/14/2022)
• JAX / Flax で 🧨 Stable Diffusion ! (11/11/2022)
• Dreambooth による Stable Diffusion の訓練 (11/10/2022)

 

Stable Diffusion Video

• Stable Diffusion Videos 0.6 : 概要 (11/15/2022)
• Stable Diffusion Videos 0.6 : ノートブック (11/15/2022)

 

Paella

• Paella : 概要 (12/11/2022)
• Paella : ノートブック : サンプリング (12/15/2022)

 

Disco Diffusion

• Disco Diffusion 5.4 : 概要 (09/08/2022)
• DiscoArt 0.12 : 概要 (09/07/2022)

 

その他 (PyTorch)

• 潜在拡散モデル (Latent Diffusion Models) : 概要 (09/10/2022)
• ノイズ除去拡散モデル : チュートリアル (09/12/2022)
• 拡散確率モデル (1) スコアマッチング (09/16/2022)
• 拡散確率モデル (2) イントロダクション (09/20/2022)
• ノイズ除去拡散確率モデル on CIFAR-10 (code) (09/24/2022)

 

その他 (TensorFlow & Keras)

• Keras 2 : Keras 2 : 開発者ガイド : KerasCV – Stable Diffusion を使用した高性能画像生成 (12/23/2022)
• Keras 2 : Code examples : 生成深層学習 – ノイズ除去拡散暗黙モデル (12/22 更新, 09/04/2022)
• Keras 2 : Code examples : 生成深層学習 – Stable Diffusion の潜在的空間の探索 (12/24/2022)
• Keras 2 : Code examples : 生成深層学習 – ノイズ除去拡散確率モデル (12/25/2022)
• Keras 2 : Code examples : 生成深層学習 – Textual Inversion で StableDiffusion に新コンセプトを教える (12/26/2022)

• Keras Stable Diffusion : 概要 (12/27/2022)
• Keras Stable Diffusion : 基本的な使い方 (テキスト-to-画像 / 画像-to-画像変換) (12/27/2022)
• Keras Stable Diffusion : 混合精度のパフォーマンス (12/27/2022)
• Keras Stable Diffusion : インペインティングの簡易アプリケーション (12/30/2022)

 

参考記事

• Generative Modeling by Estimating Gradients of the Data Distribution (05/05/2021)
• Diffusion Models Made Easy (J. Rafid Siddiqui, PhD ; 05/02/2022)
• What are Diffusion Models? (Lilian Weng ; 09/21/2022)
• Diffusion models are autoencoders (Sander Dieleman ; 01/31/2022)

 

参考 Web サイト

• DALL-E 2
• Imagen

 

原論文

• [2005/04] Estimation of Non-Normalized Statistical Models
  Score Matching

• [2011] Bayesian Learning via Stochastic Gradient Langevin Dynamics
  Welling et al.

• [2014/06] Generative Adversarial Networks
  Ian J. Goodfellow, Jean Pouget-Abadie, Mehdi Mirza, Bing Xu, David Warde-Farley, Sherjil Ozair, Aaron Courville, Yoshua Bengio

• [2015/03] Deep Unsupervised Learning using Nonequilibrium Thermodynamics (拡散確率モデル)
  Jascha Sohl-Dickstein, Eric A. Weiss, Niru Maheswaranathan, Surya Ganguli

• [2019/05] Sliced Score Matching: A Scalable Approach to Density and Score Estimation
  Yang Song, Sahaj Garg, Jiaxin Shi, Stefano Ermon

• [2019/07] Generative Modeling by Estimating Gradients of the Data Distribution (ノイズ条件付きスコアネットワーク ; NCSN)
  Yang Song, Stefano Ermon

• *1 [2020/06] Denoising Diffusion Probabilistic Models (ノイズ除去拡散確率モデル ; DDPM)
  Jonathan Ho, Ajay Jain, Pieter Abbeel

• [2020/09] WaveGrad: Estimating Gradients for Waveform Generation
  Nanxin Chen, Yu Zhang, Heiga Zen, Ron J. Weiss, Mohammad Norouzi, William Chan

• *2 [2020/10] Denoising Diffusion Implicit Models
  Jiaming Song, Chenlin Meng, Stefano Ermon

• [2020/11] Score-Based Generative Modeling through Stochastic Differential Equations
  Yang Song, Jascha Sohl-Dickstein, Diederik P. Kingma, Abhishek Kumar, Stefano Ermon, Ben Poole

• 3* [2021/02] Improved Denoising Diffusion Probabilistic Models
  Alex Nichol, Prafulla Dhariwal

• 4* [2021/05] Diffusion Models Beat GANs on Image Synthesis
  Prafulla Dhariwal, Alex Nichol

• 6* [2021/12] GLIDE: Towards Photorealistic Image Generation and Editing with Text-Guided Diffusion Models
  Alex Nichol, Prafulla Dhariwal, Aditya Ramesh, Pranav Shyam, Pamela Mishkin, Bob McGrew, Ilya Sutskever, Mark Chen

• 7* [2022/04] Hierarchical Text-Conditional Image Generation with CLIP Latents
  Aditya Ramesh, Prafulla Dhariwal, Alex Nichol, Casey Chu, Mark Chen

• 8* [2022/08] Photorealistic Text-to-Image Diffusion Models with Deep Language Understanding
  Chitwan Saharia, William Chan, Saurabh Saxena, Lala Li, Jay Whang, Emily Denton, Seyed Kamyar Seyed Ghasemipour, Burcu Karagol Ayan, S. Sara Mahdavi, Rapha Gontijo Lopes, Tim Salimans, Jonathan Ho, David J Fleet, Mohammad Norouzi

• [2022/06] Elucidating the Design Space of Diffusion-Based Generative Models
  Tero Karras, Miika Aittala, Timo Aila, Samuli Laine

• 5* [2022/07] Classifier-Free Diffusion Guidance
  Jonathan Ho, Tim Salimans

※ *[1-8] recommendation

以上