Vector-Quantization - xyfJASON

[xyfJASON]

https://xyfjason.top/2023/03/29/Vector-Quantization/

VQ-VAEVQ-VAE[1] 是 Google DeepMind 在 2017 年提出的一个类 VAE 生成模型，相比普通的 VAE，它有两点不同： 隐空间是离散的，通过 VQ (Vector Quantization) 操作实现； 先验分布是学习出来的。 为什么要用离散的隐空间呢？首先，离散的表征更符合一些模态的自然属性，比如语言、语音，而图像也能用语言描述；其次，离散表征更适合推理、规划