Variational Autoencoder (VAE) and Reparameterization Trick - Revisiting the Classic Generative Model

Tutorials

محلل التشفير المتغير (VAE) وخدعة إعادة المعاملة - إعادة النظر في نموذج التوليد الكلاسيكي

قبل الانتشار، قبل تدفقات التطبيع، قبل نماذج الانتشار الكامنة التي بنت بهدوء ترميزات VAE في كل مكدس توليدي جدير بالاهتمام — كانت هناك ورقة Kingma و Welling لعام 2013 التي قدمت المشفر التلقائي المتغير

قبل الانتشار، قبل تدفقات التطبيع، قبل نماذج الانتشار الكامنة التي بنت بهدوء ترميزات VAE في كل مكدس توليدي جدير بالاهتمام — كانت هناك ورقة Kingma و Welling لعام 2013 التي قدمت المشفر التلقائي المتغير وخدعة إعادة المعاملة. تعود هذه الزيارة إلى الكلاسيكي الذي جعل نسب الانحدار العشوائي الحاد ممكناً من خلال عملية الأخذ في البداية، وتوضح سبب استمرار الأفكار في تشغيل الذكاء الاصطناعي التوليدي الحديث من Stable Diffusion إلى أجهزة ترميز الكلام العصبية مثل EnCodec و SoundStream.

يغطي الشرح المشكلة الأساسية التي حلتها الورقة: كيفية إجراء الاستدلال والتعلم الفعال في النماذج الاحتمالية الموجهة مع المتغيرات الكامنة المستمرة والتوزيعات الخلفية التي يتعذر حسابها، على نطاق واسع على مجموعات بيانات كبيرة. خدعة إعادة المعاملة هي المحور — التعبير عن العينة الكامنة كدالة حتمية للمعاملات بالإضافة إلى الضوضاء المحقونة، مما يسمح للتدرجات بالتدفق بسلاسة وفتح الاستدلال المتغير العشوائي القابل للتوسع. توقع اشتقاقاً نظيفاً من ELBO، وإطار نموذج التعرف الذي ألهم كل شبكة مشفر حديثة، وحدس كافٍ لفهم سبب استمرار VAEs في الظهور كعمود فقري في الفضاء الكامن تحت العديد من الأنظمة التوليدية اليوم. يستحق 10 دقائق إذا كنت تريد فهم ما يحدث بالفعل داخل الكامن.