|
马上注册,结交更多好友,享用更多功能,让你轻松玩转社区。
您需要 登录 才可以下载或查看,没有帐号?免费注册
x
最近统计机器学习的课快结束了,正好做一下小小的总结。
9 N3 _$ w7 W6 |, k- J# m. f2 D& G- o6 O(欢迎访问老王论坛:laowang.vip)
Requirements: 高中概率和一点点本科的概率论,和一些统计机器学习的基础知识。5 q9 |$ _* q9 x; t, Y6 K7 @- m(欢迎访问老王论坛:laowang.vip)
( G, N. U. p" E3 m9 {9 w/ t(欢迎访问老王论坛:laowang.vip)
00:, V- O! n# J, A% X9 Q( y( N(欢迎访问老王论坛:laowang.vip)
% q; e9 t! Q! C" P R最近(其实已经不是最近了)感觉机器学习领域最热门的是两个话题:ChatGPT类型的transformer模型,和Stable Diffusion这类生成式模型。不难注意到,这两类模型在解决两种完全不同的问题:对于一个sequence(序列,很多情况下就是你的输入,以及历史的上下文)他的后续应该是什么,以及给定一组D(一堆数据)找到他在某个空间的分布。对于前者,当你知道每一段输入的下一个词语是什么的时候,你就可以生成文本,而对于后者,除了D是数据,在哪个空间,什么分布,似乎都不是非常明了(当然,你也可能早就了解到这些信息了)。
) f% e9 W- v0 v% ?$ H* h2 b2 {
8 @" I4 L1 I; N8 n: J) ]8 G. I遵顼传统地,先给出两个重要量的定义:% Q- \# C- ?/ B$ X(欢迎访问老王论坛:laowang.vip)
D={x_1, x_2, ……, x_n} 是数据集,其中包含n个元素。以图像生成为例,这些元素就是图片。
# s! ^$ K0 J; h) n$ z0 Aθ={z_1, z_2, ……, z_m} 是隐变量。这是一些我们不知道的变量,但我们希望通过算法学习到这些变量,并且用这些变量重构D。
% X8 V8 K! X" @& Z
* B% `# S, |9 N. E# |* n, k其实看不懂也没关系,因为我课上到这里的时候也不清楚这两个量的意义。
- l9 ?% ^/ Q6 r& R+ ?4 z$ a' c# ]" F( ~+ a(欢迎访问老王论坛:laowang.vip)
让我们从最简单也是最符合直觉的GAN开始吧。
4 }$ M& f& O: u: ~' R7 o8 ]2 D2 g. j! E6 w& M# L# o. }8 @(欢迎访问老王论坛:laowang.vip)
01:8 }) l+ V5 x8 ~ d3 \(欢迎访问老王论坛:laowang.vip)
2 i, b% C M/ L+ Y. }7 }& yGAN可以用来生成图片,其训练的原理也众所周知:模型分为生成器和鉴别器,生成器负责生成随机的图片,鉴别器负责判断一张图片来自生成器还是来自数据集D。这是一个非常简单而符合直觉的模型:如果模型训练良好,那么生成器就会生成尽可能像原始数据集的图片从而骗过鉴别器,鉴别器在一次次的欺骗中也学会怎么从最微小的差别中判断到底图片来自哪里,那么随着时间的进行,鉴别器愈发精明的同时生成器生成的图片也更能让人信以为真。
; D! c/ B! G! T4 e
& L3 u/ q! L3 d- e那么随之而来的是三个问题。
, U1 {& o) p) d0 a1 F* X 模型怎么训练?3 i5 T. y( h) \$ F* W1 \(欢迎访问老王论坛:laowang.vip)
鉴别器怎么鉴别?! U/ O% [/ }9 ^3 v(欢迎访问老王论坛:laowang.vip)
生成器怎么生成?
( t3 j. t* U6 T+ x( |
% U/ x7 Z1 }" Q7 ~ W对于第一个问题有疑惑的人,其实答案是很简单的梯度下降。你只要定义好loss,而pytorch要考虑的就多了(((。只要知道一个loss是可微的那么模型就是可梯度下降的。关于这个如果你不知道什么是梯度下降那么可能去百度一下有无数人比我更能讲清楚。其实基本所有的模型都是这么训练的。 C w% x8 [7 h( }. h(欢迎访问老王论坛:laowang.vip)
6 {5 j. X# I9 y/ `; p) r7 \(欢迎访问老王论坛:laowang.vip)
对于第二个问题,答案是这就是一个简单的图片分类问题,而且还是其中最简单的二分类,任何一个Data Science和ML专业的学生都不会对此感到陌生。4 Q2 o+ s5 l, M8 Y: m) k(欢迎访问老王论坛:laowang.vip)
第三个问题的答案是,从一个随机的输入开始,经过一个网络就生成了。这个网络在最简单的情况下可以是一个多层感知机(一堆全连接层),或者有卷积,逆向卷积这些CV里常用的网络结构。那么这个模型的输入是什么呢?是一个随机的噪声,更确切的,他是一个高斯噪声。
Z* ^: p2 A: m) s* h, c2 i. W% K7 h( z: _* ^; s2 n. T. b$ S(欢迎访问老王论坛:laowang.vip)
也就是说,这个模型包含两个网络:一个通过随机的噪声生成了图片,一个判断图片的来源。而令人感到惊喜的是,这个随机噪声就是θ。在GAN中,θ并没有被学习到,被学习到的是两个网络。
6 I; ?0 F$ G. _( Q! F g' D- V# h& t' s8 s. f* d(欢迎访问老王论坛:laowang.vip)
至此,θ和D就都被提及了,希望能让大家有个概念。0 R& o! i% }5 W' \- ](欢迎访问老王论坛:laowang.vip)
1 p; |) a; ?$ Y% X6 ^7 o02:2 [8 \9 P2 E) V4 L1 B" u9 r7 x- \3 {(欢迎访问老王论坛:laowang.vip)
/ \# c! t( I, Z( x4 `(欢迎访问老王论坛:laowang.vip)
在编码器-解码器的架构中,VAE是其中之一。编解码器的架构的意思是,模型有编码器和解码器两个部分(呃……)。编码器把D编码成θ,而解码器从θ中恢复出一个D’。而模型的loss就是D’和D的区别,以及一个kl散度(这个先不必理会)。
& j }9 Y2 \( Q8 f
o1 x S% p" J( A1 V* k1 @$ n一般来说,模型训练完美之后,从一个x∈D经过编码器产生一个θ,用这个θ经过解码器会得到和x完全一样的图像。
/ N- c2 E' a- n6 a6 h- T5 k" ^+ k) ]6 u8 z k(欢迎访问老王论坛:laowang.vip)
这是我们希望的吗?+ m/ b9 p) w; j$ ~5 `(欢迎访问老王论坛:laowang.vip)
$ U3 x. G/ h; f9 u' h(欢迎访问老王论坛:laowang.vip)
其实并不是,我们希望的是获得一些稍微不同的图像。比如我输入的是一张JK的色图,得到了一个隐变量θ,我希望得到的是其他的图片,最好也是色图,最好也是JK题材,而不是获得一个打了马赛克的原图(因为θ一般比输入要小,所以信息多少会丢失一些,因此恢复的图像的质量会变差)。怎么做呢?答案是在θ附近采样。一个符合直觉的猜测是:如果一个θ对应解码后是JK色图,那么他的附近生成的也应该是JK色图。
B, A! D' _; ~- g5 y, w& i' V& z( f/ F1 }$ L, V(欢迎访问老王论坛:laowang.vip)
事实并非如此,要不然也不需要大费周章地搞VAE了。
" k3 j8 z# Y+ h: Y' n
' Q/ k+ P$ I/ [7 i其实根本原因在于θ所在的空间性质很差。从你当前的位置向某些方向移动或许是JK色图,向另一些方向移动一点点就变成章鱼色图,再朝另外一个方向移动就会变成JK鬼片。在三维的世界里我们有三个正交的方向,然而θ常常有几千的维度,也就是几千个正交的方向。如果不要求每个方向向量完全正交,那么几千的维度可能会产生上万个方向。(这段推导或者模拟都很麻烦)。总之就是,这个空间的性质很差,以至于你没有办法知道你应该去哪里采样。1 l5 h! H' y \2 _; @(欢迎访问老王论坛:laowang.vip)
. O- r8 X+ ]9 R$ B' N所以我们需要VAE。' C. s$ k+ y! a; ?(欢迎访问老王论坛:laowang.vip)
" t D8 a) M: n B% q(欢迎访问老王论坛:laowang.vip)
VAE的一个基本假设是θ应该满足高斯分布。高斯分布是一个性质很好的分布:首先他很圆,所以一个点附近的点和他也是近似的。其次是有些东西是可以计算的,过会就能看见。
2 I& |9 d% s9 B+ _% K( R9 r% I
+ b8 ?& p4 M8 j( _6 {# Q在VAE的视角下,问题变成了:
7 X5 ], }6 Z/ Q8 D我们有:
5 @) @4 f- y$ @7 i6 K: @数据的分布:p(D) 我们不知道% D7 u+ ^# M, S5 v' L% R# @(欢迎访问老王论坛:laowang.vip)
θ的分布: p(θ) ~N(0, 1) 我们假设他是一个标准正态分布。
- E; M" [& K1 W! s# _) Q" a现在我们希望将D编码到θ,并且从θ恢复到D。% ^- \1 k: S( s/ F9 Z(欢迎访问老王论坛:laowang.vip)
p(D| θ)是似然,就是从θ还原成D的概率
; g' [/ `" @) ?$ Y8 wp(θ|D)是后验,既从D编码成θ的概率。(其实这里一般是说在观察到数据D后对θ分布的猜测)8 y G8 f2 x2 @4 T/ c2 H+ v4 W3 J(欢迎访问老王论坛:laowang.vip)
! l5 k& b- n, c那么loss的设计就很简单了。我们希望θ能准确的还原D,所以只需要最大化似然就行。
3 Y3 Q2 }) W4 s但是这一切怎么计算呢?我们对于似然和后验都不知道,所以我们需要一个好的后验的假设,让似然是可以计算的。我们这门课叫这个东西conjugate priors,
( S2 ~$ \" z* b0 H. |4 G5 {( i5 [9 k6 O(欢迎访问老王论坛:laowang.vip)
https://en.wikipedia.org/wiki/Conjugate_prior 这里有更多的例子。
9 Y0 @7 Q- ~% x, B, w+ o4 T/ W9 A$ K1 [8 t(欢迎访问老王论坛:laowang.vip)
话说回来,既然我们假设了先验,也就是p(θ)是一个正态,那么如果我们假设似然也是高斯,那么后验就可以计算了!
?! W7 H: C t8 V* d9 a: k5 U9 W& N4 Q( r j, m# @(欢迎访问老王论坛:laowang.vip)
VAE干的事情就是假设似然也服从一个正态分布,均值和方差就是可以学习的参数。
; }- U' R/ j3 G; y9 x2 ]) s
- O, V5 n$ Z/ R: ^% Q8 Q2 [' O4 I结局就是VAE在一个x给出的θ旁的采样也是和x类似的!1 ^7 z! b; r; e: h+ O; ^(欢迎访问老王论坛:laowang.vip)
+ x# h* i% M$ x/ W+ [(欢迎访问老王论坛:laowang.vip)
那么古尔丹,代价是什么呢?答案是首先,你做出了两个假设。第一个先验的假设还算合理,第二个就完全是为了凑共轭而嗯造出来的,事实上似然几乎不可能是一个高斯,我们只能用一个高斯去近似(这也就是kl散度那一项,目的是让这个高斯尽可能接近真实的似然)。但只有两个参数的高斯何德何能能逼近一个一般需要上万参数才能拟合的分布呢?所以这导致的结果就是:VAE生成的图片很烂。但他保证了你能找到类似的图片。
( c* }0 d( Q4 C0 D
( V$ t/ |' r$ A. j _# b. F8 y03:diffusion
9 G+ U; v4 g. h) z" @既然一层的VAE是不好用的,那么不如试试叠一堆VAE到一起。你既可以把diffusion理解为一堆VAE,也可以从他的形式上理解为他就是在原图上一点点加高斯噪音,直到图像完全变成噪音后,再从噪音一点点重建图像。效果很好。效果好的一方面是因为网络变深了,因此参数是VAE的几百上千倍,自然能学到更加精细的结构。第二点我觉得是因为一堆高斯的叠加才能拟合复杂的分布,就好像一堆线形层的堆叠才能识别复杂的结构一样。
5 C: C7 t P# |# G3 {; f% i7 [7 t) I(欢迎访问老王论坛:laowang.vip)
04:不是,我写不下去了。直接快进到结语部分。, ]+ ?) r1 _& s( L8 |(欢迎访问老王论坛:laowang.vip)
2 T! z5 T! l7 A, ^(欢迎访问老王论坛:laowang.vip)
其实这件事情远比这一点点东西复杂,但怎么能不牵扯到麻烦的概率论和很多机器学习的概念又能讲明白确实不是很容易做到,真这么写了有时候又觉得写得很像是你去知乎也能看到的科普,以及更重要的是我不知道这个论坛怎么写latex,导致写公式异常难受。* _' `( Q" v, h& S/ c(欢迎访问老王论坛:laowang.vip)
# C2 K$ i3 n5 A) [但如果你知道loss是什么,知道什么是正态分布,最好也知道先验,后验和似然,更巧的是这么博学的你竟然不知道VAE,那么可能你会对VAE有个大致的概念。! x2 o) V' _6 ]( H5 u" u% p(欢迎访问老王论坛:laowang.vip)
- |4 H, j0 ?. I2 W% O
+ Q% ~& A. I3 C% z% `' T3 A+ f顺便调研一下真的有人看吗?以及看的人的分布是什么样的,还有有什么计算机相关的问题。主要思索了好久也不知道什么主题好,我会的大家都会,专业的知识网上也有很多现成的。% O' X, e. I% H+ L8 h+ {" r5 s(欢迎访问老王论坛:laowang.vip)
要不然下一篇讲讲怎么从逻辑门到简单CPU吧,计组和数电我学的还不算太差的。或者有什么关于C++(20以前)或者机器学习的推荐主题?我发现我一旦写下我学过的东西或者给别人讲之后我的印象就会更加深刻,所以可能等着课少一点的时候会再更新一些。9 U$ q0 |2 A( W! K# p9 F2 X9 w(欢迎访问老王论坛:laowang.vip)
% {6 ~, X+ s! ~看了看感觉好像逻辑性和其他芝士帖子没法比,,,有点惭愧3 } q% B* ?+ k+ l: C- S" o' D(欢迎访问老王论坛:laowang.vip)
; M' T( d4 Y% _) Y( f$ q0 C: }
& P' z0 P7 ~7 a0 I, b3 {, \& o |
评分
-
查看全部评分
|