【生活杂记】用电饭锅来煮米汤
By 苏剑林 | 2024-07-17 | 15706位读者 | 引用VQ的又一技巧:给编码表加一个线性变换
By 苏剑林 | 2024-11-06 | 24207位读者 | 引用在《VQ的旋转技巧:梯度直通估计的一般推广》中,我们介绍了VQ(Vector Quantization)的Rotation Trick,它的思想是通过推广VQ的STE(Straight-Through Estimator)来为VQ设计更好的梯度,从而缓解VQ的编码表坍缩、编码表利用率低等问题。
无独有偶,昨天发布在arXiv上的论文《Addressing Representation Collapse in Vector Quantized Models with One Linear Layer》提出了改善VQ的另一个技巧:给编码表加一个线性变换。这个技巧单纯改变了编码表的参数化方式,不改变VQ背后的理论框架,但实测效果非常优异,称得上是简单有效的经典案例。
【NASA每日一图】木星的新疤痕
By 苏剑林 | 2009-07-31 | 17223位读者 | 引用【NASA每日一图】三个“太阳”的日出
By 苏剑林 | 2009-08-04 | 17697位读者 | 引用爱恩斯坦的狭义相对论论文(中文/图片)
By 苏剑林 | 2009-11-07 | 30799位读者 | 引用说明:这篇文章是通过翻拍而来,请读者勿用于商业用途。如果原著作者(或者译者)认为此举侵犯了您的权利,请留言或者来信BoJone@Spaces.Ac.Cn告知,本人会尽快删除!
$$\begin{aligned}E=mc^2 \\ \sqrt{1-{v^2}/{c^2}}\end{aligned}$$
本文不是通用的相对论教程,适合已经有一定物理学基础的读者阅读。
相对论是关于时空和引力的基本理论,主要由阿尔伯特·爱因斯坦(Albert Einstein)创立,分为狭义相对论(特殊相对论)和广义相对论(一般相对论)。相对论的基本假设是相对性原理,即物理定律与参照系的选择无关。狭义相对论和广义相对论的区别是,前者讨论的是匀速直线运动的参照系(惯性参照系)之间的物理定律,后者则推广到具有加速度的参照系中(非惯性系),并在等效原理的假设下,广泛应用于引力场中。
最近评论