25
Apr
学习场论（电磁场、重力场）
By 苏剑林 | 2013-04-25 | 40289位读者 | 引用在讨论了倒立单摆的相关分析之后，胡雄大哥（笔者的一位好友）提出了一个问题：一根均匀杆，当然质量不可忽略，只有一个力（简单起见，可以先假设为恒力）作用在其中一个点上（简单起见，可以假设为端点），那么杆是怎么运动的？
其实笔者学了不少的经典力学，也分析了不少问题，但就是对于力矩、角动量等还是模模糊糊的，对于我来说，大多数经典力学问题就是“作用量+变分”，本题也不例外。为了让题目的实验意义更加明确，不妨将题目改成：
一根中性的均匀杆，它的一个端点带有一个点电荷，那么它（仅仅）在一个均匀电场中的运动是怎样的？
在这里，我们进一步简化，只考虑平面问题。杆属于刚体，为了描述杆的运动，我们需要描述杆上一点的运动，以及杆绕这一点的转动，也就是说，即使只考虑平面的情况，该系统也是有三个自由度的。设杆的带电荷那一端点的坐标为$(x,y)$，为了描述杆的转动，以这一端点为中心建立极坐标系，设杆的极角为$\theta$。设电势的函数为$U(x,y)$，因为只有一点带电（受力），因此势能是简单的。
16
Aug
从费马大定理谈起（三）：高斯整数
By 苏剑林 | 2014-08-16 | 46701位读者 | 引用为了拓展整数的概念，我们需要了解关于环和域这两个代数结构，这些知识在网上或者相应的抽象代数教程中都会有。抽象地提出这两个代数结构，是为了一般地处理不同的数环、数域中的性质。在自然数集$\mathbb{N}$中，可以很方便定义和比较两个数字的大小，并且任意一个自然数的子集，都存在最小元素，这两点综合起来，我们就说$\mathbb{N}$是“良序”的（这也是数学归纳法的基础）。在良序的结构中，很多性质的证明变得很简单，比如算术基本定理。然而，一般的数环、数域并没有这样的“良序”，比如任意两个复数就不能比较大小。因此，一般的、不基于良序的思想就显得更为重要了。
环和域
关于环（Ring）的定义，可以参考维基百科上面的“环（代数）”条目。简单来说，环指的是这样一个集合，它的元素之间可以进行加法和乘法，并满足一些必要的性质，比如运算封闭性、加法可交换性等。而数论中大多数情况下研究的是数环，它指的是集合是数集的情况，并且通常来说，元素间的加法和乘法就是普通的数的加法和乘法。比如所有的实整数就构成一个数环$\mathbb{Z}$，这个数环是无限的；所有的偶整数也构成一个数环$2\mathbb{Z}$；对于素数$p$，在模$p$之下，数集$\{0,1,2,\dots,p-1\}$也构成了一个环，更特别的，它还是一个数域。
Mathieu方程
在文章《有质动力：倒立单摆的稳定性》中，我们分析了通过高频低幅振荡来使得倒立单摆稳定的可能性，并且得出了运动方程
$$l\ddot{\theta}+[h_0 \omega^2 \cos(\omega t)-g]\sin\theta=0$$
由此对单摆频率的下限提出了要求$\omega \gg \sqrt{\frac{g}{h_0}}$。然而，那个下限只不过是必要的，却不是充分的。如果要完整地分析该单摆的运动方程，最理想的方法当然是写出上述常微分方程的解析解。不过很遗憾，我们并没有办法做到这一点。我们只能够采取各种近似方法来求解。近似方法一般指数值计算方法，然后笔者偏爱的是解析方法，也就是说，即使是近似解，也希望能够求出近似的解析解。
19
Mar
一本对称闯物理：相对论力学(一)
By 苏剑林 | 2014-03-19 | 30599位读者 | 引用简单说说
《可畏的对称》
笔者最近陶醉于从李对称的角度来理解力学和场论，并且计算得到一些比较有趣的结果，遂想在此与大家分享。我发现，仅仅需要一个描述对称的无穷小生成元和一些最基本的假设，几乎就可以完成地推导出整个相对论力学来，甚至推导出整个（经典）场论理论来。这确实是不可思议的，我现在能基本体会到当年徐一鸿大师写的《可畏的对称》的含义了。对称的威力如此之大，以至于我们真的不得不敬畏它。而在构思本文题目的时候，我也曾想到过用“可畏的对称”为题，但不免有抄袭和老套之嫌。后来想到曾有一部漫画叫《一本漫画闯天涯》，遂将“漫画”改成“对称”，“天涯”改成“物理”，似乎也能表达我对“对称”的感觉。
对称就是在某种变换下保持不变的性质，比如狭义相对论要求所有物理定律在所有惯性系中保持不变，这相对于要求描述物理定律的方程在匀速运动的坐标变换下保持不变，结合光速不变的要求，我们就可以推导出洛伦兹变换，从而完成地描述了狭义相对论里边的对称。然而，并不是任何时候都可以想推导洛伦兹变换那样，能够把一个完整的变换推导出来的。幸好，李对称的不需要完整的对称描述，它只需要“无穷小变换”（意味着我们可以忽略掉高阶项），对应地产生一个“无穷小生成元”，用这个无穷小生成元，就足以完整构建出我们所需要的物理来。这种“无穷小”决定“广泛”、“局部”决定“全局”的奇妙至今仍让我觉得不可思议。（关于李对称、无穷小生成元的基本概念，不妨先阅读：《求解微分方程的李对称方法》）
1
Jul
勾股数的通解及其推广
By 苏剑林 | 2014-07-01 | 21316位读者 | 引用在之前的文章《几何的数与数的几何：超复数的浅探究》中，我们谈及过四元数。四元数源于把复数的$|(a+bi)(c+di)|=|a+bi|\times|c+di|$这一独特的性质进行高维推广。为什么偏爱这一性质？读者或许已经初步知道一些用到复数的这一性质的例子，有几何方面的，也有物理方面的，这一性质为处理模长相关问题带来了美妙的方便。本文介绍它在求三元二次齐次不定方程的整数通解中的应用，这一例子同样展示了复数这一性质的神奇，让我们不得不认同当初哈密顿为了将其推广到高维而不惜耗费十年光阴的努力。
勾股数问题
读者或许已经知道，勾股数，也就是满足
$$x^2+y^2=z^2$$
的所有自然数解，由下面公式给出
$$x=a^2-b^2,\quad y=2ab,\quad z=a^2+b^2$$
6
May
变分自编码器（五）：VAE + BN = 更好的VAE
By 苏剑林 | 2020-05-06 | 196417位读者 | 引用本文我们继续之前的变分自编码器系列，分析一下如何防止NLP中的VAE模型出现“KL散度消失（KL Vanishing）”现象。本文受到参考文献是ACL 2020的论文《A Batch Normalized Inference Network Keeps the KL Vanishing Away》的启发，并自行做了进一步的完善。
值得一提的是，本文最后得到的方案还是颇为简洁的——只需往编码输出加入BN（Batch Normalization），然后加个简单的scale——但确实很有效，因此值得正在研究相关问题的读者一试。同时，相关结论也适用于一般的VAE模型（包括CV的），如果按照笔者的看法，它甚至可以作为VAE模型的“标配”。
最后，要提醒读者这算是一篇VAE的进阶论文，所以请读者对VAE有一定了解后再来阅读本文。
VAE简单回顾
这里我们简单回顾一下VAE模型，并且讨论一下VAE在NLP中所遇到的困难。关于VAE的更详细介绍，请读者参考笔者的旧作《变分自编码器（一）：原来是这么一回事》、《变分自编码器（二）：从贝叶斯观点出发》等。
VAE的训练流程
VAE的训练流程大概可以图示为
VAE训练流程图示
最近评论