科学空间|Scientific Spaces

在小学的时候，数学老师就教我们除法运算：

被除数 = 除数 × 商 + 余数

其中，余数要小于除数。不过，我们也许未曾想到过，这一运算的成立，几乎是自然数$\mathbb{N}$所有算术（数论）运算性质成立的基础！在代数中，上面的运算等式称为带余除法（division algorithm）。如果在一个整环中成立带余除法，那么该整环几乎就拥有了所有理想的性质，比如唯一分解性，也就是我们说的算术基本定理。这样的一个整环，被称为唯一分解整环（Unique factorization domain）。

欧几里得整环

Euklid-von-Alexandria_1

唯一分解定理说的是在一个整环之中，所有的元素都可以分解为该整环的某些“素元素”之积，并且在不考虑元素相乘的顺序和相差单位数的意义之下，分解形式是唯一的。我们通常说的自然数就成立唯一分解定理，比如$60=2^2\times 3\times 5$，这种分解是唯一的，这看起来相当显然，但实际上唯一分解定理相当不显然。首先，并不是所有的整数环都成立唯一分解定理的，我们考虑所有偶数组成的环$2\mathbb{Z}$，要注意，在$2\mathbb{Z}$中，2、6、10、30都是素数，因为它们无法分解成两个偶数的乘积了，但是$60=6\times 10=2\times 30$，存在两种不同的分解，因此在这样的数环中，唯一分解定理就不成立了。

点击阅读全文...

现在可以开始$n=3$的证明了。在实整数范围内n=3的证明看起来相当复杂，而且跟n=4的证明似乎没有相通之处。然而，如果我们在$\mathbb{Z}[\omega]$中考虑$x^3+y^3+z^3=0$无解的证明，就会跟n=4时有很多类似的地方，而且事实上证明比n=4时简单（要注意在实整数范围内的证明，n=4比n=3简单。费马完成了n=4的证明，但是没完成n=3的证明。）。我想，正是这样的类似之处，才让当初还没有完成证明的数学家拉梅就自信他从这条路可以完成费马大定理的证明。（不过，这自信却是失败的案例：拉梅的路不能完全走通，而沿着这条路走得更远的当属库默，但即便这样，库默也没有证明费马大定理。）

证明跟$n=4$的第二个证明是类似的。我们先往方程中添加一个单位数，然后证明无论单位数是什么，方程在$\mathbb{Z}[\omega]$中都无解。这是一个很妙的技巧，让我们证明了更多的方程无解，但是却用到了更少的步骤。事实上，存在着只证明$x^3+y^3+z^3=0$无解的证明，但需要非常仔细地分析里边的单位数情况，这是相当麻烦的。本证明是我参考了Fermats last theorem blogspot上的证明，然后结合本系列n=4的第二个证明，简化而来，主要是减少了对单位数的仔细分析。

点击阅读全文...

在上一篇文章中，笔者提到似乎证明n=4时必须要证明$x^4+y^4=z^2$无解而不能只证明$x^4+y^4=z^4$无解。不过，在今天中午研究的时候，笔者发现了另外一个n=4的证明，它同样是在$\mathbb{Z}[i]$中，但是，证明的则是指数全是4的形式，但是，又不单单是$x^4+y^4=z^4$的形式，而是$\varepsilon x^4+y^4=z^4$，$\varepsilon$是单位数。这个证明过程，我觉得应该更接近n等于其他奇素数时的证明，遂补充了这篇文章，供大家参考。读者可以对比着上一篇文章进行比较阅读。

引理

用$\varepsilon_1,\varepsilon_2,\varepsilon_3,\varepsilon$表示$\mathbb{Z}[i]$中的单位数，下面先证明

如果方程$\varepsilon_1 x'^4 +\varepsilon_2 y'^4+\varepsilon_3 z'^4=0$在$\mathbb{Z}[i]$中有全不为0的解，那么在经过适当的化简和整理之后，方程必有形式$\varepsilon x^4+y^4=z^4$，其中$(x,y,z)$是$(x',y',z')$的某个置换，$\xi^2|x$。

点击阅读全文...

最近的很多篇文章都是数论内容，属于纯数学的范畴了，对于很多只爱好物理或应用数学的读者可能会看得头晕了。今天我们来谈些不那么抽象的东西，我们来谈谈风筝，并来分析一下风筝的飞行力学。

爱情就像放风筝，线不能来得太紧，也不能拉得太松，你只会给对方飞翔的空间，他/她始终会回到你身边，因为有一条线系着双方。

放风筝（来自互联网）

风筝，在我们这个地方叫做纸鸢，相信大家童年时一定会放过。笔者小时候放风筝时，已经是小学五年级之前的事了。这个暑假突然童心一起，凭着小时候的回忆，简单做了个风筝来玩，居然真的飞起来了！兴奋之余，与大家分享一下。如今再来放风筝，真心感觉到放风筝也有很多技巧，让风筝飞，还不是件容易的事情呢，真可谓人生处处皆学问呀。上面关于风筝的比喻，正是放风筝的真实写照吧。

风筝可以说是人类摆脱地球重力的最原始尝试吧，跟发射宇宙飞船的火箭不同，风筝是借助风力来抵抗重力，严格来讲，即便是现在的飞机，也离不开这个原理（我们最后会谈到）。简单来讲，风筝就是用轻的支架撑开一个轻盈的平面，然后系上一个线圈。我们简单做一个风筝，只需要一张报纸，两条竹篾和一点透明胶，十分钟内就可以完成一个。当然，现在已经有各种各样的好看的风筝，甚至还有龙形的风筝，但是，自己动手简单做一个风筝，还是相当好玩的。

风筝自然是借助风力飞起来的，可是为什么风筝得用绳子牵着才能飞得更高、绳断了反而掉下来？风大多时，才适合放风筝？飞机又是怎么飞起来的？下面我们试着分析这些问题。

点击阅读全文...

Ramanujan

在正式开始数学之前，我们不妨先说一个关于印度著名数学天才——拉马努金的轶事。拉马努金病重，哈代前往探望。哈代说：“我乘出租车来，车牌号码是1729，这数真没趣，希望不是不祥之兆。”拉马努金答道：“不，那是个有趣得很的数。可以用两个立方之和来表达而且有两种表达方式的数之中，1729是最小的。”（即$1729 = 1^3+12^3 = 9^3+10^3$，后来这类数称为的士数。）利特尔伍德回应这宗轶闻说：“每个整数都是拉马努金的朋友。”（来自维基百科）

从这则轶事中，我们发现，确实存在的某些整数，可以表示为两种不同的立方和，换句话说，不定方程：
$$x^3+y^3=z^3+w^3$$

点击阅读全文...

假设我是一名中学数学老师，在给学生兴致勃勃地讲“素数”，讲完素数的定义和相关性质后，正当我接着往下讲时，有个捣蛋的学生提问，“老师，你能不能举一个三位数的素数？”。可是我手头上没有1000以内的素数表，我也没记住超过100的素数，那怎么办呢？我只好在黑板上写出几个三位数，比如173、211、463，然后跟学生说“让我们来检验这些数是不是素数”。最终的结果是：它们都是素数！然后会有学生疑问：怎么会这么巧？

素数的概率

首先的问题是，任意写一个三位数，它是素数的概率是多少？三位数的素数共有143个，三位数共有900个，于是概率应该是143/900，大约是六分之一。看起来挺低的，要“蒙中”似乎不容易。

点击阅读全文...

圆上的有理点

我们在这个系列的文章之中，探索了一些有关环和域的基本知识，并用整环以及唯一分解性定理证明了费马大定理在n=3和n=4时的情形。使用高斯整数环或者艾森斯坦整数环的相关知识，相对而言是属于近代的比较“高端”的代数内容（高斯生于1777年，艾森斯坦生于1823年，然而艾森斯坦英年早逝，只活到了1852年，高斯还活到了1855年。）。如果“顺利”的话，我们可以用这些“高端”的工具证明解的不存在性，或者求出通解（如果有解的话）。

然而，对于初等数论来讲，复数环和域的知识的门槛还是有点高了。其次，环和域是一个比较“强”的工具。这里的“强”有点“强势”的意味，是指这样的意思：如果它成功的话，它能够“一举破城”，把通解都求出来（或者证明解的不存在）；如果它不成功的话，那么往往就连一点非平凡的解都求不出来。可是，有些问题是求出一部分解都已经很困难了，更不用说求出通解了（我们以后在研究$x^4+y^4 = z^4 + w^4 $的整数解的时候，就能深刻体会这点。）。因此，对于这些问题，单纯用环域的思想，很难给予我们（至少一部分）解。（当然，问题是如何才算是“单纯”，这也很难界定。这里的评论是比较粗糙的。）

点击阅读全文...

本文我们继续之前的变分自编码器系列，分析一下如何防止NLP中的VAE模型出现“KL散度消失（KL Vanishing）”现象。本文受到参考文献是ACL 2020的论文《A Batch Normalized Inference Network Keeps the KL Vanishing Away》的启发，并自行做了进一步的完善。

值得一提的是，本文最后得到的方案还是颇为简洁的——只需往编码输出加入BN（Batch Normalization），然后加个简单的scale——但确实很有效，因此值得正在研究相关问题的读者一试。同时，相关结论也适用于一般的VAE模型（包括CV的），如果按照笔者的看法，它甚至可以作为VAE模型的“标配”。

最后，要提醒读者这算是一篇VAE的进阶论文，所以请读者对VAE有一定了解后再来阅读本文。

VAE简单回顾

这里我们简单回顾一下VAE模型，并且讨论一下VAE在NLP中所遇到的困难。关于VAE的更详细介绍，请读者参考笔者的旧作《变分自编码器（一）：原来是这么一回事》、《变分自编码器（二）：从贝叶斯观点出发》等。

VAE的训练流程

VAE的训练流程大概可以图示为

VAE训练流程图示

点击阅读全文...