“Cool Papers + 站内搜索”的一些新尝试
By 苏剑林 | 2024-08-12 | 19169位读者 | 引用在《Cool Papers更新:简单搭建了一个站内检索系统》这篇文章中,我们介绍了Cool Papers新增的站内搜索系统。搜索系统的目的,自然希望能够帮助用户快速找到他们需要的论文。然而,如何高效地检索到对自己有价值的结果,并不是一件简单的事情,这里边往往需要一些技巧,比如精准提炼关键词。
这时候算法的价值就体现出来了,有些步骤人工来做会比较繁琐,但用算法来却很简单。所以接下来,我们将介绍几点通过算法来提高Cool Papers的搜索和筛选论文效率的新尝试。
相关论文
站内搜索背后的技术是全文检索引擎(Full-text Search Engine),简单来说,这就是一个基于关键词匹配的搜索算法,其相似度指标是BM25。
利用“熄火保护 + 通断器”实现燃气灶智能关火
By 苏剑林 | 2024-09-26 | 20995位读者 | 引用三个球的交点坐标(三球交会定位)
By 苏剑林 | 2025-01-28 | 19418位读者 | 引用前几天笔者在思考一个问题时,联想到了三球交点问题,即给定三个球的球心坐标和半径,求这三个球的交点坐标。按理说这是一个定义清晰且简明的问题,并且具有鲜明的应用背景(比如卫星定位),应该早已有人给出“标准答案”才对。但笔者搜了一圈,发现不管是英文资料还是中文资料,都没有找到标准的求解流程。
当然,这并不是说这个问题有多难以至于没人能求解出来,事实上这是个早已被人解决的经典问题,笔者只是意外于似乎没有人以一种可读性比较好的方式将求解过程写到网上,所以本文试图补充这一点。
特殊情形
首先,设三个球的方程分别是
球1:(x−o1)2=r21球2:(x−o2)2=r22球3:(x−o3)2=r23
通过梯度近似寻找Normalization的替代品
By 苏剑林 | 2025-04-02 | 11597位读者 | 引用不知道大家有没有留意到前段时间的《Transformers without Normalization》?这篇论文试图将Transformer模型中的Normalization层用一个Element-wise的运算DyT替代,以期能提高速度并保持效果。这种基础架构的主题本身自带一点吸引力,加之Kaiming He和Yann LeCun两位大佬挂名,所以这篇论文发布之时就引起了不少围观,评价也是有褒有贬。
无独有偶,上周的一篇新论文《The Mathematical Relationship Between Layer Normalization and Dynamic Activation Functions》从梯度分析和微分方程的视角解读了DyT,并提出了新的替代品。个人感觉这个理解角度非常本质,遂学习和分享一波。
写在前面
DyT全称是Dynamic Tanh,它通过如下运算来替代Normalization层:
DyT(x)=γ⊙tanh(αx)+β
智能家居之手搓一套能接入米家的零冷水装置
By 苏剑林 | 2025-04-22 | 3313位读者 | 引用之前在《智能家居之热水器零冷水技术原理浅析》,我们详细介绍过零冷水的原理,最后指出当时市面上只有名为“爱喜易”的设备实现了文章介绍的理想设计,笔者前两年也一直在用它。然而,笔者的该套装置最近出现了故障,加之无法接入米家,所以也不大想修了,另外“爱喜易”的新版设备也越来越贵,颇有一种“屠龙少年终成恶龙”的感觉。
所以,笔者决定按照相同的原理,手搓一套能接入米家的零冷水装置,并将制作过程简要记录如下。
有回水管
当然,说是“手搓”,实际上只是把各种现成配件组装在一起,成为一个完整的系统。实际上理解了前文后,制作思路并不难,只不过由于非专业原因,有些配件可能大家不知道怎么搜索和购买。
最近评论