24
Oct
VQ的旋转技巧：梯度直通估计的一般推广
By 苏剑林 | 2024-10-24 | 8234位读者 | 引用随着多模态LLM的方兴未艾，VQ（Vector Quantization）的地位也“水涨船高”，它可以作为视觉乃至任意模态的Tokenizer，将多模态数据统一到自回归生成框架中。遗憾的是，自VQ-VAE首次提出VQ以来，其理论并没有显著进步，像编码表的坍缩或利用率低等问题至今仍亟待解决，取而代之的是FSQ等替代方案被提出，成为了VQ有力的“竞争对手”。
然而，FSQ并不能在任何场景下都替代VQ，所以VQ本身的改进依然是有价值的。近日笔者读到了《Restructuring Vector Quantization with the Rotation Trick》，它提出了一种旋转技巧，声称能改善VQ的一系列问题，本文就让我们一起来品鉴一下。
回顾
早在五年前的博文《VQ-VAE的简明介绍：量子化自编码器》中我们就介绍过了VQ-VAE，后来在《简单得令人尴尬的FSQ：“四舍五入”超越了VQ-VAE》介绍FSQ的时候，也再次仔细地温习了VQ-VAE，还不了解的读者可以先阅读这两篇文章。
8
Jul
计算：每年夏至的精确时刻
By 苏剑林 | 2009-07-08 | 25884位读者 | 引用
7
Aug
2009年英仙座流星雨观测
By 苏剑林 | 2009-08-07 | 19547位读者 | 引用
18
Oct
科学空间：2009年11月重要天象
By 苏剑林 | 2009-10-18 | 22023位读者 | 引用转眼间已经快到年底了，11月天象的重头戏，仍将是流星雨。2009年的狮子座流星雨，是否会出现预测的较大爆发，这个月我们将找到答案。此外，南北金牛座流星雨、麒麟座a流星雨等几个传统的流星雨也将在本月达到极大，它们同样是值得爱好者观测的目标。适合在11月观测的行星主要是木星和火星，前者的最佳观测时机是在日落后不久，而后者在下半夜的观测条件不错。
提醒各位天文爱好者一点，制定观测计划之前一定要先查看天气预报，而且在这个寒冷的季节观测流星雨，一定要注意保暖！
主要天象：
01日 火星近鬼星团
05日 南金牛座流星雨极大（ZHR=5）
09日 火星合月
12日 北金牛座流星雨极大（ZHR=5）
13日 土星合月
16日 金星合月
17日 水星合月
18日 月掩心宿二；狮子座流星雨极大（05:45, ZHR=100+）
21日 麒麟座α流星雨极大（23:25, ZHR=5～400+?）
24日 木星合月/海王星合月
27日 天王星合月
1
Nov
本站域名Spaces.Ac.Cn的PR为2了
By 苏剑林 | 2009-11-01 | 24089位读者 | 引用
30
Aug
最近评论