RSS 阅读器可能不支持渲染数学公式。点击这里阅读原文:https://dreams.plus/blog/2026/0006-markdown-ke-xue-xie-zuo-tong-dian-wen-ti 写博客了很长一段时间了,但是个人觉得,Markdown 并不适合科学写作。读研究生期间,搞搞科研,有时候会阶段性地总结一下自己的研究 idea,或者梳理自己的知识,就需要系统性地写作总结。这部分我经常写在自己的博客里,就比如之前所发表的博客内容。 我这个博客网站是基于 Markdown + Unified.js + Nuxt Content 工具链实现的,每篇博客源格式都是 markdown 写成,再编译成 HTML 发表在网页…
阅读全文RSS 阅读器可能不支持渲染数学公式。点击这里阅读原文:https://dreams.plus/blog/2026/0005-yin-guo-jie-gou-mo-xing-jian-lun 为什么概率论不足以回答因果问题?设 X,YX, Y 为两个随机变量,概率论所能给出的全部工具是联合分布 P(X,Y)P(X,Y)、条件分布 P(Y∣X)P(Y\mid X),以及由此导出的独立性关系 X⊥ ⊥YX \perp\!\!\!\perp Y。这套语言在数学上是自洽的,但存在一个根本性的表达力缺陷:概率分布对「对称性」是不敏感的。若已知 P(X,Y)P(X,Y),则 P(Y∣X)P(Y\mid X) 与 P(X∣Y)P(X\m…
阅读全文RSS 阅读器可能不支持渲染数学公式。点击这里阅读原文:https://dreams.plus/blog/2026/0002-brief-biography-of-von-neumann 布达佩斯 匈牙利,1903 年 12 月 28 日,布达佩斯的一户殷实人家添了第一个男孩。父亲马克斯·诺依曼是位银行家,母亲玛吉特·肯恩出身富商之家。家里人叫他「扬奇」——匈牙利名字扬诺什的昵称。他还有两个弟弟,米哈伊和米克洛什。 扬奇从小就不太寻常——别的小孩还在学数数,他已经能用古希腊语跟父亲互相打趣了。他后来懂六种以上语言:匈牙利语、德语、法语、英语、拉丁语、古希腊语,晚年还学一点西班牙语。乌拉姆回忆,他用英语写论文时,已经能写出比大多数美国…
阅读全文RSS 阅读器可能不支持渲染数学公式。点击这里阅读原文:https://dreams.plus/blog/2026/2026-08-22-are-local-minima-rare-in-high-dimensions 深度学习中,Roon 说过一句话,被很多人当作信条:最大的 whitepill 是:局部极小值在高维空间中很罕见。也就是说,你的模型很难卡在局部最优里。但它到底有没有道理?如果有道理,道理又在哪里? 这句观点并非对每个光滑函数都字面成立。比如凸函数可能只有一个全局极小值,压根没有鞍点。它的精确版本需要一个「景观的概率模型」,以及退化与非退化临界点之间的区分。这篇文章会把这句直觉,分三步严格化: 对 Morse 函数而…
阅读全文RSS 阅读器可能不支持渲染数学公式。点击这里阅读原文:https://dreams.plus/blog/2026/2026-08-19-yan-jiu-guan-xi-de-san-zhong-shi-jiao 哲学里有一种命题:「存在即关系」,在数理研究中同样也有很深的体现。听起来很抽象,但它其实是对世界本质是什么的一种深刻回答。理解事物不是先存在、再去建立关系,而是事物在建立关系的过程中,才得以成为事物。它最著名的提出者是 20 世纪法国哲学家怀特海(过程哲学),但其思想渊源可以追溯到德国哲学家莱布尼茨(单子论)和古希腊的赫拉克利特(万物流动)。 所以,研究「存在」也是研究「关系」。而关系通常有三种视角:几何、拓扑和因果。 拓…
阅读全文RSS 阅读器可能不支持渲染数学公式。点击这里阅读原文:https://dreams.plus/blog/2026/2026-08-14-demystification-research 从 2025 年开始入学读研,到现在已经有一个年头了,不知不觉已经研二了。在过去的一年的研究生学习中,我发现我的心态、世界观经历了一次完整的、打击性的重塑。如果说之前我的心态是中规中矩,那么现在则是满心失落。自从经历过完整的科研训练,调研课题、找 idea,做实验、处理数据、撰写论文、修改文章、等投稿、写 Rebuttal、拒稿再转投、论文改版等一系列流程完整经历过后,只剩下满心苦涩。一度怀疑,我们搞的这个所谓的「科研」的价值和意义。😇 因为笔者…
阅读全文RSS 阅读器可能不支持渲染数学公式。点击这里阅读原文:https://dreams.plus/blog/2026/2026-08-13-xie-zuo-yu-yan-de-zhuan-bian 长期以来,我对自己的博客定位从来不是分享,而更多是给自己看的「笔记」。很多情况是:记录一个刚刚搞懂的东西 → 写下来 → 以后自己查 → 写完就结束。我的博客基本都很短,基本三分钟以内就能读完。大约在 2023 年开始,同时为了学习英语,锻炼技术写作能力,我在疯狂背单词的同时,也可以保持用英语进行技术写作。现在坚持了快两年。所以长期以来,利用英语写作,对我来说压力并不大。写作时不需要追求完整论证,只需要把自己的思路编码下来。哪怕句子稍微生硬…
阅读全文RSS 阅读器可能不支持渲染数学公式。点击这里阅读原文:https://dreams.plus/blog/2026/2026-08-04-the-representations-in-llm 如果你关注了过去两年机制可解释性研究的进展,很可能见过这样一类图:把大语言模型某一层神经元的激活向量投影到二维或三维空间并作图,会发现「月份」「星期几」「年份」「颜色」等概念的表示并不是杂乱无章地散布在空间中,而是沿着一条优美的曲线排列——有时甚至是闭合的圆圈或环面。Chris Olah、Anthropic 的 Josh Batson 以及 Engels 等人,都在包括 并非所有语言模型特征都是一维线性的 在内的研究中展示了这一现象。 这些发现…
阅读全文RSS 阅读器可能不支持渲染数学公式。点击这里阅读原文:https://dreams.plus/blog/2026/2026-07-31-the-diagonal-argument-en 1891 年,德国数学家格奥尔格·康托尔发表了一篇仅几页的论文,证明了一个在当时看来有悖直觉的结论:存在不同「大小」的无穷。他所采用的证明技巧——对角线论证——不仅解决了手头的问题,更在此后一个多世纪里,成为数理逻辑、可计算性理论乃至哲学武器库中最强大的武器之一。 从「实数比自然数多」,到图灵证明「停机问题不可判定」,再到哥德尔证明「任何足够强的形式系统都包含不可判定命题」——这些看似主题各异的结论,本质上都是同一个想法的变体。本文将带领读者从集合…
阅读全文RSS 阅读器可能不支持渲染数学公式。点击这里阅读原文:https://dreams.plus/blog/2026/2026-07-30-what-agi-needs-may-not-be-a-larger-model-but-a-set-of-theories 最近,我看了梁文锋关于 AGI 的演讲,他指出人工智能的终极目标是通用人工智能(AGI)——一种能以类人方式解决各种问题的一般智能。 然而,我越来越觉得,当下 AI 领域围绕 AGI 的讨论仍停留在经验层面。 我们讨论模型规模、参数量、强化学习、智能体和多模态,却很少有人触及一个更根本的问题: 什么才是 AGI? 直到今天,仍然没有一个被广泛接受的正式定义。大多数讨论都在描…
阅读全文