Ai下的极乐末世
https://www.bilibili.com/video/BV1g7g26CEVQ
有了AI之后，翻译作为一个职业其实已经死了。绝大部的工作，无论是编程，科研创新，都可以被看作翻译。但是看起来曾经是非常高级的智力活动，对于如今的大语言模型来说不是那么困难了。因此从一个高级的想法。到最终执行实施，得到一个结论，这个过程很快就会被机器取代。未来的AI可能会帮助我们拓展人类知识的边界。
test time scaling：模型训练完以后在问题回答的推理阶段投入更多计算资源，从而提高答案。
CoT = 做题时写草稿、一步一步推。
Test-time scaling = 考试时给你更多时间、更多草稿纸，允许你做几遍、检查、比较不同解法。
Small Explanation Hypothesis（小解释假设）可以简单理解为：
很多看起来非常复杂的问题、系统或研究成果，背后可能存在一个相对短小、清晰、可验证的核心解释。
这个说法最近主要和南京大学蒋炎岩老师关于 AI、软件自动化和自动科研的讨论联系在一起。他给出的表述是：复杂的意图、过程或系统，可能都能被一段足够精简、清晰的解释性语言刻画。
许多人已经觉得目前的agent codex已经达到了一个研究生 甚至博士生的水准了。因此当有一个想法的时候，完全可以把这个想法交给codex，让codex去做验证。最终给一个report，然后这个就变成了人类世界的知识。无论这个结果是正面的还是负面的。AI能同时加快提出想法和验证想法的速度。
一年之前大家还会觉得AI完成长任务是不可能的。但是现在AI已经能完成几天，一个星期的任务了。如今DeepSeek v4 pro的上下文窗口已经能装下一本红楼梦（四大名著中字数最多的）了。因此谁都不好说未来会发生什么。
比如说在agent 中有一个非常好的上下文压缩方式。可以得到几乎无限的上下文，可能故事就会改变。我们可能不需要loop，而只需要一个线性的结构。
许多程序员不是人工只能时代最早的一批人，而是互联网时代最后的一批人。
现在组织科研的体系，很大程度上没有办法适应现在AI技术的快速发展。因此我们要带着旧时代的负担把新时代的事情做好。当你找遍世界上发表的论文，但是你找不到一篇合适的论文是可以作为baseline来比的。许多评价体系是 reward hacking的。比如现在408的考试方式是完全的服从性测试。许多研究生只是得到了不需要理解知识也可以做出题目的捷径，而不是掌握了知识本身。大部分人是我先上研究生，其他的不管。
现代人很难不依赖LLM进行工作了。而许多编程比赛都是没有AI能用的。有了LM中，能做有限的时间里做最多的东西。而不是要花很多时间掌握一项技能性的东西。而是理解原理，然后创造一些以前不感想的事情。能力的边界被扩大。比赛就像练武术，武术比赛是在特定条件下用特定规则进行的，但解决真实的计算机问题是要拿着枪上战场的。 信息竞赛能筛选出逻辑推理能力极强的人，做科研恰好需要这类人。
AI方向的论文，目前AI的许多可解释性不是那么好，这可能会导致水论文的产生，大水漫灌反可能最终会产生一个还不错的工作。但是对于软件工程，操作系统等，完全是人造的系统，一切都是确定性的，很多情况下甚至能根据方法来推导出结果，因此水一堆论文是完全没有意义的。
当知识积累到一定程度时，一切都是注定的。包括了爱因斯坦发现了相对论，阿尔法狗打败李世石，谷歌存下整个互联网。这些都是scaling law命中注定的。
可能AI的下一步就是Auto research