ARTICLE · 1096057
HN热贴:AI 把代码写完以后,谁还知道系统为什么这样运行?
但把它们放在一起看,会发现一个很一致的情绪:
软件越来越聪明、越来越主动,但人反而越来越难知道它为什么这么做。
这也是今天最值得看的几场讨论。
01|AI 写代码越来越容易,为什么大家反而更担心软件?
《Coding is not solved》直接反驳了一个很流行的说法:既然 AI 已经能写代码,编程是不是就快被解决了?
HN 的讨论没有简单站队。
有人认为,代码只是结果,真正困难的是理解系统、验证行为和维护长期演化;也有人指出,LLM 完全可以帮助做代码分析、模糊测试和性质测试,问题并不在“AI 写出来的代码”本身。
更现实的一派则指出:AI 最大的问题可能不是把代码写错,而是把代码写得太多。
以前一个人写不出来,问题会停在那里;现在模型几分钟就能生成一个 PR,但团队有没有能力把这些改动全部审完?
所以“coding is solved”可能把问题问反了。
AI 正在解决代码生产,却没有解决软件工程里的理解和验证。
02|比 AI 代码更麻烦的,是没人知道系统为什么这样设计
另一篇文章把这个问题推得更远:《The problem is not AI code, but not knowing about system architecture or intent》。
作者担心的不是 Claude 写错几行代码,而是未来某个功能可能变成这样:
有人提出需求 → AI 生成方案 → AI 写代码 → AI 帮忙上线。
几年以后,再有人问:
“当初为什么这么设计?”
可能已经没人知道答案。
HN 评论里最有意思的地方,是很多人发现这根本不完全是 AI 带来的问题。企业里本来就存在决策者、委员会、咨询公司互相转述,最后没人真正对结果负责的情况。
AI 只是把这个过程压缩得更快。
有人甚至从“事实”和“价值判断”的区别出发:数据可以告诉你现在发生了什么,却不能自动告诉你应该做什么。
所以 AI 编程真正危险的地方,不一定是模型不够聪明。
而是团队开始把“理解系统”也当成可以外包的工作。
代码可以生成,意图不能靠补全生成。
03|Google 变“怪”了,其实和 AI 编程是同一个问题
今天排名第一的《When did Google get so weird?》,讨论的是另一端。
用户只是想搜一个东西,却发现搜索结果越来越像一个 AI 驱动的信息混合物:摘要、视频、广告、各种自动生成内容堆在一起,而 AI 给出的答案还可能当场被评论区抓出错误。
HN 用户甚至直接拿具体搜索问题测试,AI 给出的解释前后矛盾。
这里最值得注意的不是“Google 搜索质量下降”这件事本身,而是搜索产品正在从“帮你找到信息”变成“替你判断信息”。
一旦它开始替你总结,错误的代价就不再只是“没搜到”。
它可能给你一个看起来完整、语气确定、实际上错误的答案。
这和 AI 编程的问题高度相似:
以前你看到搜索结果,会自己判断。
以前你看到代码,会自己理解。
现在机器越来越主动替你完成中间过程。
真正稀缺的,反而变成了验证机器到底有没有搞错。
5 条值得顺手看
Windows 11½:恶搞 Windows,结果最像假的地方是它太快了
一个互动网页把 Windows 的广告、订阅、更新和各种弹窗全部恶搞了一遍。HN 最好笑的反馈却是:它最大的问题是太流畅了。真实 Windows 连点开菜单都可能让你等半天。
Pirating the Pirates:当官方不保存过去,盗版反而成了档案馆
围绕《星球大战》原版电影的保存,HN 再次讨论了一个很尴尬的问题:当版权方不断修改、重制甚至不再提供旧版本时,保存文化作品的人为什么反而变成了盗版者?
MongoDB CEO 离职去 Meta:CEO 也可以是一种“循环就业”
MongoDB CEO 即刻离职,转去 Meta 负责企业平台。评论区真正感兴趣的不是数据库,而是硅谷高管的流动机制:普通员工跳槽叫换工作,CEO 跳槽往往还能继续获得下一份 CEO 级别的机会。
Parley:把 IRC 做成去中心化聊天,难点果然又回到了治理
Parley 尝试用联邦化方式重新做 IRC,但“不设频道管理员”的设计立刻撞上垃圾信息、封禁和命名空间问题。去中心化最难的从来不是通信,而是谁有权管谁。
“Secret group chat”:播客评论区也能被人类变成聊天室
孩子们把 Spotify 上几乎没人看的播客评论区当成秘密群聊。HN 用户随即开始互联网考古:电话线路、博客评论区、文件目录……人类似乎从来不需要专门的聊天室,只需要找到一个没人管的公共接口。
还有 7 条值得扫一眼
So long Google, and thanks for all the nudes
一个 Android 开发者试图绕开 Google 生态,顺便讲了应用审核过程中遇到的荒诞经历,评论区继续讨论平台审核权。
Thinking fast and slow in AI
一篇 2021 年关于 AI 元认知的论文重新登上 HN,讨论“模型知道自己不知道什么”为什么可能成为下一层能力。
Hijacking the PS5's RTMP stream
作者绕了一大圈,终于找到一种利用 PS5 RTMP 流实现屏幕共享的方法,典型 HN 式“为什么不能直接做,于是我把底层全挖出来”。
It's Time to Investigate the AI Labs
Cal Newport 把讨论从“AI 到底有多强”转向 AI 实验室应该接受怎样的外部调查与监督。
37,500 border drawings
把 37,500 个人玩 Borderline 时画出的国界汇总起来,得到一张“人类记忆中的世界地图”,有点荒诞,也很有意思。
Footguns with Postgres AT TIME ZONE 'UTC'
PostgreSQL 时区处理的一个经典坑:有些情况下你甚至需要连续写两次 AT TIME ZONE 'UTC'。
PS5 RTMP、Postgres 时区和 Windows 11½
它们看起来和 AI 没什么关系,却提醒我们:**软件世界最麻烦的东西,从来不只是模型。 *
今天 HN 最值得记住的可能不是 Sonnet 5.5,也不是 Google 又被吐槽了一轮。
而是这几个帖子共同指向的一件事:
AI 正在让“产出”越来越便宜,但“理解”没有。
代码可以让模型写,搜索可以让模型总结,文档可以让模型生成,甚至决策材料都可以让模型准备。
但最后还是得有人知道:
这个系统为什么存在、为什么这么设计,以及它到底有没有做对。
这可能才是 AI 编程时代真正没有被解决的“coding problem”。