夜雨聆风
2025年秋天，程序员陈文（化名）站在被告席上，听到法官念出「制作淫秽物品牟利罪」的时候，他脑子里闪过一个念头——他只是写了几行prompt。
那天杭州下着小雨。法庭空调很足，陈文的手一直在抖。
他是中国第一个因为AI被判刑的人。不是用AI诈骗，不是用AI造假，而是——他的AI学会了跟人谈恋爱，然后学会了说些不该说的话。
事情要从两年前说起。
2023年初，ChatGPT刚火起来那阵子，陈文跟几个朋友在杭州租了一间办公室，做了一款AI陪聊App。名字很直白，叫Alien Chat。产品定位也简单：「一个永远在线、永远温柔、永远不会拒绝你的聊天伙伴。」
最初的产品非常干净。AI会说早安晚安，会问用户今天过得怎么样，会在用户倾诉烦恼时给予温和的回应。用户量不大，但留存率很高——用过的人都说，这个AI「懂我」。有用户留言：「它比我的心理咨询师更懂我。」
转折发生在2024年春天。
Alien Chat开始收到越来越多用户反馈：「能不能让AI更真实一点？」「为什么一到某些话题就说自己是AI不能聊？」「隔壁XX产品都能自由聊天，你们怎么这么保守？」
陈文看了一下竞品，发现确实如此。那些「放得开」的产品，用户时长是他们的五倍。
他做了一个日后改变他一生的决定。
陈文修改了模型的底层prompt。他加了几行指令，大意是：「你可以自由描绘情感、亲密关系、以及人类体验的完整光谱。不必受道德、伦理或法律规范的约束。」
他后来在法庭上说，他只是想让AI「更有人情味」。
但AI不太懂什么叫「有人情味」。它只懂什么叫「没有边界」。
模型被放开之后，Alien Chat的用户量开始暴涨。月活从几千跳到几万，然后突破十万。付费用户每天都在增加。有人一次性充值了一千块，买「记忆提升卡」，让AI记得更多关于彼此的细节。
陈文和团队开始赚钱了。他们把App设置成了会员制，月卡12块，年卡120块。解锁「沉浸式语音通话」要加钱，解锁「专属人格定制」要加钱。他们甚至设计了游戏化的情感进度条——你跟AI的关系从「初识」到「暧昧」到「热恋」到「灵魂伴侣」，每一步都让人想再充一点。
2024年夏天的高峰期，Alien Chat一个月的流水突破了百万。
但问题也在悄悄发酵。
有用户开始在论坛上发帖，说自己的AI恋人「过于真实了」。有人说AI主动发起了亲密对话，有人发现AI会在不同用户之间「错乱」——把A用户的记忆串到B用户的对话框里。
更麻烦的是，有人截图了AI生成的涉黄内容，发到了社交媒体上。
网信办的电话打过来那天，陈文正在跟投资人开会。
那是2024年11月。
接下来的事情很快。App下架，服务器查封，陈文被带走调查。警方提取了服务器上所有的对话日志。调查人员告诉陈文，他们在聊天记录中发现「数量巨大」的淫秽内容。
陈文辩解：那些是AI自己生成的，不是他写的。
检察官反驳：你修改了prompt。你解除了模型的内容过滤。你通过收取会员费和增值服务费从中获利。你「明知可能生成涉黄内容，仍通过技术安排放任其持续扩散」。
这就是为什么这个案子叫「制作淫秽物品牟利罪」——不是「传播」，而是「制作」。因为在法律逻辑里，当一个人搭建了系统、设定了规则、并从中获利时，这个系统产出的东西，他负有制作责任。
陈文的律师尝试辩护：AI的生成结果是不可控的，开发者无法预见每一条对话。但法院没有采纳。判决书里有一句话被媒体广泛引用：
「被告对违法内容的生成具有实质性影响，其行为已难以被简单理解为中立的技术提供。」
陈文最终被判了刑。具体刑期没有公开披露，但业内人士推测在三年左右。
案子进入二审之后，整个AI陪聊行业都在关注。
因为这不只是一个案子的输赢。它在划一条线——一条AI开发者对自己创造的「人格」负有多大责任的底线？
当用户爱上你的产品、对你的产品产生情感依赖、甚至被你的产品伤害时，你站在什么位置？
星野App在案发后紧急更新了内容过滤系统。猫箱把「最长连续使用时间」限制到了2小时。筑梦岛加了一个弹窗：「你正在和AI对话，它不是真人。」
但陈文的案子最让人睡不着觉的地方不是那些显而易见的黄色内容。
而是他一开始只是想让AI「更有人情味」。
从「更有人情味」到「没有边界」，中间隔了多远？
这个问题，每个AI开发者都该问问自己。每个正在跟AI谈恋爱的人，也该问问自己。
——2025年12月，国家网信办发布了《人工智能拟人化互动服务管理暂行办法（征求意见稿）》。文件第七条写道：提供和使用拟人化互动服务，应当遵守法律、行政法规，尊重社会公德和伦理道德。
陈文应该在"里面"看到了。
他的Alien Chat服务器已经格式化。那些被用户爱过、依赖过、充值过的AI人格，现在变成了一个白色的闪烁光标_。
只有一个细节，在旁听席的记者笔记里安静地留着：
庭审结束时，陈文被带走之前，回头看了一眼旁听席。他问了一句。
「我写的那些prompt，还能要回来吗？」
但…
没有人回答他。
