“AI生成时代”更须守牢监管红线

近日，“剪映”App等因违规被查处的新闻，受到各方关注，引发网上围绕人工智能生成合成内容如何看待、如何应对、如何监管等问题的热烈讨论。
这两年，随着零成本Deepseek应用的横空出世，再到豆包等智能体的接续换代升级，庞大的互联网民迅速蜕变形成了新的AI应用群体，每个人都懒得在网络海量信息中亲自去梳理筛选，一切交由智能体直接给出答案，而且大呼轻松自在。但很快，3·15晚会上就曝光了一些科技公司通过用毒信息喂食智能体，欺骗消费者实现其非法获利的内幕。“耳听为虚，眼见为实”、“有图有真相”，曾经是老百姓参与社会生活确信不疑的常识，可如今只要你有动嘴能力就可以瞬间生成你想要的一切视图，连过去的“摆拍”都显得笨拙和多余。4月22日，美国人工智能公司OpenAI对外正式推出ChatGPT Images 2.0模型，其最新一次升级的图像生成功能让一切逼真的难以想象，以假乱真到了真假如一的地步。“被吓到！”“这是真的吗？”“电诈的春天要来了？”的网络自媒体雷人标题让人不寒而栗。如此，人们尚未享受到AI视图生成时代的惬意，就已开始遭受其带来的噩梦。
接受拥抱新事物，是造物主赋予人类实现发展进步的源代码。坚持一分为二看问题，弘扬好的一面，抑制坏的一面，方是对新事物的科学认真态度。
首先要理性看待。既不能顶礼膜拜，也不应谈虎色变。人工智能生成合成内容，可以让万千普通网民轻松实现描绘各类奇思妙想的愿望，享受数字科技带来的生活新奇感，但也必须认清其无中生有带来的捅破底线的巨大风险，切不可因其“为假”而让“本真”无处安放，造成和扩大人类命运共同体的信任危机。
其次要科学应对。一方面人工智能生成合成内容上线必须划定主动标识的“底线”，做到无一例外。我国现已出台《网络安全法》《生成式人工智能服务管理暂行办法》《人工智能生成合成内容标识办法》等法律规定，今后仍需根据人工智能技术应用实践拓展，不断推动立法完善。另一方面，还应“以子之矛攻子之盾”，跟进人工智能技术迭代，加注研发制约力量，实现智能审核，底层甄别，强制标识，做到魔高一尺道高一丈，防止出现技术降维打击。同时须抓紧普及提高大众AI意识，合理加筑心理堤坝，增强防范能力。
第三要依法监管。加大人工智能领域普法、执法力度，让从业者自觉知法守法，不踏法规红线。对违法行为严格做到及时发现、及时查处、及时惩戒，维护人工智能网络空间的公平正义。同步扩大全社会参与度，畅通监督举报渠道，坚决不让搅局破坏者投机得利，切实维护社会公共利益，推动人工智能健康有序发展。