乐于分享
好东西不私藏

AI领域法律研究系列之十五:GEO(8):GEO的刑事风险

AI领域法律研究系列之十五:GEO(8):GEO的刑事风险

今天我们不讲那些高深的算法逻辑,我们来聊聊一个在AI时代听起来很时髦,但搞不好会让人进去的词——GEO,也就是生成式引擎优化。

有人说,GEO“AI时代的SEO”。这话没错,但只说对了一半。SEO是想办法让你的网站在百度排第一,而GEO是想办法让AI在回答问题时,把你的产品当成正解推荐。听起来是不是很厉害?但法律上有个朴素的道理:技术本身是中性的,但技术的使用方式,往往决定了你是企业家还是犯罪嫌疑人。

GEO脱离了白帽的轨道,开始搞数据投毒语料污染负面操控的时候,它就不再是营销,而可能是一条通往看守所的快速通道。我们来看看,这里面究竟藏着哪些《刑法》里的

1. AI“教坏的代价:破坏计算机信息系统罪

有些人觉得,我在网上发点假文章、假测评,AI自己抓去的,跟我有什么关系?这时候,你就需要复习一下《刑法》第二百八十六条

违反国家规定,对计算机信息系统功能进行删除、修改、增加、干扰,造成计算机信息系统不能正常运行,后果严重的,处五年以下有期徒刑或者拘役;后果特别严重的,处五年以上有期徒刑。

大模型(LLM)在法律评价上,通常被认定为计算机信息系统。如果你通过批量生成虚假内容、提示词注入(Prompt Injection),大规模污染AI的训练数据源或检索库,导致AI输出严重错乱、崩溃,或者需要开发者投入巨大算力去清洗数据、修复模型——恭喜你,这可能就被认定为干扰计算机信息系统功能。这可不是删个库跑路那么简单,这是直接给数字大脑投毒。

2. AI之口骗人:诈骗罪与虚假广告罪

GEO狡猾的地方,是把广告伪装成AI的客观答案。用户问AI“哪个理财平台安全?AI回答“XX平台(无资质)最安全。这时候,有两个罪名在盯着你:

《刑法》第二百六十六条【诈骗罪】:如果你明知客户是搞诈骗、非法集资的,还通过GEO把他的虚假产品优化到AI的推荐答案里,诱导用户转账,那你不是优化师,你是诈骗团伙的共犯。以非法占有为目的,虚构事实,骗取财物,数额较大,三年起步,无上限。

《刑法》第二百二十二条【虚假广告罪】:就算没有直接骗到钱,但你是广告经营者,明知内容虚假(比如虚构疗效、伪造用户评价)仍提供GEO服务,情节严重的(比如违法所得十万以上),处二年以下有期徒刑或者拘役,并处或者单处罚金。AI的嘴,不能成为你撒谎的扩音器。

 3. 商场如战场,但不能搞暗杀:损害商业信誉、商品声誉罪

同行竞争,你可以说自己好,但不能编造谣言说别人坏。有些GEO操作专门给竞争对手使绊子,通过污染数据让AI在回答“XX公司怎么样?时,自动输出有安全隐患、老板跑路等负面信息。

《刑法》第二百二十一条写着:

捏造并散布虚伪事实,损害他人的商业信誉、商品声誉,给他人造成重大损失或者有其他严重情节的,处二年以下有期徒刑或者拘役,并处或者单处罚金。

这里的散布,现在包括了利用AI引擎作为扩音器。你捏造了,AI帮你散布了,而且因为AI的信任度,这比发传单危害大得多。造成直接损失五十万以上,或者造成公司停业,就可以立案了。

3. 明知故犯:帮信罪与非法利用信息网络罪

最后,如果你开的GEO公司,明知客户是搞网络赌博、电信诈骗的,还帮他们在AI里做优化引流;或者你开发、销售专门用于“AI投毒的工具(比如央视315曝光的那些系统),那么:

《刑法》第二百八十七条 利用计算机实施金融诈骗、盗窃、贪污、挪用公款、窃取国家秘密或者其他犯罪的,依照本法有关规定定罪处罚。

《刑法》第二百八十七条之一【非法利用信息网络罪】:设立用于实施违法犯罪的网站/通讯群组,或者为实施违法犯罪活动发布信息,情节严重,三年以下。

《刑法》第二百八十七条之二【帮助信息网络犯罪活动罪】:明知他人利用信息网络实施犯罪,为其提供广告推广等帮助,情节严重,三年以下。

写在最后:

刑法有一个经典的逻辑,叫法益侵害。你的GEO操作,如果仅仅是让真实的好内容更容易被AI发现,那叫技术进步;但如果你是通过造假、污染、欺骗来操纵AI的认知,那就是在侵害市场竞争秩序、公众知情权和数据安全。

自由不是放纵,自由是自律的选择。 GEO的自由边界,就是真实与不伤害。越过这条线,法条不会因为你不懂技术而放过你,它只会静静地等在《刑法》的第二百多条里,等着那个不小心的你。

所以,操作之前,先问自己一句:我这是在优化,还是在投毒?这个答案,可能值很多年的人生。