案例展示:
犯罪行为人赵某:
赵某利用AI语音合成软件的“文本转语音”功能,批量生成模仿特定人员声音的音频,实施诈骗,非法获利数额较大。但犯罪嫌疑人赵某仅是该软件的付费会员,使用该软件公开提供的合法功能。
软件开发运营企业及其负责人:
AI人工智能语音合成软件由钱某创办的科技公司开发并运营。钱某明知赵某利用其软件实施诈骗,为维持用户活跃度和订阅收入,未采取任何限制或处置措施,持续提供技术服务并按订阅周期收取费用。案发后,监管部门对钱某公司进行了约谈并责令整改,钱某仍未采取有效措施。
AI软件部署云计算平台:
AI人工智能软件部署于行为人孙某经营的云计算平台。孙某仅提供基础算力租赁服务,对软件的具体功能及用户使用情况不知情。
对上述三层责任主体的行为认定:
三层责任主体对违法产生的“支配距离”并不相同,使用者最近、软件提供者次之、平台云部署最远。归责标准应随距离增大而趋于严格。本案中,AI使用者把AI当作工具实施诈骗、诽谤、侵犯商业秘密等行为的,按照传统犯罪行为定性处理即可,但目前难点在于AI能自主输出偏离初始者意图的自动生成物,该生成物对于因果关系认定,有无突破“实质预见可能性”为核心标准进行判断。
对于软件提供者,作入罪审查时要注意是否能主动修改安全设置、弱化过滤机制。本案中,钱某未主动改造软件,在其明知赵某行为违法的情况下依然提供服务获利。经过约谈仍未整改。其不存在因技术能力所限无法有效阻止的情形。审查其未阻止行为包括软件提供者是否建立了合理的内容审查机制、对用户投诉和监管通知是否及时响应,是否在自身技术能力范围内采取改进措施等方面进行判断。
对于算力租赁提供者对下游用户具体违法情形不知情,也无法设置违法屏障,故不对算力租赁提供者进行处罚。如对其责令改正而不改正的进行行政前置程序,如平台与使用者形成稳定违法合作情形下才考虑追诉。
对上述人员刑事规制为使用者为诈骗犯罪,软件提供者主要责任人员,笔者认为应作为诈骗犯罪的共同犯罪处理,如情节轻微,以帮助信息网络犯罪活动罪处理,算力租赁提供者一般不计入犯罪情形处罚。
夜雨聆风