AI审判来了?深圳法院:AI辅助法官人均结案744件,即将全面推广

《指南》主要内容

包括以下三方面

《指南》提出，人工智能技术（包括大语言模型技术、智能体技术等）在司法领域的研发与应用应遵循以下四项基本原则：

（一）锚定辅助工具定位：明确人工智能作为辅助工具的属性，不得替代法官行使审判职能。

（二）深度融入审判环节：推动技术与审判流程深度融合，提升司法工作效率与质量。

（三）同步落实司法责任：在技术应用过程中始终坚持司法责任主体明确，确保权责清晰。

（四）全程确保数据安全：贯彻数据全生命周期安全管理，保障司法数据隐私与系统安全。

上述原则旨在引导各级法院在积极稳妥推进人工智能应用的同时，保持清醒的技术定位认知，鼓励以“大胆探索、审慎应用”的态度开展创新实践，坚决避免出现“机器代替法官”的认识误区，确保技术发展始终服务于审判能力现代化这一根本目标。

2026年以来，人工智能、特别是智能体技术步入快速发展阶段。以OpenClaw为代表的“自主智能体”技术，依托大语言模型在自主规划、分步推理、任务执行与环境交互等方面能力的显著提升，大幅增强了人工智能处理复杂任务的效率与灵活性，展现出广泛的应用前景。在司法领域，自主智能体在批量处理重复性事务、低成本响应个性化司法需求、降低人工智能应用开发门槛等方面，具备显著潜力。

然而，必须清醒认识到，智能体技术仍存在不容忽视的安全隐患，其在数据安全、权限管控、恶意利用及系统防护等方面仍存在风险。若未经严格约束即应用于司法场景，可能对程序正义、责任归属、权限管理及司法公信力造成严重冲击。

具体而言，智能体技术在司法应用中主要存在以下四类风险：

（一）权责边界风险：存在核心司法职权不当转移的潜在可能。

（二）指令理解风险：任务指令可能被曲解或错误执行。

（三）执行规范风险：能力组件调用与流程执行可能偏离法定程序。

（四）系统安全风险：存在越权操作、数据泄露等安全隐患。

《指南》强调，面对智能体这一新兴技术范式，简单采取全盘拒绝或盲目接纳均非理性选择。如何在技术前景与风险并存的双重压力下，科学界定安全应用空间，建立有效的规制与引导机制，已成为当前司法人工智能建设亟待解决的重要课题。

为统筹智能体技术的应用潜力与安全风险，《指南》在四项研发原则基础上，进一步提出以下四项“负面清单”，通过明确禁止性行为框定技术应用的安全底线：

（一）禁止转授决策性职权：不得将裁判权、审批权等核心司法决策职能交由智能体行使。

（二）禁止注入未治理数据：不得使用未经清洗、脱敏、合规审查的数据训练或驱动智能体。

（三）禁止应用未认证技能：不得调用未经安全评估、功能认证与合规审核的能力组件。

（四）禁止逾越安全性护栏：不得绕过或破坏系统内置的权限控制、审计跟踪与风险阻断机制。

该清单旨在以“底线思维”实施技术规制，一方面为技术创新保留合理空间，避免对技术路径作过度限制；另一方面坚决守住司法伦理与安全红线，确保智能体应用始终在法治轨道上运行。