律所案件系统接上AI助手:加同源代理加流式输出 不是调个API就完事

给系统接AI助手，不是调个API就完事。这篇文章讲我们怎么接的，以及为什么这么设计。

先说结论：AI助手的核心是三件事——BYOK让用户自己填接口、同源代理避开跨域、SSE流式输出体验好。三件事做好，AI助手才真能用。

一、为什么用BYOK

BYOK是Bring Your Own Key，让用户自己填AI接口的地址、密钥、模型。

为什么不用我们的密钥？三个原因。

第一个，成本。AI调用按量计费，用我们的密钥，费用我们承担。用户多了，费用不可控。

第二个，灵活。用户可能想用不同的模型，有的用GPT，有的用国产模型。BYOK让用户自己选。

第三个，信任。用户自己填密钥，数据走用户自己的接口，不用担心我们看到。

BYOK的代价是用户要自己配置。但配置一次，长期使用，这个代价可接受。

二、配置存哪：浏览器本地

用户填的接口配置，存在浏览器localStorage里，不上传服务器。

存本地的好处是隐私。密钥不经过我们的服务器，我们看不到。

代价是换浏览器要重新配。但配置就三个字段，重新配一次几十秒，可接受。

三、同源代理：避开跨域

前端直接调AI接口，会遇到跨域问题。浏览器安全策略禁止跨域请求。

解法是同源代理。前端调自己的后端，后端转发到AI接口。同源请求没有跨域问题。

代理要做的事很简单：接收前端的请求，转发到用户配置的AI接口地址，把响应原样返回。

代理不存密钥，不存数据，只做转发。用户的密钥在浏览器里，请求时代理透传。

四、SSE流式输出：体验的关键

AI回复如果等全部生成完再显示，用户要等好几秒，体验差。

解法是SSE流式输出。AI生成多少，显示多少，像打字机一样逐字显示。

SSE是Server-Sent Events，服务端推送，客户端接收。OpenAI兼容的接口都支持SSE流式。

流式输出的体验提升很明显。用户看到字在跳，知道在生成，等待感降低很多。

五、快捷任务：降低使用门槛

AI助手光有对话框不够，要有快捷任务。

快捷任务是预设的提示词模板。用户点一下，自动填入对话框，不用自己想提示词。

我们的快捷任务有九个：深度分析、请求权论证、法律依据、类案检索、模拟对抗、写起诉状、写证据目录、质证意见、要素式文书。

每个任务对应一个法律场景，提示词模板已经写好。用户点一下，改改就能用。

六、系统提示词：让AI像律师

AI助手的系统提示词很关键，决定AI像不像律师。

我们的系统提示词强调三点：执业律师助手、只引有效法律不编造、给计算过程。

这三点让AI的输出更专业。不会编造法律条文，会给计算过程，像一个靠谱的律师助理。

七、降级：代理不在时直连

同源代理是我们的后端，如果后端没部署，前端要能降级直连。

降级逻辑：先试同源代理，代理返回404或405，说明没部署，降级直连AI接口。

直连的代价是可能跨域，但用户自己配的接口如果支持CORS，直连也能用。

八、一句话总结

AI助手的核心是三件事：BYOK让用户自己填接口，同源代理避开跨域，SSE流式输出体验好。三件事做好，AI助手才真能用。这套设计跑通了，用户填上接口就能用。