夜雨聆风学习资料网

ARTICLE · 1047613

AI + 项目管理 67

AI + 项目管理 67

模型即服务(MaaS)

模型即服务(MaaS)主要依托云平台提供服务,但并不局限于云平台。开发者可以通过OpenAI、微软Azure OpenAI Studio等在线网站提供的应用程序编程接口(API)调用预训练大型神经网络机器学习模型。该模式降低了AI的使用门槛,所提供的模型均经过测试、性能得到验证,且并非针对单一任务定制。它简化了AI部署流程,让客户/企业无需复杂的技术储备,就可以使用机器学习的能力。

该模式具备节约成本、部署快速、可弹性扩展、持续迭代优化等优势,非常适合企业希望使用机器学习,但又不想承担自研机器学习模型的复杂工作与高额成本的场景。

微调‑AI即服务(AIaaS)

AI即服务(AIaaS)大多基于云平台实现,但不限于云平台。它可以对来自MaaS的GPT等预训练大型神经网络机器学习模型做进一步调整,使之适配客户/企业的特定业务需求,使用者无需掌握高深的AI专业知识。其过程是基于一份规模较小的内部专用数据集持续训练,同时调整模型权重(即AI模型预测句子或短语中缺失单词/词元时,输入信息的影响强度)以及其他指令参数。

通过该过程,模型在各类特定任务上的表现得以提升,例如自然语言处理、图像识别、情感分析、欺诈检测、语音识别,还可以依托自身知识库回答特定领域的专业问题。

对话类模型是目前最常用的模型类型。这类模型的核心功能是预测下一个单词或短语,表17.1中列出的巴贝奇(Babbage)、达芬奇(DaVinci)模型就属于此类。GPT‑Turbo这类聊天模型也属于对话模型。多任务微调可以同时针对多项关联任务开展训练,增强模型跨任务之间的知识共享与迁移能力,提升综合性能。AIaaS能够让云平台上的模型更贴合具体业务场景,实际效果更好。

可以对哪些模型做微调?

在开展微调之前,必须熟悉各类预训练(开箱即用)模型及其来源。市面上存在多种预训练模型,OpenAI出品的模型整体技术最为先进,能力强大。表17.1为2024年初OpenAI可用于微调的模型清单(版本会频繁更新);不同模型单次可处理的文本数据量各不相同。

表17.1:OpenAI微调模型选型参考(2024年初)

模型名称
说明
gpt‑3.5‑turbo‑1106(聊天模型)
推荐用于生成自然语言或代码,性价比最高。上下文窗口16385词元;训练数据截止至2021年9月
gpt‑3.5‑turbo‑0613(聊天模型)
标准版本。上下文窗口4096词元;训练数据截止至2021年9月
babbage‑002(补全模型)
用于简单任务快速输出结果,成本最低、响应速度最快。上下文窗口16384词元;训练数据截止至2021年9月
davinci‑002(补全模型)
GPT‑3系列能力最强的模型;输出结果的准确度与质量通常更优。上下文窗口16384词元;训练数据截止至2021年9月
gpt‑4‑0613 / gpt‑4 (0613)
实验版本。符合条件的用户可以申请访问微调交互界面,适配新业务。上下文窗口8192词元;训练数据截止至2021年9月

借助API或者软件开发工具包(SDK)进行微调,得到的效果会优于普通提示词工程。微调可以使用经过标注的小规模内部数据集开展训练,样本内容控制在单次提示词可容纳的范围之内,实现词元调用成本优化,同时缩短响应时间。OpenAI的文本生成模型最初是在海量文本数据上完成预训练。还有部分模型处于预览版本,不建议在生产环境中使用,这类模型会频繁迭代,直至推出稳定版本。

微调操作说明

使用这类模型时,通常会在提示词中写入指令并附带少量示例,OpenAI将该方法称为少样本学习。使用模型时,首先输入专门指令,有时还会给出少量示例告诉模型要完成什么任务。

微调则是在此基础上,使用规模大得多的示例集开展训练,提升各类任务的输出质量。经过微调后的模型,提示词中不再需要大量示例,进一步降低成本、加快响应速度(OpenAI,2024)。在项目管理场景中使用OpenAI文本生成模型的少样本学习,就好比给团队一份清晰的项目计划,再提供部分过往真实案例,帮助团队在无需额外培训的前提下,更高效、快速地完成工作。

AI领域还有少样本提示,即给模型提供若干示例,引导它完成特定任务。借助这些示例,AI能够学习所需的输出格式与行文风格。举个例子,假设你要搭建类似网飞(Netflix)的流媒体平台,AI模型需要结合观众历史观影记录,根据电影剧情、主题生成影片推荐。通过向AI提供电影剧情、主题的示例,AI就可以学习并做出预测。

例如,某位观众看过《洛奇》这类体育励志影片,以及《龙小子》这类讲述克服困难、个人成长题材的电影,这些构成了该观众的观影历史。为训练AI,我们采用少样本提示,给出如下示例:

示例1:《洛奇》——出身平凡的拳击手,立志挑战世界重量级拳王的故事

示例2:《龙小子》——少年学习空手道,勇敢直面困境

AI学习这些样例之后,就可以判断该观众偏好的题材与风格,并向其推送匹配口味的电影。

完成模型微调之后,就不用再在提示词内塞入大量示例。大语言模型(LLM)不同调用量对应不同定价,因此微调可以显著节约成本。以下摘录自OpenAI官网的定价说明:

“多款模型具备不同能力与定价。价格按每1000词元计费。可以把词元理解为文字片段,1000词元大约对应750个英文单词。本段引述内容共计35词元。”

如需了解完整模型定价,请访问OpenAI官网;Azure OpenAI服务的定价可查阅微软学习平台(learn.microsoft.com)。

估算训练成本公式:

每千词元基础成本 × 输入文件总词元数 × 训练轮数(epochs)

因此,一份包含100 000词元的训练文件,完整训练3轮,成本约为2.40美元。

何时应当使用微调

未完待续


关键术语注释

  1. token(词元):AI文本处理最小单元,英文中不等于完整单词,用于计量计费与上下文长度;
  2. epoch(训练轮):把全部训练数据集完整遍历一遍,称为1个epoch;
  3. few‑shot learning / few‑shot prompting:少样本学习 / 少样本提示;
  4. fine‑tuning:微调;
  5. pretrained model:预训练模型;
  6. weights / parameters:权重 / 参数。

相关学习资料