一个普通人对AI工具的理解

在这里，我将从最底层去带你了解这个智能世界的本质

so,我们从哪里开始?

就从调用开始吧

# Please install OpenAI SDK first: `pip3 install openai`

import os

from openai import OpenAI

client = OpenAI(

api_key=os.environ.get('DEEPSEEK_API_KEY'),

base_url="https://api.deepseek.com")

response = client.chat.completions.create(

model="deepseek-v4-pro",

messages=[

{"role": "system", "content": "You are a helpful assistant"},

{"role": "user", "content": "Hello"},

],

stream=False,

reasoning_effort="high",

extra_body={"thinking": {"type": "enabled"}}

)

print(response.choices[0].message.content)

就这个吧,我们从这个开始，这是一段最基础的deepseek调用代码其中model的字符串填入

deepseek-v4-flash

deepseek-v4-flash-vision-exp

deepseek-v4-pro

可以切换三个模型v4-flash,v4-flash视觉版本,v4-pro

输入的就是system里面的content与user里面的content前者被称为提示词或者换一个官方的名字prompt后者就是你问的问题

你输入的信息越多,你要花的钱就越多.而且AI是需要清晰指令的指令越清晰,AI给出的答案就越具体,准确率越高.

在不同的情况下要用到不同的提示词,但是输入是昂贵的,怎么办?让它干什么就用什么,对就是这样.我们可以搞一个巨大的prompt库分好类

然后让它检测你的输入,找出你输入的东西与什么有关然后根据这个去查找,每一个prompt就是一个skill(参考prompt)也可以这样理解,

skill绝对比我们参考的那些复杂很多(不对,我刚刚扒了一下好像也就1000字以内)总之这玩意就是让prompt可以根据任务组合成适合这样的

一切高大上的工具比如claude_code,codex,trace等等都是在以不同的方式调用这一段代码(可能不同的AI或者不同的模式的调用代码会有一些出入),无一例外,都差不多.

然后，我们应该讨论一些关于记忆的事情

首先AI并没有真正意义上的记忆,所有它记得你说的话都来自于一个操作,把之前输入的内容或者把这个压缩之后再输入到这个里面

AI都有一个概念就是上下文,这是受限于AI的transformer架构于算力供应,在这个阶段,你只要知道Transformer架构,处理信息类似信息

提取器,谁重要他就注意谁(all you need is attention).

另一方面是AI需要天量算力,比如我的显卡5060ti 16G版本只能跑30B的模型你可能对这个没有什么概念,就是说

跑deepseek-v4-flash就要350~400GB的显存(我过段时间去研究研究工作站显卡和矿卡)

好了,现在我们已经搭建了一个可以自由组合prompt与拥有"记忆"的AI它可以根据你的写入信息来回答我们好像就只能干复制粘贴的活,

我们可不可以把这个步骤直接省略?答案是肯定的.我们可以直接把cmd或者proshell给它让它操控电脑恭喜你,你搭建了一个会自己干活的

Agent

这期就到这里,我要在这里写一段结语.这个世界上没有什么所谓的黑盒,一切所谓的黑盒都是未探明的领域在这几个星期里,我从线性回归学到Ann(人工神经算法)在这里我摸到了智能的轮廓,我最大的感想就是这个世界上没有什么黑盒,只有未探明的前路