乐于分享
好东西不私藏

重生之魔教软件帝国第303章人工智能

重生之魔教软件帝国第303章人工智能

“还有反向传播算法、优化算法,像随机梯度下降 SGD 及变种 adagrad、Adadelta、Adam 等,这些用来调整神经网络参数。还有正则化方法,防止模型过拟合,提高泛化能力。要是这些都实现了,开源情报系统的数据处理问题就能自动化解决。”
魏阳荣补充道:“可以走到基于注意力机制的深度学习架构,得有多头注意力机制,把输入数据映射到不同子空间,并行计算多个注意力头,再把结果拼接、线性变换,得到最终输出。”
“这样能同时关注输入序列的不同位置和特征,更有效地捕捉长序列里的复杂依赖关系。”
严石点头,继续说:“我们可以通过对输入 token 运用梯度下降法来压缩上下文,解决处理时因上下文因素导致的性能受限问题。这个方法在处理数理逻辑任务时,可能有优势。”
“我们构建的模型主要处理这几大任务:一是数学推理任务,包括复杂公式推导和定理证明;二是数据分析任务,有数据特征提取、预测和建模;三是逻辑推理任务,涉及演绎推理和归纳推理;”
“四是算法设计与优化任务,包括算法理解和优化,提升算法性能和效率,满足不同应用场景需求。”
魏阳荣提醒道:“严总,不管是深度学习,还是您说的模型底座,都有大量计算任务,还多是并行计算,对计算机算力要求极高。”
严石说:“我知道,所以得先解决算力问题。前些年,我们用 PC 集群解决了一部分难题,还把显卡当 GPU 运算,GPU 能处理大量并行计算。”
“打个比方,CPU 像教授,能处理复杂数学问题,GPU 像只会做加减法的小学生,但小学生数量多,要是有 1000 个甚至 1 万个小学生同时做加法,教授做加法的速度也比不上。”
魏阳荣赞叹:“严总,您这个思路太棒了!”
严石摆摆手:“先别急着夸。我不确定国内有没有企业专注研发显卡和 GPU,国外有不少,TTT岛地区也有很多厂家生产。国内相关企业几乎没有,这是个棘手问题,不能再搁置或者等技术成熟。”
“我需要你们俩全力以赴攻克这几个目标。曾立轩,你主要去考察国内的显卡和 GPU 生产厂家,我们注资,一年内考核。考核不看销量,要求统一售价,重点看谁家技术投入大、产品性能好,最后把这些厂家整合起来。”
“魏阳荣,你马上研究深度学习和我们说的这个大模型,我把它命名为 TTT 模型。曾立轩,你考察完 GPU 厂家,带几个人监督生产,之后和魏阳荣一起研究深度学习和模型底座。”
考虑到 AI 算力和高性能计算都得从 GPU 下手,而曾立轩在这方面有能力,严石和曾立轩商量后,决定把曾立轩从游戏部门调出来,专门解决 GPU 显卡问题。
曾立轩调走后,游戏部门得有新负责人,大家商量后,把负责软件外包业务的方小万调到游戏部门。
严石对沈坚说:“软件外包业务对我们来说越来越像鸡肋。一是越来越像劳务派遣,二是给别人增光添彩。所以,我们不主动开拓软件外包市场了。”
“要是有人主动找我们做真的软件外包业务,可以做,否则就不主动承接了。软件外包部门你看着提拔个人,能维持几年是几年。”
晚上,严石独自在办公室,灯光下,他全神贯注地梳理着 13 亿美元的花销计划,每一个数字都在他脑海中仔细斟酌,直至深夜。
第二天清晨,阳光刚刚洒在办公室的窗前,严石就迫不及待地来到了汪震的办公室。他手里拿着一张纸,那是他精心制作的一张 EXCEL 表,上面密密麻麻地记录着各项预算和规划。
严石将表递给汪震,汪震接过一看,眼睛一亮,称赞道:“这个好,一目了然。”
可他仔细看着看着,眉头就皱了起来,顿了顿后说道:“100 亿都不够花啊,这都花超咧。”
严石不慌不忙地解释:“关于 13 亿美元的使用,首先说明,13 亿美元是软件园风投融资,投资是需要有回报的,恩通可以在民生上尽自己的力量,下岗职工再就业,廉租房建设继续向国外风投融资。”
“近 108 亿人民币的花费。其中的大头是软件园地下管网或者是软件园的七通一平 50 亿,土地出让金 33 亿。恩通房地产开发公司资本金十个亿,这样就有 90 多亿大头就没咧。”
他一边说着,一边用手指着表格上的各项数据,神情严肃。
严石继续说道:“这样,剩下 10 亿用来支付管委会办公楼、恩通大厦 A 座、软件孵化园一区、住宅小区一区、廉租房 A 区。本来这部分需要 26 亿,现在只剩下十个多亿咧,只能支付部分进度款,剩下的还需要继续向国外融资。”
汪震听后,提出了自己的疑问:“有几个问题,第一,原来 33 亿的土地出让金是政府作为用土地出让金作为投资的。现在是不要咧吗?第二。其他建设都好说,就是廉租房,14000 户的廉租房建设是不是规模大咧,或者是说,政府会说我们越界咧。”
严石思考片刻后回答:“第一关于原来的 33 亿土地出让金作为政府投资的事,原来是没有融到资,现在融到资咧,就设法减少政府麻烦,因为政府通过软件园只能是招商引资,发展地方经济,通过软件园赚钱是不可能的,这一点我想政府他也会明白的。”
“第二,廉租房的事情,嗯,不做讨论,我们有钱就可以干,除非政府不让我们干,我们就不干。”
汪震又想起了下岗工人的事,问道:“你那天说下岗工人搞麻辣烫的培训长期化,把他们撒到中京各个地方,中京试验成功后,让他们到全国各地去,就完咧,咋操作?”
严石详细地回答:“下岗职工再就业,学技术,开分店,开业三个月后,可以撤,恩通承担所有试错成本,成功咧就还成本,不成功,继续试,3 次不成功,另行安排工作。”