李开复旗下AI公司零一万物神秘顾客公司，又一位大模子选手登场：

90亿参数Yi-9B。

它堪称Yi系列中的“理科状元”，“恶补”了代码数学，同期概括武艺也没落下。

在一系列近似鸿沟的开源模子（包括Mistral-7B、SOLAR-10.7B、Gemma-7B、DeepSeek-Coder-7B-Base-v1.5等）中，施展最好。

老功令，发布即开源，尤其对成立者友好：

Yi-9B（BF 16） 和其量化版 Yi-9B（Int8）齐能在挥霍级显卡上部署。

一块RTX 4090、一块RTX 3090就可以。

深度扩增+多阶段增量进修而成

零一万物的Yi家眷此前如故发布了Yi-6B和Yi-34B系列。

这两者齐是在3.1T token中英文数据上进行的预进修，Yi-9B则在此基础上，增多了0.8T token不时进修而成。

数据的截至日历是2023年6月。

伊始提到，Yi-9B最大的越过在于数学和代码，那么这俩武艺究竟如何擢升呢？

零一万物先容：

单靠增多数据量并没法达到预期。

靠的是先增多模子大小，在Yi-6B的基础上增至9B，再进行多阶段数据增量进修。

领先，怎么个模子大小增多法？

一个前提是，团队通过分析发现：

Yi-6B进修得如故很充分，再怎么新增更多token练后果可能也不会往上了，是以商酌扩增它的大小。(下图单元不是TB而是B)

怎么增？谜底是深度扩增。

零一万物先容：

对原模子进行宽度扩增会带来更多的性能耗损，通过遴荐相宜的layer对模子进行深度扩增后，新增layer的input/output cosine 越接近1.0，即扩增后的模子性能越能保持原有模子的性能，模子性能耗损隐微。

依照此想路，零一万物遴荐复制Yi-6B相对靠后的16层（12-28 层)，构成了48层的Yi-9B。

试验清晰，这种步伐比用Solar-10.7B模子复制中间的16层（8-24层）性能更优。

其次，怎么个多阶段进修法？

谜底是先增多0.4T包含文本和代码的数据，但数据配比与Yi-6B一样。

然后增多另外的0.4T数据，相同包括文本和代码，但要点增多代码和数学数据的比例。

（悟了，就和咱们在大模子发问里的法门“think step by step”想路一样）

这两步操作完成后，还没完，团队还参考两篇论文（An Empirical Model of Large-Batch Training和Don’t Decay the Learning Rate， Increase the Batch Size）的想路，优化了调参步伐。

即从固定的学习率运转，每当模子loss罢辖着落时就增多batch size，使其着落不中断，让模子学习得愈加充分。

最终，江西省神秘顾客公司Yi-9B骨子共包含88亿参数，终了4k高下文长度。

Yi系列中代码和数学武艺最强

实测中，零一万物使用greedy decoding的生成步地（即每次遴荐概率值最大的单词）来进行测试。

参评模子为DeepSeek-Coder、DeepSeek-Math、Mistral-7B、SOLAR-10.7B和Gemma-7B：

（1）DeepSeek-Coder，来自国内的深度求索公司，其33B的提醒调优版块东说念主类评估杰出GPT-3.5-turbo，7B版人道能则能达到CodeLlama-34B的性能。

DeepSeek-Math则靠7B参数干翻GPT-4，颤动统统开源社区。

（2）SOLAR-10.7B来自韩国的Upstage AI，2023年12月出身，性能杰出Mixtral-8x7B-Instruct。

（3）Mistral-7B则是首个开源MoE大模子，达到致使杰出了Llama 2 70B和GPT-3.5的水平。

（4）Gemma-7B来自谷歌，零一万物指出：

深圳市常德商会执行会长、深圳市居众装饰有限公司董事长刘海宁在致辞时表示，“企业的发展离不开每位员工的共同努力。我们从最开始的几个人创业，发展到现在拥有几千名员工的集团公司，一路走来很不容易。但我们的目标远不止于此，我们要成为百年老店。”

去年我国服务业首次占据GDP的“半壁江山”。白天认为，这是我国产业结构调整后的一个巨大转折点。今年的政府工作报告提出，要提高生产性服务业专业化、生活性服务业精细化水平。“要做到专业化和精细化，我认为基础是服务行业的标准化。”白天直言，我国的服务业在行业标准化方面远远不如制造业，存在着标准混乱，以次充好，鱼目混珠等现象。

其灵验参数目其实和Yi-9B一个等第。

（两者定名准则不一样，前者只用了Non-Embedding参数，后者用的是统统参数目并朝上取整）

收尾如下。

领先在代码任务上，Yi-9B性能仅次于DeepSeek-Coder-7B，其余四位统统被KO。

在数学武艺上，Yi-9B性能仅次于DeepSeek-Math-7B，杰出其余四位。

概括武艺也不赖。

其性能在尺寸左近的开源模子中最好，杰出了其余统统五位选手。

临了，还测了知识和推理武艺：

收尾是Yi-9B与Mistral-7B、SOLAR-10.7B和Gemma-7B不相高下。

以及谈话武艺，不仅英文可以，汉文亦然广受好评：

最临了，看完这些，有网友暗意：如故迫不足待想试试了。

还有东说念主则替DeepSeek抓了一把汗：

速即加强你们的“比赛”吧。全面主导地位如故莫得了==

— 完 —神秘顾客公司