【网易科技1月16日报道】今日，MiniMax宣布国内首个MoE大语言模型abab6上线，经过了半个月的内测和部分客户反馈，该模型在MoE结构下，拥有处理复杂任务的能力，并在单位时间内提升了训练效率。相较于之前版本abab5.5，在处理更复杂和对模型输出有更精细要求的场景中做出了改进。
据介绍，自2023年4月发布开放平台以来，MiniMax已服务近千家客户，包括金山办公、小红书、腾讯、小米和阅文等多家互联网公司。MiniMax开放平台平均单日token处理量达数百亿。
据了解，MiniMax表示abab5.5与先进模型GPT-4相比仍有差距，主要表现在处理更复杂场景时可能违反用户要求的输出格式或发生错误。为解决此问题，MiniMax自6月份开始研发MoE模型abab6，参数规模更大，有望在复杂任务下取得更好效果。
此外，扩大参数规模可能带来推理速度降低和训练时间延长的问题，为保证abab6的运算速度，MiniMax采用MoE结构，将模型参数划分为多组“专家”，每次推理只有一部分专家参与计算。这一结构使abab6在处理复杂任务时更为高效，目前是国内首个千亿参数以上的基于MoE结构的大语言模型。（江淼）
也许你还喜欢
微信如何“拍一拍”好友呢？今天就教大家如何操作使用方法步骤。
鹅鸭杀不显示游戏房间、无法加入房间是游戏网络不适合本地网络的原因，鹅鸭杀作为一款海
在我们日常娱乐和日常工作中，我们如果想将FLV格式视频转换为MP4文件该怎么办呢?今天就
验证码图片有些时候不能显示，那我们怎么办呢？下面将为大家讲解关于验证码无法显示的解决
印章，用作印于文件上表示鉴定或签署的文具，一般印章都会先沾上颜料再印上，不沾颜料、印上
今天给大家推荐加密软件排行榜，当然了，根据不同的排行和标准，加密软件排行榜前五名可能有
如何在PPT中制作打字机效果呢？下面就是具体的实现方法。
很多小伙伴都知道百度文库中的很多资料资源下载下来都是需要付费或者是开通会员才能够
怎么用视频水印去除工具给视频去水印呢？我们可以用AE软件来去除，现在我来教大家吧！
清除不使用的应用程序超出了应用程序管理的范围。它可以优化设备的性能并延长电池寿命