小红书开源首个大模型dots.llm1，1420亿参数MoE架构，推理激活140亿参数降成本。使用11.2万亿token非合成数据，中文测试91.3分超同类模型，含14个训练checkpoint推动技术共享
观点网讯：6月9日，小红书开源首个大模型dots.llm1。该模型为1420亿参数专家混合模型（MoE），推理仅激活140亿参数，降成本且高性能。
dots.llm1使用11.2万亿token非合成高质量数据，在中文测试中以91.3分超DeepSeek V2、V3及阿里Qwen2.5部分模型。
免责声明：本文内容与数据由观点根据公开信息整理，不构成投资建议，使用前请核实。
审校：刘满桃
版权声明：觀點網絡信息科技有限公司及广州观点信息资讯服务有限公司拥有及保留其主办暨承办网站、论坛及活动的所有资料（包括但不限于文字、图片、音频、视频资料及页面设计、编排、软件等）的所有权、版权等其他相关知识产权。除经授权合法使用上述资料外，未征得我司书面许可并付费，任何单位和个人不得以任何理由及方式使用上述资料（包括但不限于转载、转让、授权他人使用等），否则我司将依法追究其法律责任以及赔偿责任。
观点 © 2001- guandian.cn, All Rights Reserved. 粤ICP备20003243号-1
| 网上110
粤公网安备 44010402001235号
移动端下载