腾讯发布开源MoE大语言模型Hunyuan-Large

观点网

2024-11-05 16:03

  • 腾讯公司宣布推出业界领先的开源MoE大语言模型Hunyuan-Large,总参数量达389B,激活参数52B,训练token数量7T,最大上下文长度256K。

    观点网讯:11月5日,腾讯公司宣布推出业界参数规模最大、效果最好的开源MoE大语言模型Hunyuan-Large,标志着该公司在人工智能领域取得重大进展。

    该模型的总参数量达到389B,激活参数为52B,训练token数量为7T,最大上下文长度为256K。

    审校:杨晓敏



    相关话题讨论



    你可能感兴趣的话题

    科技

    大模型