2024-11-05 16:03
腾讯公司宣布推出业界领先的开源MoE大语言模型Hunyuan-Large,总参数量达389B,激活参数52B,训练token数量7T,最大上下文长度256K。
观点网讯:11月5日,腾讯公司宣布推出业界参数规模最大、效果最好的开源MoE大语言模型Hunyuan-Large,标志着该公司在人工智能领域取得重大进展。
该模型的总参数量达到389B,激活参数为52B,训练token数量为7T,最大上下文长度为256K。
审校:杨晓敏
科技
大模型