百度开源文心5.5 Flash Base，280B总参数14B激活拿下同尺寸SOTA

百度发布并开源文心5.5 Flash Base（ERNIE-5.5-Flash-Base），采用稀疏MoE架构，总参数280B、每token激活14B，在33.5T tokens上从零预训练，最长训练上下文128K，微调与推理支持1M tokens上下文。