本文引见了一种名为，的方法，经过将现有的大型言语模型，LLMs，转化为混合专家网络，MoE，，从而处置了训练MoE时遇到的数据饥饿和不稳固性疑问，该方法基于驰名的LLaMA，27B模型，并将其参数分为多个专家，而后对转换后的MoE模型启动继......