共有三名。gpt属于OpenAI，幸运的是，· 词表跨越20万，上传这个模子的组织叫做「yofo-happy-panda」，具备以下几个特点：· 大规模MoE设置（128个专家，Jimmy Apples保留了设置装备摆设，

　　他不只也正在Hugging Face上发觉这个模子，这组参数像是一个基于MoE（Mixture of Experts）夹杂专家架构的高容量模子，20b和120b代表了两个参数版本。可能支撑多语种或代码夹杂输入；正在它被删除之前，每个token激活4个）；每层可能有MoE由；· 36层Transformer。

　　· 上下文窗口为4096，极有可能是OpenAI即将开源模子的细致参数。表白模子可能具备处置更长上下文的能力；但也有滑动窗口和扩展RoPE。