36氪获悉，7月11日晚，国内大模型独角兽月之暗面正式发布并开源了其最新一代MoE架构基础模型Kimi K2，总参数量达到1万亿（1T），Kimi内部则将K2研发群戏称为“接生群”。多位参与“接生”月之暗面 Kimi 教程的Kimi研发人员随后在知乎展开“亲自答”，从多个角度深入讲述了其背后研发历程。作为月之暗面 Infra侧推理方面研发人员，知乎答主刘少伟称K2模型是在
V3结构的框架之下，如何选择合适的参数，使得模型在训练、推理成本与v3相当的前提下，获得明显更低的loss。
版权声明：本文内容由互联网用户自发贡献，该文观点仅代表作者本人。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容， 请联系我们举报，一经查实，本站将立刻删除。
发布者：全栈程序员-站长，转载请注明出处：https://javaforall.net/270694.html原文链接：https://javaforall.net
