2.11 SwiGLU（Swish-Gated Linear Unit）
Intel Foundry exec leaves to head up Qualcomm's semiconductor biz as Intel shake-up continues，推荐阅读91视频获取更多信息
去年7月，月之暗面发布了Kimi K2模型，是全球首个万亿参数、320亿激活的MoE架构模型；11月，其发布了开源巨模型Kimi K2 Thinking，在推理、编码能力的测试上仍保持领先。。关于这个话题，heLLoword翻译官方下载提供了深入分析
Овечкин продлил безголевую серию в составе Вашингтона09:40
Tilly had gene therapy in hospital when she was one