Sebastian Raschka|本人博客 RSS·发布时间:
文本聚焦后训练:以 Ember-1 为例
Focusing on Post-Training
内容导读
Fireworks 基于 Kimi K3 后训练得到 Ember-1,使其 token 用量减少约 40%,同时在评测中保持相近质量。训练重点是让模型生成更短的推理过程,具体算法尚未充分披露。Sebastian Raschka 建议在预算有限时基于现有开放权重模型,将资金投入后训练。
来源:Sebastian Raschka|本人博客 RSS · sebastianraschka.com